Op 14 mei 1879 werd besloten de Kleine Polder onder Haarlemmerliede en Spaarnwoude weer van een eigen windmolen te voorzien. Tot dan toe werd die polder bemalen door de molen van de Grote Polder en stond er in voor de (iets lager gelegen) Kleine Polder een grote weidemolen. Kennelijk voldeed die situatie niet. De bouw werd reeds op 31 mei 1879 aangenomen door Willem Rus, molenmaker te Nieuwe Niedorp, voor een bedrag van ƒ 7700,--.

De Kleine Molen is in 1944 buiten bedrijf gekomen, toen zowel de Grote als de Kleine polder op last van de Duitse bezetter onder water moesten worden gezet. Het gemaal van de Grote polder werd onklaar gemaakt; uit de molenwielen werden alle kammen verwijderd (die later werden aangetroffen in Emmen!). 
Direct na de bevrijding heeft de molen mogelijk nog meegeholpen om de ondergelopen polders weer droog te malen, maar in diezelfde tijd werd de houten vijzel afgekeurd. In de molen werd een kleine stalen vijzel (capaciteit 5,4 m3 p.m.), aangedreven door een elektromotor, aangebracht. De molen zelf was niet meer maalvaardig, stond stil en raakte in verval.

In 1963/'64 volgde een grote uitwendige restauratie door molenmaker Jongejans (Westzaan): nieuwe staart en houten roeden. Gedraaid werd er evenwel nooit en ook een bliksembeveiliging was niet aanwezig.
Dat laatste werd pijnlijk duidelijk op 31 maart 1967, toen de bliksem de molen trof en de molen vervolgens in brand raakte. De schade was enorm maar de molen bleef overeind: uitgebrand en geheel verkoold zou hij tot het voorjaar van 1972 blijven staan.
Waarom werd deze molen pas 5 jaar na de brand hersteld? In 1968 was de polder als bestuurlijke eenheid opgeheven en had de gemeente Haarlem de rechten en plichten overgenomen. De bemaling geschiedde inmiddels via een nieuw met pompen uitgerust elektrisch gemaal, op een andere plaats dan de molen. Het heeft even geduurd voordat de molen, die immers geen enkele functie meer had, weer onder de aandacht kwam en voor restauratie - als monument - in aanmerking kwam.

De restauratie van 1972/'73 voltrok zich tamelijk apart: molenmaker Fray liet het achtkant wegtakelen op een dekschuit en vervoerde het naar zijn werkplaats in Westzaan. Zo restaureerde hij de molen als het ware in zijn achtertuin.
Het oude grenen achtkant werd vrijwel geheel weer gebruikt; ook de houten buitenroede en de ijzeren bovenas hadden de brand overleefd. De kap werd, evenals de staart, geheel nieuw.
Nadat de molen was hersteld, werd deze in onderdelen teruggezet op zijn fundering en ter plekke verder draaivaardig gemaakt. Een nieuwe gelaste binnenroede werd gestoken; zo heeft deze molen nog jaren gefunctioneerd met een ijzeren en een houten roede.

Maalvaardig werd de molen niet meer: Haarlem was, als stad zonder molentraditie, daarvoor nog niet rijp. De molen hoefde slechts te dienen als landschapsverfraaiend element en dat hij weer kon draaien was mooi meegenomen. 
Nieuw voor die tijd was de vrijwillige molenaar: Cees van Dijk, vervroegd gepensioneerd, toe aan een nieuwe uitdaging én net geslaagd voor zijn molenaarsexamen, kon hier meteen aan de slag. Het werd een groot succes: de molen draaide vaak, bezoek was altijd welkom en ook maakte hij diverse jongeren enthousiast voor molens en molenaarschap.

Helaas moest de molen in 1985 worden stilgezet: de molen ging sterk verzakken en daarnaast bleken sommige onderdelen in minder goede staat. De houten buitenroede, na de brand van 1967 opnieuw gestoken, was nu echt 'op'. In 1989 ging beide roeden eruit. 
In 1990 volgde een grote restauratie: nieuwe fundering, buitenroede en middelbalk. Vanaf 1991 draaide de molen weer. 

Oorspronkelijk was deze molen nagenoeg geheel gemaakt van grenenhout en kruide de kap op houten rollen. In 1973 is een geheel nieuwe kap gemaakt, die sindsdien op klossen kruit. Met uitzondering van het (van elders afkomstige) bovenwiel en de (na de brand schoongedisselde) koningspil zijn er geen gaande werken meer aanwezig. Slechts de kleine, uit 1945 daterende, motorvijzel ligt, in slechte staat, nog steeds in de achterwaterloop.

Molenaars van De Kleine Molen:
? (1880 - 1893)
S. van Wetering (1893 -1898)
P. van Wetering (1898 - 1900)
Jan van Bruggen (1900 - 1905)
J.P. Buijs (1905 - 1906)
C. Buijs (1906 - ?)
G. van Opzeeland (? - 1930)
P. van Opzeeland (1930 - 1934)
Jaap van Opzeeland (1934 - 13-8-1945)
Th.A. Mesman, machinist (1945(?) - 1964)
O.N. Huiberts, machinist (1964 - 1967, totaan de brand).
N.B. Dhr. Huiberts kreeg per 1 augustus 1968 eervol ontslag naar aanleiding van de opheffing van de polder.