Prvi začetki šole na Vrhniki segajo v dobo cesarice Marije Terezije (1740-1780). V tistih časih je bilo težko s poukom, saj ni bilo primernih prostorov, knjig in tudi ne primernih učiteljev. Domnevajo, da so otroci bogatejših Vrhničanov obiskovali šolo v bistriškem samostanu, dokler niso ustanovili prve šole na Vrhniki.
1796 je bila ustanovljena prva šola, enorazrednica, ki je bila nameščena v mežnariji na Hribu. Prvi učitelj je bil Ozidek Janez, ki je bil hkrati tudi cerkovnik in organist.
1824 se je šola razširila v dvorazrednico. Dve učilnici so si uredili v Jelovškovi hiši 196.
1852 je dobila vrhniška občina lastno šolsko poslopje. V popravljenem poslopju prejšnje mežnarije so uredili dve učilnici in stanovanje za učitelja. Šola je kmalu postala pretesna, saj se je leta 1876 razširila v štirirazrednico, vpeljali so poldnevni pouk.
1876 so se odločili za zidavo novega šolskega poslopja sredi trga v bližini Lenarčičeve hiše. Takratni župan Gabrijel Jelovšek si je ogledal več šol v okolici Dunaja.
1901 je po njegovih navodilih dunajski arhitekt F. Kaudel dokončal načrte za novo šolo.
1903 so začeli z zidavo nove šole. Dela so hitro napredovala, decembra 1904 je bila že dograjena moderna, vsem predpisom ustrezajoča šola. Imela je svetle, zračne učilnice z velikimi okni in centralno kurjavo, ki je bila takrat pri nas še povsem neznana.
1905 učilnic v stari šoli januarja zaradi hudega mraza ni bilo mogoče dovolj segreti. 26. januarja je vrhniški dekan blagoslovil novo šolo, 30. januarja pa se je v toplih novih učilnicah začel pouk.
1910 se je šola razširila v petrazrednico, 1911 pa v šestrazrednico. Tega leta je začela delovati v šolskih prostorih tudi obrtno nadaljevalna šola.
1914 je morala šola prepustiti vse šolske prostore rekrutom. V šoli je bil nastanjen 7. lovski bataljon, kasneje vojaški delavci, v kleti pa so bile ječe.
Učenci so imeli pouk v gostilniških prostorih Črnega orla, v zgornjem nadstropju mlekarne, v Društvenem domu.
1917 se je naselil v šolo Feldspital – vojaška bolnica.
V novi državi Jugoslaviji je dobila Vrhnika osemrazrednico.
1941 je šolsko poslopje najprej služilo jugoslovanski vojski, kasneje pa tujim četam za vojaško bolnico, pisarne in bivališča.
1945 se je začel reden pouk, čeprav s skromnimi učili in opremo.
1949 je bila na šoli odprta Državna nižja gimnazija.
1958 sta se osnovna šola in gimnazija združili v I. osnovno šolo Janeza Mraka.
1961 je bila 16. septembra slovesna otvoritev novega šolskega poslopja osnovne šole Ivana Cankarja.
1979 je bil izpeljan referendum za združitev obeh šol. 1. januarja 1980 sta se šoli združili. Nastala je šola z imenom OSNOVNA ŠOLA IVAN CANKAR. Šola se je reorganizirala in razdelila na razredno stopnjo v starem poslopju in predmetno stopnjo v novi zgradbi.
Organizacijsko se šola do danes ni spremenila, nosi še vedno pisateljevo ime in sodi med večje šole v državi.