Zakarias Nielsen var søn af smedemester Niels H. Rasmussen og hustru Olavia, født Storm, der var skolelærerdatter. Hans morfars lærergerning havde tidligt betydning for hans valg af uddannelse, og i 1863 som knapt nittenårig dimitteredes han som lærer fra Jonstrup Seminarium.
I 1868 overtog Zakarias Nielsen embedet som lærer og organist i Herstedvester. Også her øvede han folkeoplysende arbejde. For hans forfatterskab fik det stor betydning, at han i denne periode fik kontakt med H.V. Kaalund og Christian Richardt. I 1884 søgte han sin afsked på grund af svækket helbred.
Tre af familiens fem børn døde i tiden i Herstedvester, og i 1887 døde hans hustru. Sin bog Erindringer slutter han således:
"I modgangens skole, denne udmærkede opdragelsesanstalt, har jeg fået mange undervisningstimer. "Gud ske lov!" siger jeg. – Jeg er af den mening, at mine dybe, sande hjertesorger har haft mindst lige så megen betydning for min livsudvikling som den rige lykke, jeg har nydt, ja, sikkert mere. Mest er jeg vokset efter prøvelser; i de mørke timer lærte hjertet at være taknemmeligt for enhver lille lysstribe, der stod ind ad vinduet. Efter de tungeste kamptider slog hjertet sine kraftigste slag, blev følsomt, blev rummeligt, så lykken, da den atter meldte sig, føltes tifold rig og varm."
Da Zakarias Nielsen kom til Herstedvester, havde han allerede i flere år arbejdet med på forskellige folkelige tidsskrifter, og fra 1873 var det bl.a. N.C. RomsHusvennen. Hans mål var dog at blive en rigtig digter.
Hans første bog, Sange og Smaadigte, udkom i 1871, Tre Fortællinger i 1876 og To Landsbyhistorier i 1878. Først ved den næste udgivelse, Nye Tider i 1881, slog han igennem. Flere af hans romaner og digte udkom i adskillige oplag og var, foruden i Danmark, populære blandt skandinaver i Nordamerika. Mest kendt var romanen Mågen (1902) der nu er ganske glemt i Danmark.
Forfatterskabet kom til at indbefatte både romaner, fortællinger og anden prosa, digte og sange samt dramatik. Nye Tider og lystspillet Selvstyre blev opført på Folketeatret i hhv. 1885 og 1888 og Ellen Vaage på Dagmarteatret i 1896.