Si è formato tra Heidelberg, Parigi e Vienna, dove ha svolto attività di ricerca presso il Naturhistorisches Museum.
Ha insegnato paleontologia prima a Leopoli, poi al politecnico di Karlsruhe (1863) e infine, nel 1866, all'ateneo di Monaco. In questo periodo si è interessato, tra l'altro, dei bivalvicretacichi di Gosau. Dal 1869 ha diretto il periodico «Palaeontographica» e dal 1880 è stato direttore del museo di storia naturale di Monaco. Tra il 1873 e il 1874 ha fatto parte della spedizione di Gerhard Rohlfs nel deserto libico.
Von Zittel è stato autore di numerose pubblicazioni di geologia, zoologia e - soprattutto - paleontologia. In tal senso, il suo principale lavoro, il Manuale di Paleontologia (in tedescoHandbuch der Palaeontologie, uscito in 5 volumi tra il 1876 e il 1893, resta ancora insuperato[1]. Nel 1899 ha pubblicato un'importante storia dei progressi della geologia e della paleontologia durante il XIX secolo (sotto il titolo di Geschichte der Geologie und Palaeontologie bis Ende des 19. Jahrhunderts).
