Ukończył Szkołę Rzemiosła w Stuttgarcie (1840–1843), studiując m.in. u Johanna Matthäusa Maucha i Gustava Adolfa Breymanna[1]. W latach 1843–1848 odbył praktykę kamieniarską przy budowie katedry kolońskiej, zakończoną zdobyciem tytułu mistrza[1]. Od 1851 pracował jako samodzielny architekt, realizując projekty restauracji obiektów sakralnych. W 1856 zdał egzamin na architekta w berlińskiej Akademii Budowlanej[2]. Jednak wkrótce z uwagi na wyznanie ewangelickie zaczął otrzymywać coraz mniej zleceń – w 1858 przeszedł na katolicyzm[1].
Od 1857 pracował w Mediolanie, gdzie w 1858–1859 wykładał architekturę średniowieczną w tamtejszej Akademii Sztuk Pięknych[1]. W 1859 został profesorem Akademii Sztuk Pięknych w Wiedniu[1]. W 1865 otrzymał na tej uczelni stanowisko kierownika katedry architektury[2].
Von Schmidt specjalizował się w restauracji i budowie obiektów sakralnych. W 1863 został budowniczym katedralnym przy katedrze św. Szczepana, prowadzać prace restauracyjne przez trzy dziesięciolecia[1]. W Wiedniu wiele jego projektów wykonywał budowniczy Josef Hlávka.
W 1883 został honorowym obywatelem Wiednia. W 1886 został nobilitowany i otrzymał tytuł barona. W latach 1866–1870 był członkiem wiedeńskiej rady miejskiej, a od 1889 Izby Panów[3]. Pochowany na Cmentarzu Centralnym w Wiedniu.
Wybrane dzieła
1852 – pomnik 123 weteranów wojen wyzwoleńczych 1813–15 w Krefeld
1855–1858 – kościół katolicki św. Matyldy w Quedlinburgu
1857–1859 – kościół katolicki św. Gertrudy w Krefeld-Bockum
1868–1869 – kościół katolicki pw. Nawrócenia św. Pawła w Erkelenz-Lövenich
1859 – kościół katolicki pw. św. Maurycego w Hattingen-Niederwenigern
1869–1863 – kościół św. Łazarza w Wiedniu
1863–1866 – Gimnazjum Akademickie w Wiedniu
1866–1869 – kościół katolicki św. Otmara w Wiedniu
1867–1873 – kościół katolicki św. Brygidy w Wiedniu