Austrijsko Carstvo je vlast u Bukovini preuzelo 1775. godine, a administrativno središte ovoga kotara u okviru Galicije postali su Černivci. U periodu vladavine Josefa II regija je naseljavana Podunavskim Nijemcima koji su većinom dolazili iz Švapske. Ova je populacija uz potporu austrijske administracije osnovala više obrazovnih institucija na njemačkom jeziku, a među njima i gimnazije u Černivcima i Sučavi na sjeveroistoku današnje Rumunije. Kako su diplomci ovih gimnazija još uvijek morali odlaziti na zapad imperije radi visokog obrazovanja, lokalne su vlasti počele razvijati planove za osnivanje univerziteta.
Univerzitet Franje Josifa
Razglednica sa zgradom univerziteta sa početka 20. vijeka
Nakon što je Univerzitet u Lavovu uveo poljski jezik kao nastavni jezik 1871. godine, liberalni član kotarskog komiteta Constantin Tomashchuk koji je bio i član Carevinskog vijeća, pozvao je na osnivanje germanofonog univerziteta u multujezičnim Černivcima (Czernowitz) koji se nalaze 740 kilometara od glavnoga grada Beča. 1874. austrijskom ministru obrazovanja Karlu von Stremayru poslana je peticija na osnovu koje je car donio odluku o osnivanju univerziteta koju su dva doma Carevinskog vijeća potvrdili 13. i 20. marta 1875. godine. Istom prilikom su za registraciju univerziteta bili prijavljeni i Trst, Olomouc, Brno, Ljubljana i Salzburg međutim njihove peticije nisu tada usvojene.
Univerzitet je otvoren na carev imendan 1875. što je bilo stotinu godina nakon što je ova regija uključena u sastav carstva. Univerzitet je pokrenut na osnovama Visoke teološke škole u Černivcima i prvi mu je rektor bio Konstantin Tomaščuk. Inicijalno je nastavni jezik na univerzitetu bio njemački uz odvojena odjeljenja za ukrajinski i rumunski jezik i književnost. U periodu austro-ugarske vlasti univerzitet je bio podijeljen na tri fakulteta; na Fakultet pravoslavne teologije (jedini u srednjoj Evropi toga vremena), Pravni fakultet i Filozofski fakultet. Kako bi studirali medicinske nauke studenti su još uvijek morali odlaziti na studije na Jagelovski univerzitet u Krakovu. S vremenom su uz njemački i predavanja na rumunskom i danas izumrlom rutenskom jeziku. U prvim je godinama većina studenata dolazila iz jevrejske i njemačke zajednice dok su Ukrajinci i Rumuni činili između 20 i 25% studentskog tijela. Na univerzitetu je u tom periodu bilo aktivno više od 40 studentskih organizacija i bratstava.
U periodu Prvog svjetskog rata grad se našao na liniji borbe na austro-ugarskih i snaga Ruske Imperije na istočnom frontu što je imalo snažan utjecaj i na rad univerziteta. Bez obzira na to, planovi o premještanju institucije u Salzburg nailazili su na otpore. U junu 1918. univerzitet je nastavio sa radom nakon Mira u Brest-Litovsku potpisanog sa Sovjetskom Rusijom.
