Ullman finns bland annat representerad i Den svenska psalmboken 1986 med bearbetningen av ett verk (nr 554). Sin stora insats gjorde Ullman genom sitt arbete för gudstjänstlivets förnyelse och främst med den nya kyrkohandbok för Svenska kyrkan som antogs 1894. Den innebar en vändning från den upplysningspräglade och liturgiskt nedtonade kyrkohandboken 1811 till en historisk återknytning till gudstjänstens hävdvunna moment. Han fick stort inflytande genom sin bok Evangelisk-luthersk liturgik, från 1874–1875, där han eftersträvade en omväxlande och spännande utformad av ny liturgi, med en omväxling i böner, musik, texter och liturgiska färger. Han såg liturgin som en sammanhållen teologisk enhet och som ett allkonstverk och en mötesplats mellan Gud och människan [1]. Boken är utgångspunkten för det liturgiska förnyelsearbete som präglat Svenska kyrkan under hela 1900-talet. Ullman var starkt påverkad av Martin Luther och tyska nylutherdomens teologi och liturgi, av bland andra Wilhelm Löhe och den teologiska fakulteten i Erlangen, där han studerat i flera år.
Oloph Bexell, "Serenius och Ullman – två biskopar med internationell inspiration." Öppna gränser. Ekumeniskt och europeiskt i Strängnäs stift genom tiderna. Red. av Samuel Rubenson. (Skrifter utg. av Samfundet Pro Fide et Christianismo 14.) Stockholm 1992.
Oloph Bexell, "Biskop Ullman och väckelsen." Till hembygden. En hälsning till församlingarna i Strängnäs stift årg. 85, 1988.
Emil Liedgren, "Biskop U.L. Ullman." Tidskrift för kyrkomusik och gudstjänstliv årg. 5, 1930.-
Gustaf Lizell, "U.L. Ullman och det svenska gudstjänstlivet." Tidskrift för kyrkomusik och gudstjänstliv årg 3, 1928
Carl Lönroth, "Uddo Lechard Ullman". Julboken till församlingarna i Göteborgs stift årg. 4 1930.