Hij werd in 1909 onderstaatssecretaris in het Pruisische ministerie van Financiën en na het uitbreken van de Eerste Wereldoorlog in 1914 leider van het rijksbureau voor graan (Reichsgetreidestelle), in welke hoedanigheid hij gedurende de oorlog verantwoordelijk was voor de distributie van Pruisische graanproducten. In 1917 werd hij bevorderd tot secretaris-generaal voor voedselvoorziening.
Toen Theobald von Bethmann Hollweg door de Oberste Heeresleitung tot aftreden werd gedwongen, werd de relatief onbekende Michaelis op 17 juli1917 tot veler verbazing als zijn opvolger tot rijkskanselier en premier van Pruisen benoemd. Hij was daarmee de eerste niet-adellijke rijkskanselier.
Reeds vijf dagen na zijn aanstelling jaagde hij door zijn houding jegens de vredesresolutie van Matthias Erzberger - die hij door de toevoeging "zoals ik ze opvat" praktisch waardeloos maakte - de meerderheidspartijen in de Rijksdag tegen zich in het harnas. Bovendien verzette hij zich tegen de door deze voorgestelde liberale hervormingen. Op het vredesvoorstel van paus Benedictus XV gaf hij geen duidelijke reactie. Als premier van Pruisen hield hij een hervorming van het kiesstelsel tegen.
Omdat hij steeds meer als een marionet van Paul von Hindenburg en Erich Ludendorff werd gezien, werd Michaelis op 31 oktober1917 - slechts drieënhalve maand na zijn aanstelling - gedwongen af te treden. Een poging wel premier van Pruisen te blijven mislukte. Hij weigerde een functie in het kabinet van zijn opvolger Georg von Hertling.