Après des études de philologie romane à l'iniversité de Berlin, il devient professeur à Luckenwalde, Lyon et Sheffield, après avoir été refusé dans le système prussien à cause de son engagement politique. Après la Première Guerre mondiale, il rejoint le SPD et est élu maire de Lankwitz qui est incorporé dans Berlin en 1920 ; plus tard, il devient maire de Finsterwalde, en Lusace. Il est élu en 1926 maire de Berlin-Prenzlauer Berg mais il est démis de ses fonctions par l'arrivée des nazis au pouvoir en 1933 à cause de ses origines juives. Après la Seconde Guerre mondiale, Ostrowski devient maire de Berlin-Wilmersdorf.
Le , il est élu bourgmestre-gouverneur de Berlin. Il assiste alors à la fusion de la section du SPD à Berlin-Est avec le KPD pour former le SED et se montre prêt à collaborer avec ce nouveau parti. Grâce à sa bonne entente avec le commandant soviétique, il obtient l'abattage de plus d'arbres pour lutter contre la pénurie durant l'hiver 1947. Lorsqu'il refuse de licencier les fonctionnaires du SED, on présente le une motion de censure contre lui qui est adoptée par un vote à la majorité.
Le , Ostrowski démissionne. Ernst Reuter est choisi le mais ne prend pas ses fonctions en raison du veto soviétique. C'est finalement Louise Schroeder qui lui succède. Il devient président de la Cour des comptes, institution nouvellement créée, de 1948 à 1951.
Norbert Podewin(de): Otto Ostrowski – der gelöschte Oberbürgermeister. Ein Schicksal im Berlin des Kalten Krieges. Édition Luisenstadt, Berlin 2004, (ISBN3-89542-143-X).
Werner Breunig, Andreas Herbst: Biografisches Handbuch der Berliner Stadtverordneten und Abgeordneten 1946–1963. Landesarchiv Berlin, Berlin 2011, (ISBN978-3-9803303-4-3), S. 206.
Ditmar Staffelt(de): Der Wiederaufbau der Berliner Sozialdemokratie 1945/46 und die Einheitsfrage – ein Beitrag zur Nachkriegsgeschichte der unteren und mittleren Organisationsgliederungen der SPD. Verlag Peter Lang, Frankfurt am Main/Bern/New York 1986, (ISBN978-3-8204-9176-0), S. 433.