Ottaviani naskiĝis en malriĉa familio de roma popola kvartalo Trastevere, filo de bakisto Enrico Ottaviani kaj de dommastrino Palmira Catalini. Li iĝis pastro la 18an de marto1916. En marto 1922 li iĝis persona sekretario de la papo Pio la 11-a. Li enposteniĝis en la vatikana Ŝtata Sekretariejo en 1928.
Li estis rigora subtenanto de la tradicioj kaj oponanto de la reformuloj ene de la Katolika eklezio. Verkojn kelkajn liajn en germana traduko eldonis Eldonejo Sarto.