I 1503 fulgte han med Giuliano da Sangallo til Roma, hvor han senere skulle nyte en rekke pavers gunst. Han var til å begynne med en medarbeider til Raffael og Donato Bramante, som brukte ham til utformingen av kuppelpillarene til Peterskirken i Roma. Bramante gav Sangallo en rekke stadig mer krevende prosjekter der det bare forelå ideskisser, og de kunne Sangallo så fullføre. Etterhvert fikk Sangallo også ansvaret for Passetto di Borgo mellom de pavelige boliger og Castel Sant'Angelo. Dette prosjektet ble imidlertid aldri sluttført, nen det gav ikke desto mindre Sangallo et vedvarende godt renomme som arkitekt.[3]
I 1514 påbegynte Antonio da Sangallo den yngre Palazzo Farnese i Roma, som er hans mest kjente byggverk. Utformingen av dets indre gårdsrom teller blant de mest berømte perstasjoner innen den italienske renessansearkitektur.[4]
På 1540-tallet var han sjefsarkitekt for oppføringen av Peterskirken. Han presenterte noen djerve planer for utformningen, men disse ble forlatt av hans etterfølger, Michelangelo.
Kirken Santa Maria di Loreto befinner seg ved Trajans forum. Den nedre delen av kirkebygget ble tegnet av Sangallo på 1520-tallet. Ut ifra de bevarte tegningene har forskere kunnet fastslå at Sangallo var inspirert av en opprinnelig idé av Bramante.[5]