En 1926 viaxou a París, cidade onde coñeceu a obra de Le Corbusier. No ano seguinte incorporouse ao obradoiro de Le Corbusier, no cal colaborou varios anos, e co que realizou o Plano Macià para remodelar a cidade condal .
En 1930 comezou a proxectar os primeiros edificios, que reflectían xa a cor branca e a profusión lumínica, carácter eminentemente mediterráneo. Edificios, á vez, de clara tendencia racionalista, que eluden calquera ornamentación ou elemento innecesario. Desta época destacan o Dispensario Antituberculoso e un edificio na rúa Muntaner de Barcelona.
Cofundador do GATCPAC (Grup d'Arquitectes i Tècnics Catalans per al Progrés de l'Arquitectura Contemporània), no ano 1941, emigrou para os Estados Unidos, onde creou, xunto outros arquitectos o Town Planning Associates (Asociación de Planificación Urbana), obradoiro de arquitectura que proxectou diversos planos urbanísticos, entre os cales, un plano piloto para a cidade da Habana, Cuba.
Profesor de Arquitectura na Universidade Yale, no ano 1953 foi nomeado decano da Escola de Deseño da Universidade Harvard, cargo que exercería até fins do ano 1969. En 1955 abriu un novo despacho de arquitectura con diversos socios, que realizou numerosos proxectos nos Estados Unidos, tanto de tipo comercial, como residencial, institucional e incluso para oficinas. No contorno da Universidade Harvard deseñou diversos edificios que forman parte das súas obras máis representativas e nas que se reflicte a atmosfera mediterránea, que Sert conservou nos seus deseños ao longo da súa vida profesional.