Studiował w Saint Thomas College w Scranton, Seminarium Św. Józefa w Yonkers (Nowy Jork) oraz Szkole Nauk Społecznych w Nowym Jorku. Święcenia kapłańskie przyjął 21 maja1921 w Nowym Jorku.
Przez kilkanaście lat pracował w kościelnych instytucjach dobroczynnych (m.in. jako dyrektor wykonawczy Katolickich Instytucji Dobroczynnych w Nowym Jorku). Otrzymał tytuły honorowe tajnego szambelana papieskiego (1941) i prałata domowego (1944).
26 czerwca1967papież Paweł VI kreował go kardynałem, nadając tytuł prezbitera San Nicola in Carcere. W marcu 1973 w związku z osiągnięciem wieku emerytalnego O’Boyle złożył rezygnację z rządów archidiecezją waszyngtońską. Kończąc 80 lat w lipcu 1976 utracił prawo udziału w konklawe i nie uczestniczył w dwukrotnych wyborach papieża w 1978.