Hij groeide op in zijn geboortedorp. Zijn moeder Sarah Makem, was ook een bekende traditionele zangeres. Na zijn vertrek naar de Verenigde Staten in 1955 ging hij samenwerken met The Clancy Brothers.
Makem verliet de groep in 1969 en verkoos een solo-loopbaan. In 1975 werden hij en Liam Clancy geboekt voor een folkfestival in Cleveland (Ohio) als duo. Daarna traden zij op als Makem and Clancy en produceerden diverse albums. Hij ging weer solo werken in 1988.
Makem woonde in Dover (New Hampshire) en bleef doorgaan met optreden en albums maken. Zijn zoons Shane, Conor en Rory, dat zijn de The Makem Brothers en neef Tom Sweeney zetten de muzikale traditie van de familie voort.