Urodzony w rodzinie Roberta i Jeanne. Jest najstarszy z pięciorga rodzeństwa. Studiował w seminarium św. Pawła w Minneapolis, gdzie uzyskał tytuł bakałarza z filozofii w 1966. Święcenia kapłańskie otrzymał 23 maja 1970. Podjął dalsze studia w rodzimym seminarium, a następnie, w 1979, uzyskał licencjat z prawa kanonicznego na Uniwersytecie Amerykańskim w Waszyngtonie. Był sędzią w trybunale archidiecezjalnym i kanclerzem archidiecezji St. Paul i Minneapolis[1].
19 listopada 1983 otrzymał nominację na biskupa pomocniczego rodzinnej archidiecezji ze stolicą tytularną Avioccala. 11 stycznia 1984 odbyła się konsekracja biskupia, której dokonał John Robert Roach, ówczesny arcybiskup St. Paul i Minneapolis. Dziesięć lat później, 13 stycznia 1994 został koadiutorem biskupa Sioux Falls w Południowej Dakocie. Rok później objął rządy w diecezji jako ordynariusz[2]. 29 grudnia 2004 otrzymał kolejną nominację, tym razem został biskupem Saginaw w stanie Michigan[1]. 24 lutego 2005 kanonicznie objął urząd[2].
21 kwietnia 2009 został mianowany następcą abpa Burka w Saint Louis[3]. Ingres odbył się 10 czerwca 2009[2]. Paliusz otrzymał z rąk Benedykta XVI na uroczystości w Rzymie 29 czerwca 2009. Abp Carlson jest konserwatystą, zakazał m.in. udzielania komunii politykom, którzy popierają aborcję. Konserwatywne poglądy ma też względem teologii.
