Po przeprowadzce realizował pasję muzyczną, śpiewając w kawiarni, w której pracował jako kelner. Ze swoim debiutem nie wiązał większych oczekiwań:
Nawet nie marzyłem, że moje piosenki znajdą się na listach przebojów, albo że będę udzielać wywiadów. Byłem po prostu muzykującym kelnerem. Nic się nie zmieniło.
Profesjonalną karierę muzyczną rozpoczął w 2002, podpisując kontrakt z wytwórnią Elektra Records. Powróciwszy do Wirginii, rozpoczął pracę z producentem Johnem Alagía nad materiałem na debiutancki album. Płyta pt. Waiting for My Rocket to Come ukazała się 15 października 2002, dotarła do drugiego miejsca notowania Billboard Heatseekers, a w lipcu 2004 uzyskała status platynowej płyty. Pierwszy singel z albumu, „The Remedy (I Won’t Worry)”, został napisany przez Mraza we współpracy z grupą produkcyjną The Matrix. W pracy nad albumem pomógł również przyjaciel i były współlokator Mraza, Billy „Bushwalla” Galewood, z którym wspólnie napisał „Curbside Prophet”, trzeci singel z albumu, oraz „I’ll Do Anything”.
W czerwcu i lipcu 2005 wystąpił z Alanis Morissette podczas jej trasy koncertowej Jagged Little Pill Acoustic. 26 lipca wydał pod szyldem wytwórni Atlantic Records drugi album studyjny pt. Mr. A-Z, który uplasował się na piątym miejscu listy Billboard 200 oraz przyniósł mu nominację do nagrody Grammy za „najlepszy album roku”. 12 września rozpoczął długą trasę koncertową, podczas której wystąpił z wieloma artystami, takimi jak Bushwalla czy Tristan Prettyman, z którą skomponował duet „Shy That Way” oraz „All I Want for Christmas Is Us”. W listopadzie wystąpił u boku The Rolling Stones, dając pięć koncertów podczas ich światowej trasy koncertowej. W tym samym roku był jednym z piosenkarzy uczestniczących w jesiennej kampanii reklamowej firmy odzieżowej GAP pod nazwą Favorites. W grudniu wypuścił pierwszą część swojego podkastu.
W maju 2006 podczas swojej trasy koncertowej koncertował przeważnie na festiwalach muzycznych i małych miejscowościach w Stanach. Występował też w Wielkiej Brytanii i Irlandii. 6 maja zagrał koncert akustyczny z P.O.D., Better Than Ezra, Live i The Presidents of the United States of America. Wystąpił również jako główna postać na corocznym festiwalu Fair St. Louis organizowanym w Saint Louis, a 1 lipca 2006 zagrał tam darmowy koncert u stóp Gateway Arch. W grudniu udostępnił cyfrowo swój nowy album, zatytułowany Selections for Friends, zawierający jego ulubione piosenki zarejestrowane na koncertach w Schubas Tavern oraz Villa Montalvo podczas Songs for Friends Tour. W 2007 wydał singiel „The Beauty in Ugly”, który nagrał na potrzeby serialu Brzydula Betty. Piosenka znalazła się na promocyjnej płycie Be Ugly in ’07 przygotowanej przez sieć medialną ABC. Nagrał również hiszpańską wersję utworu – „La nueva belleza”.
13 maja 2008 wydał album studyjny pt. We Sing. We Dance. We Steal Things, który promował singlem „Lucky”, nagranym w duecie z Colbie Caillat. Inny singiel z albumu, „I’m Yours”, przez trzy tygodnie zajmował pierwsze miejsce na radiowych listach przebojów AAA, a w lipcu znalazł się także na 27. miejscu listy Billboard Hot 100.
Pod koniec stycznia 2010 zdobył dwie statuetki Grammy za wygraną w kategoriach: „najlepsze męskie wykonanie pop” (z piosenką „Make It Mine”) i „najlepsze wykonanie pop” (z piosenką „Lucky” w duecie z Colbie Caillat). Również w 2010 wziął udział w nagraniu nowej wersji singla „We Are the World”, zyski ze sprzedaży którego wsparły poszkodowanych w wyniku trzęsienia ziemi na Haiti. Jesienią wydał album ze zdjęciami pt. Tysiąc rzeczy, zawierający jego zdjęcia wykonane polaroidami.
Wiosną 2012 wydał kolejny album studyjny pt. Love Is a Four Letter Word, który dotarł do drugiego miejsca listy Billboard 200. Promował go singlem „I Won’t Give Up”, z którym dotarł do ósmego miejsca listy Billboard Hot 100 i pierwszego miejsca na liście utworów Digital.
15 lipca 2014 wydał piąty album studyjny pt. Yes!, który nagrał z Raining Jane. W 2018 wydał szósty album pt. Know, promowany singlem „Have It All”, do którego nagrał teledysk z udziałem studentów sztuk scenicznych z Richmond.
W 2020 wydał siódmy album pt. Look for the Good. Jesienią 2023 wystąpi w 32. edycji programu Dancing with the Stars[2].
Działalność społeczna
Udziela się charytatywnie. W listopadzie 2009 uczestniczył w kampanii Vow of Silence, która zakłada 24-godzinne milczenie w celu zwrócenia uwagi na ograniczanie praw dzieci. Uczestniczył również w kilku protestach dotyczących legalizacji marihuany.
Życie prywatne
W 2001 był mężem Sheridan Edley. Od 2015 jego żoną jest Christina Carano. W 2018 ujawnił się jako biseksualista[3].
Twórczość
W swojej twórczości opiera się na różnych stylach muzycznych, takich jak pop, rock, folk, jazz, country czy hip-hop.