Jack DeJohnette négytől tizennégyéves koráig tanult zongorázni. A chicagói American Conservatory of Musicon tanult. A középiskolában már inkább a dobolt. Zenei példaképe akkoriban Max Roach volt. Chicagóban a rhythm and bluestól a free jazzig mindent játszott.
1966-ban New Yorkba költözött, ahol John Patton orgonistával, Jackie McLeannel, Betty Carter és Abbey Lincolnnal dolgozott. 1966-69 között Keith Jarretttel a Charles Lloyd Quartet tagja volt, amely nemzetközileg is ismertté tette. A Lloyd's csoport volt az első dzsesszzenekar, amely rock-közönségnek is játszott. DeJohnette többször utazott velük Európába és a Távol-Keletre.
Miután 1968 novemberében játszott néhány alkalommal Miles Davisszel és a zenekar tagja lett.
Miután elhagyta Miles Davist, a fúziós zenekart alapított. 1978-79 között Lester Bowie, Eddie Gómez, Terje Rypdal, John Surman, Kenny Wheeler és Jan Garbarek felvételein is részt vett. Az 1970-es években az ECM Records munkatársa volt. 1976-tól kezdve számos album jelent meg saját neve alatt, amelyeken DeJohnette is orgonál és zongorázik. 1979-ben a „Special Edition” és az „Album Album” a Down Beat olvasói szavazását megnyerte. Az Irresistible Forces (1987) lemeze fiatal zenészekkel egészült ki.
A nyugat-afrikai kora-játékosFoday Musa Suso-val 2005-ben megalapította saját független kiadóját (Golden Beams Productions).