Joe Sullivan a grandi à Timmins, en Ontario[1]. Dans sa jeunesse, il jouait du piano, puis de la trompette à l’adolescence et enfin de la trompette classique à l’université d'Ottawa[2]. Poussé par son amour du jazz, il se perfectionne d’abord à la Berklee School of Music[1], puis obtient une maîtrise au New England Conservatory of Music de Boston[3], où il a été étudiant de Jimmy Giuffre et George Russell[1],[4]. Après ses études, il s’est installé à Montréal (Québec) pour jouer, composer, arranger, diriger des orchestres et enseigner.
Son groupe, le Joe Sullivan Big Band, originaire de Montréal, fait ses débuts scéniques au Concordia Concert Hall en 1999[3]. Un premier album homonyme sort en 2002 au label Effendi Records[5]. Un deuxième, sous le titre Stop and Listen, voit le jour en 2006 toujours chez Effendi[6]. Le dernier en date, Unfamiliar Surroundings, sort en 2017 chez Effendi Records et Perry Lake Records. En 2022, Joe Sullivan compte donc trois disques à titre de leader sur l'étiquette montréalais Effendi Records[7].
Sullivan collabore aussi régulièrement avec l'Orchestre National de jazz de Montréal (ONJM) à titre d'arrangeur, compositeur et chef d'orchestre. Il a d'ailleurs a composé et arrangé Pandemonia pour l'ONJM[8]. En parallèle, il enseigne la composition jazz, l’arrangement musical et la trompette à la Schulich School of Music de l’Université McGill[9].