Il a publié des exercices d'harmonie pour le Conservatoire, et, comme compositeur, est l'auteur d'un ballet représenté en 1914, Hansli le bossu, écrit avec son frère Noël Gallon[2]. Il a également composé une Messe à quatre voix, orchestre et orgue (1898), Six Antiennes pour orchestre à cordes et orgue (1899), de la musique de chambre et des mélodies[2].
Les œuvres de Jean Gallon sont peu nombreuses mais de « grande qualité et d'une facture élégante » selon Alain Louvier, qui loue particulièrement les pièces sacrées du compositeur[4].
Marc Honegger (dir.), Dictionnaire de la musique : Les hommes et leurs œuvres. A-K, Paris, Bordas, coll. « Marc Honegger », , nouvelle éd. (1re éd. 1970), 1232 p. (ISBN2-04-019973-X).