Joseph Guillaume est élu évêque par le chapitre de chanoines de Bâle le . Il reçoit ses bulles pontificales de confirmation le et il est consacré à Besançon par son métropolitain l'archevêque de Besançon.
De sa résidence de Porrentruy, il envoie le une lettre au Chancelier de France dans laquelle il vante la doctrine les vertus et la fidélité de la Compagnie de Jésus. Il y meurt l'année suivante [1].