Johannes Wilhjelm rejste med Kristian Zahrtmann i Italien i 1893, da Zahrtmanns søster giftede sig med Wilhjelms bror. Det nære forhold med Zahrtmann og adskillige rejser til Italien med Zahrtmann fik stor indflydelse på Wilhjelms arbejde. Wilhjelm malede i Italien en række værker, og især motiverne fra Civita d'Antino viser indflydelse fra Zahrtmann. Senere skildrede han den jyske hede. Desuden malede Wilhjelm figurkompositioner hvoraf flere med bibelske motiver og i de senere år adskillige portrætter. Han er repræsenteret bl.a. på Skagens Museum, Statens Museum for Kunst og Ribe Kunstmuseum.
