Après des études en droit à l'Université de Montréal, il est admis au Barreau en 1895. Après avoir travaillé comme avocat pendant quelques années, il est élu député pour le Parti libéral dans la circonscription de Gaspé, en 1910. Quelques mois plus tard, il devient le premier maire de Beaconsfield lors de l'incorporation de la ville, le . Lors des élections provinciales suivantes, il se présente dans Verchères et remporte le siège. Il sera député du au ), jusqu'à sa nomination comme conseiller législatif de Montarville, le .
Perron quitte le conseil législatif pour redevenir comme député, lors d'une élection partielle, le du . À la suite de cette élection, il deviendra ministre de l'Agriculture (du au ).
Peu de temps après sa mort, pour souligner sa mémoire, on baptisa la route ceinturant la péninsule gaspésienne le Boulevard Perron.
Centennial House
En 1906, Joseph-Léonide Perron se fait construire un résidence d'été à Beaconsfield sur les rives du Lac Saint-Louis. Il y élève des chevaux de race et cultive un vignoble. Endommagée par un incendie en 1940, la maison est reconstruite presque à l'identique l'année suivante. Elle devient la propriété de la ville de Beaconsfield en 1965 qui y installe des bureaux administratifs jusqu'en 1968. Convertie en centre culturel, la maison est renommée Centennial House à l'occasion du centenaire du Canada en 1967.