Si vous disposez d'ouvrages ou d'articles de référence ou si vous connaissez des sites web de qualité traitant du thème abordé ici, merci de compléter l'article en donnant les références utiles à sa vérifiabilité et en les liant à la section « Notes et références ».
Il est le fils d'Auguste Lelièvre et de Marguerite-Pauline Gougeon de Lucé, d'une famille bas-mancelle. Ils s'étaient mariés à Villiers-Charlemagne le . Sa femme, née à Avoise, le mourut au Grand-Logis, à Mayenne, le . Le Grand-Logis était devenu propriété des Lelièvre en 1836, par la mariage d'Auguste Lelièvre avec Joséphine Turbet.
H.-G. Lelièvre, qui professait des opinions légitimistes, était un homme sincère, généreux, courageux et combatif[non neutre][réf. nécessaire], qui fut toujours estimé de ses adversaires comme de ses amis. C'était un ancien-combattant de 1914-1918.