Die Familie stammt ursprünglich aus einem Geschlecht von Wikingern, die sich im Gefolge von Rollo in der Normandie ansiedelten. Die Familie erlangte im Grenzbereich zur Île-de-France schnell eine lokale Bedeutung, in der Stadt L’Isle-Adam erbaute sich die Familie ihr Stammschloss.
„Villiers de l’Isle-Adam“ ist der Name des ältesten Familienzweigs des Geschlechts, welcher noch heutzutage existiert.
Bei den De Villiers de Princay handelt es sich um eine andere Familie, die ab dem 15. Jahrhundert in Westfrankreich im Raum La Rochelle begütert war, und einige Bürgermeister von Niort und La Rochelle stellten. 1661 leitete die französische Regierung unter Ludwig XIV. eine groß angelegte, mit Bekehrungs- und Missionierungsaktionen verbundene, systematische Verfolgung der Protestanten ein. Da die de Villiers Hugenotten waren, flohen viele Familienmitglieder vor der Verfolgung aus Frankreich. Paul de Villiers wanderte im Jahr 1666 nach Kapstadt aus und gründete somit den südafrikanischen Familienzweig. Einige Familienmitglieder erlangten im 20. Jahrhundert hohe politische Ämter in südafrikanischen Diensten.