Le prieuré a été fondé en 1119 par Robert de Bruce, 1er lord d’Annandale, un ancêtre du roi écossais Robert Ier. Les 2e, 4e et 5e lords d’Annandale y sont enterrés.
Il a été en grande partie démolie lors de la dissolution des monastères commandée par le roi anglais Henri VIII en 1538, et ses pierres ont été réutilisées dans différents bâtiments de la ville, dont l’actuelle église anglicane Saint-Nicolas. Le terrain est acheté en 1550 par la famille Chaloner, qui en est encore propriétaire aujourd’hui. Des jardins sont aménagés en 1709 autour des ruines.
La grande arche, dernier élément conservé, est utilisée comme symbole par la ville.
Un groupe de volontaire, nommé The Gisborough Priory Project, entretient et restaure les jardins, depuis .
Une légende locale parle d’un fantôme, connu comme le « moine noir » (« Black Monk », ou plus tard « Black-Cowled Monk » pour éviter les confusions), qui hante le site la première nouvelle lune de l’année.