La paroisse de Velotte apparaît dans des textes à partir du milieu du XIe siècle. Cependant, cette église fut probablement bâtie au cours du XVIIIe siècle dans un style roman, et fut rattachée récemment à l'Archidiocèse de Besançon sous le nom de communauté de Saint-Hippolyte. Le bâtiment comprend un clocher mesurant environ 17 mètres de haut coiffé d'une croix et d'un coq gaulois, ainsi qu'un seul transept sur le côté droit. L'édifice peut accueillir environ une centaine de fidèles, et comporte tribune se situant à l'entrée pouvant elle accueillir pas plus d'une dizaine de personnes.
L'intérieur du bâtiment est orné par trois tableaux, dont deux monumentaux. L'église comporte également un petit orgue, un tabernacle en bois, un crucifix ainsi qu'un cadran solaire à l'extérieur. Une plaque commémorative, situé à l'entrée de l'église, rappelle les noms des habitants du quartier morts durant les guerres. La communauté possède également un petit bâtiment annexe construit durant les années 1980, qui accueille parfois les kermesses et les fêtes du quartier.