Son nom provient du patois « Caborne » (grotte)[1] et d'une coulée stalagmitique évoquant la panse d'un bœuf.
Son porche remarquable, l'un des plus grands du Jura, est accessible au public, ainsi que sa galerie principale.
L'exploration peut se poursuivre avec du matériel de spéléologie.
L'entrée de la Grotte de l'Ermitage se fait sous le même porche, côté gauche lorsqu'on lui fait face.