Kartiert wurde der Felsen während der Scottish National Antarctic Expedition (1902–1904) unter der Leitung des Polarforschers William Speirs Bruce und später wegen seiner Ähnlichkeit mit der schottischen Felseninsel Bass Rock gleichfalls so benannt. Da jedoch eine weitere Insel in der Gruppe der westantarktischen Joinville-Inseln diesen Namen trägt, entschied sich das UK Antarctic Place-Names Committee im Jahr 1954 zu einer Umbenennung. Neuer Namensgeber ist der heiliggesprochene northumbrische Abt Baldred von Tyninghame († 707), der als Eremit auf der oben genannten schottischen Felseninsel gelebt haben soll.
