Prince ǃGaoseb naît à Omaruru dans la région d'Erongo, et il commence à jouer au rugby à XV à l'âge de sept ans avec son école primaire à Windhoek[4]. Il continue ensuite la pratique du rugby avec la High Technical School, puis la Windhoek High School(en)[4]. Avec l'équipe de cette dernière, il remporte le championnat national scolaire en 2016[4],[5].
En 2015 et 2016, il fait partie d'une sélection namibienne des moins de 18 ans, avec qui il dispute le tournoi sud-africain de la Craven Week[6],[7],[8].
Repéré par ses performances en Craven Week, il signe à la fin de l'année 2016 un contrat de deux saisons avec l'Academy (centre de formation) de la province sud-africaine des Blue Bulls[4],[6]. Lors de sa première année, il joue avec l'équipe des moins de 19 ans au sein du championnat provincial junior[9],[10]. En 2018, il représente l'équipe des moins de 21 ans de la province[11].
À la suite de son passage aux Blue Bulls, il retourne en Namibie, et rejoint la franchise des Namibia Welwitschias, qui évolue dans la compétition sud-africaine appelée Rugby Challenge[12]. Il joue son premier match professionnel le face Golden Lions[1]. Il joue trois matchs lors de la saison, dont une seule titularisation[1].
Il retrouve un club professionnel en , lorsqu'il rejoint l'équipe israélienne de Tel Aviv Heat pour la saison 2021-2022 de Super Cup[11],[17]. Il joue son premier match avec cette équipe le contre les Black Lion géorgiens[18]. Il ne joue ensuite aucun autre match de la phase de poule, avant de faire son retour à l'occasion d'une tournée en Afrique du Sud[19]. Il dispute ensuite la demi-finale de Super Cup, perdue par son équipe face aux Lusitanos portugais[20].
Conservé dans l'effectif de Tel Aviv pour la saison suivante, il est nommé capitaine de son club[21]. Devenu un élément indispensable de son équipe (sept matchs joués), il mène son équipe jusqu'à la finale de compétition, où ils s'inclinent face au Black Lion[1]. Il participe également à la victoire de son équipe lors d'un match amical face aux Anglais des Saracens en [22].
Après la saison de Super Cup, il retourne jouer en Namibie, où il fait son retour avec les Welwitschias, dont il devient le capitaine pour disputer le Mzansi Challenge[23],[24].
Il fait partie du groupe namibien choisi par Phil Davies pour participer à la Coupe du monde 2019 au Japon[28]. Il ne dispute qu'un seul match lors du tournoi, contre la Nouvelle-Zélande[3],[29]. Malgré la large défaite de son équipe (71 à 9), ǃGaoseb parvient à se montrer performant, terminant notamment le match avec le plus grand nombre de placages effectués (25)[30],[31].
