Après des études de lettres et de philosophie à la Sorbonne, puis un doctorat de philosophie (esthétique) sous la direction de Jean Grenier sur la symbolique de l'art bouddhique en Inde, Olivier Germain-Thomas devient en 1970 le premier délégué général de l'Institut Charles-de-Gaulle sous la présidence d'André Malraux, puis administrateur de l'Institut de 1991 à 1994.
Il fonde le mensuel L'Appel en 1973. Il effectue alors de nombreux voyages et séjours en Inde, puis au Japon, dans le sud-est asiatique, enfin en Chine.
À France Culture, il est producteur de l'émission Agora (1978-1995), il crée Tire ta langue !, la première émission consacrée au français, puis For intérieur (1995-2011), dans laquelle il s’entretient pendant près d'une heure chaque semaine avec un écrivain, un penseur ou une personnalité susceptible d'élargir l'horizon spirituel des auditeurs.
En 2011, il est élu administrateur de la Fondation Charles-de-Gaulle. La même année, il quitte France Culture. Il se consacre alors complètement à son travail littéraire.
En 2015, il devient chroniqueur régulier du magazine livre trimestriel Ultreïa. Il crée la collection de livres de voyages « Arpenter le sacré » aux éditions Desclée de Brouwer. Il est membre du comité scientifique des Rencontres d'Aubrac.