Il a commencé ses études à Bishop Cotton Boys School, à Bangalore. Plus tard, il a passé un diplôme au Madras Christian College et était un habitant de St. Thomas's Hall. Raja Ramanna a obtenu son Doctorat et son LRSM à Londres. Il s'est spécialisé en physique nucléaire, physique de réacteur, conception, et en musique et philosophie européennes. Dr. Ramanna était aussi un pianiste réputé.
Le Dr. Ramanna a été directeur du Bhabha Atomic Research Centre (BARC) pendant plus d’une décennie. Ce fut durant son mandat que l'Inde a réalisé son premier essai nucléaire à Pokharan en 1974, baptisé Operation Smiling Buddha. Il fut directeur-général de la Recherche pour la Défense et de l'Organisation de Développement (DRDO) et conseiller scientifique au ministre de la défense nationale. Il a été le Président de la 30e Conférence Générale de l'Agence internationale de l'énergie atomique.