Von Weizäcker studeerde van 1929 tot 1933 natuurkunde, wiskunde en astronomie met en onder Werner Heisenberg en Niels Bohr. Tijdens de Tweede Wereldoorlog werkte hij mee aan het Duitse atoomprogramma dat tot doel had om energie op te wekken en een atoombom te ontwikkelen.
Na afloop van de oorlog werd hij, samen met de andere wetenschappers uit dit programma, gearresteerd en geïnterneerd in Farm Hall in Engeland. Von Weizsäcker stelde altijd dat hij en de betrokken wetenschappers afgesproken hadden dat nazi-Duitsland nooit een atoombom zou krijgen, een bewering waaraan sommige historici twijfelen.
In 1946 keerde hij terug in Duitsland en was hij samen met filosoof Jürgen Habermas onder andere werkzaam als docent filosofie aan de Universiteit Hamburg en als onderzoeker en directeur bij de instituten van het Max-Planck-Gesellschaft. De dreiging van een atoomoorlog, de noord-zuid tegenstelling en milieuvraagstukken stonden centraal in deze instelling. Carl Friedrich was na de oorlog aanhanger van het pacifisme.
Von Weizsäcker gold als de laatste Duitse "homo universalis", zowel onderlegd in fundamentele kwesties van de kwantumfysica als in de (natuur)filosofie.
In 1979 vroeg voormalig bondskanselierWilly Brandt hem om zich kandidaat te stellen voor het ambt van bondspresident. Hij zag van deze functie af. Zijn broer Richard daarentegen bekleedde dit ambt van 1984 tot 1994.
Carl Friedrich von Weizsäcker overleed op 94-jarige leeftijd.