Buchheim vietti lapsuutensa ja nuoruutensa Weimarin lisäksi Rochlitzissa sekä Chemnitzissä. Teini-ikäisenä hän toimi avustajana sanomalehdissä ja vuonna 1933, vasta 15-vuotiaana, hän piti ensimmäisen näyttelyn piirroksistaan.
1937 viettäessään aikaansa Italiassa hän kirjoitti ensimmäisen kirjansa Tage und Nächte steigen aus dem Strom. Eine Donaufahrt. ("Days and nights rise from the river. A travel on the Danube."), jossa hän kertoo kanoottiretkestään Tonavaa pitkin Mustallemerelle. Kirja julkaistiin vuonna 1941.
Syksyllä 1941 Buchheim liittyi kapteeniluutnantti Heinrich Lehmann-Willenbrockin miehistöön sukellusveneeseen U-96. Hänen ohjeensa olivat valokuvata ja kuvailla sukellusvenesotaa käytännössä. Partiomatkan kokemuksista hän kirjoitti novellin Die Eichenlaubfahrt.
Sodan jälkeen
Buchheimin museo
Sodan päätyttyä Buchheim toimi taiteilijana, taidekeräilijänä, galleristina sekä taidekustantajana. 1950 ja 60-luvuilla hän kirjoitti kirjoja eurooppalaisista taiteilijoista, mm. Pablo Picassosta ja keräsi saksalaisten ja ranskalaisten ekspressionistien töitä. Koska modernistien teoksia oli natsihallinnon aikana pidetty rappiotaiteena, hänen onnistui hankkia niitä halvalla.
Buchheim tunnetaan parhaiten sodanajan kokemuksiin perustuvasta romaanistaan Das Boot, joka julkaistiin Saksassa 1973. Kirja on osittain fiktiivinen kuvaus sukellusveneen partiomatkasta ja sen kertojana toimii laivaston sotakirjeenvaihtaja luutnantti Werner. Kirjan karu ja sodanvastainen asenne aiheuttivat aikanaan puhetta puolesta ja vastaan. Das Boot julkaistiin Suomeksi nimellä Sukellusvene vuonna 1975.
Buchheim oli erittäin vastahakoinen antamaan kirjan oikeuksia elokuvantekijöille, mutta lopulta 1981 Wolfgang Petersen ohjasi kirjaan perustuen kaikkien aikojen kalleimman saksalaisen elokuvan, joka keräsi kuusi oscar-ehdokkuutta.
Romaania seurasi täysin todellisuuteen pohjautuvan sukellusvenetrilogian ensimmäinen osa U-Boot-Krieg vuonna 1976. Kaksi seuraavaa osaa, U-Boot-Fahrer sekä Zu Tode Gesiegt julkaistiin molemmat vuonna 1998. Trilogia sisältää yhteensä yli 5000 sodan aikana otettua valokuvaa. Buchheim kirjoitti myös kirjan Der Abschied (2000) matkastaan ydinkäyttöisellä rahtialus NS Otto Hahnilla. Aluksen kapteenina toimi tuolloin Heinrich Lehmann-Willenbrock.
