Chongjin var en liten fiskeby till 1908, då den japanska kolonialmakten gjorde den till en betydande hamnstad med namnet Seishin.[2]
Från 1960–1967 och igen 1977–1985 var staden självständig från den omgivande provinsen i egenskap av en administrativ direktstyrd stad (ungefär samma status som Pyongyang, landets huvudstad, har i dag). Sedan dess har staden varit huvudstad i provinsen.
Enligt ögonvittnesskildringar ska hela den 6:e armékåren av Koreanska Folkarmén, som var stationerad i distriktet Ranam, med omkring tre tusen män ha lämnat staden under en natt hösten 1995. Det ryktas att händelsen ska haft samband med ett kuppförsök mot diktatorn Kim Jong-il och att 6:e armékåren efter detta ersattes av 9:e armékåren från Wonsan.[3]
Staden drabbades hårt av svälten på 1990-talet. Så många som 20 procent av invånarna uppskattas ha dött.[3] Flera folkliga uppror har förekommit i staden, vilket är ovanligt för Nordkorea. Protester från kvinnliga köpmän den 4 mars och 24 augusti 2008 ska ha lett till att myndigheterna tvingades till eftergifter rörande handeln.[4]