Regionen av Kostrzyn var befolket av germanere fram i det niende århundret, da innvandring av slavere begynte og byen kom under styring av Pommern. Fra 960-1200 var det største territoriet som hørte til hertugene av Polen. Hertug Mieszko I av Polen brukte Kostrzyns strategiske plassering som et oppmarsjområde til ekspedisjonen til Cedynia. Bolesław I den modige brukte også dette området som oppmarsjområde for sine aksjoner mot blant annet Bautzen i Sachsen.
Navnet av byen ble først nevnt i et polsk brev fra 1232 til Den tyske orden, som kom etter det gamle slaviske navnet Cozsterine (kostrzyca) som nevnt ble det i. I det 12. århundre utviklet seg det inn i en forsterket utpost og et polsk beskatningsområde. I 1223 bevilget fyrsten Odonic byen til tyske brødre av Tempelridderordenen, skjønt det ble angrepet av Margraviate av Brandenburg i 1261. Ved 1300 mottok byen Magdeburg av Margrave Albrecht III av Brandenburg og dette innledet en hurtig vekst, blant annet fordi en kunne utvikle handelen langs elvene.
Fra 1535–1571 var byen setet av John av Brandenburg-Kustrin, som gjorde byen til hovedstad i Neumark regionen og bygde en borg. Med tiden ble borgen utvidet til en festning, og er en av de største av denne typen anlegg i denne regionen idag. Mens han fortsatt var kronprins, satt Fredrik den store fengslet i festningen, og måtte overvære henrettelsen av sin venn Hans Hermann von Katte den 6. november1730.
Området ble erobret av Frankrike i 1806, forble under fransk kontroll resten av Napoleonskrigene. I løpet av tilbaketrekningen fra øst i 1814 ble byen satt i brann og brant helt ned til grunnen. Etter at byen ble bygget opp, utviklet den seg til blant annet et av de viktigste jernbaneknutepunktene i Kongeriket Preussen og senere i Det tyske riket. I 1857 ble den knyttet til Berlin og Frankfurt an der Oder, og i 1875 med Stettin (Szczecin) på den pommerske kysten. I 1900 nådde dets befolkning 16 473 innbyggere, samt garnisonen av festningen.
Ved utbruddet av andre verdenskrig hadde Kosztrzyn 24 000 innbyggere, hvor majoriteten var tysk avstamming. Men, på grunn av allierte luftangrep på jernbanen og lokale fabrikker ble nesten 95% av bygningene ødelagt (samt alle 32 byens fabrikker) og byen vanligvis ble forlatt. Forstaden Alt-Drewitz (moderne Drzewice, en av Kostrzyns bykommuner) inneholdt en krigsfangeleir ved Stalag III-C Alt-Drewitz, som blir brukt mest for fransk, sovjetisk, og italiensk fanger av krigen. Fra 1943–1959 huset byen også et stor antall tvangsarbeidere i en teltleir underlagt Sachsenhausen konsentrasjonsleir. Etter krigen ble den ødelagte byen lagt under polsk administrasjon ved Potsdamkonferansen, og den tyske befolkningen ble fordrevet vestover. Skjønt byen gradvist ble gjenoppbygd, forble sentrale deler av byen i ruiner. Den delen av byen som lå på den vestlige bredden av Oder forble i Tyskland og er nå Kustrin-Kietz.
Przystanek Woodstock
Siden 2004 har Kostrzyn årlig vært verter for Przystanek Woodstock på sommeren, det største musikkfestspillet i friluft i Europa. Det er på en måte en rockefestival.