Казимир је био једини син Мјешка II Пјаста и његове жене Риксе од Лотарингије. О његовом раном животу мало се зна. Детињство је, највероватније, провео на краљевском двору у Гњезну. Како би стекао одговарајуће образовање, Казимир је 1026. године послат у манастир. Према неким изворима, које модерни историчари нису потврдили, у младости је желео да постане монах. У сваком случају Казимир је 1031. године заувек напустио цркву.
Егзил
Казимиров отац, Мјешко, крунисан је 1025. године за краља Пољске након смрти свога оца Болеслава I. Његов долазак на власт довео је до незадовољства племства које се плашило јаке централизоване управе каква је постојала у време владавине његовог оца. Искористивши такво стање, Мјешкова браћа Безприм и Ото организују побуну против њега и поставши савезници светоримског цара Конрада II чије су снаге напале Пољску. Мјешко је присиљен да абдицира 1031. године.
Мјешко је умро 1034. године. У то време је Казимир боравио у Немачкој на двору свога ујака Хермана II, архиепископа Келна. Године 1037. Казимир се вратио у Пољску где је покушао да преузме трон. То је изазвало реакцију барона који су присилили Казимира и његову мајку да напусте Пољску и склоне се у Саксонију. Следеће године Казимир је поново покушао да преузме престо, али је и овај покушај завршен неуспехом те је приморан поново да бежи. Овога пута, Казимир и Риска су побегли у Угарско краљевство. Тамо је утамничен од стране Стефана I, а мајка је присиљена да се замонаши. У манастиру је и умрла (1063).
Прилике у Пољској
Централна Пољска била је у рукама Безприма Пјаста. Дистрикт Великопољска побунио се против племства и католичког свештенства. Побуна је трајала неколико година. Дистрикт Масовија се такође отргао од остатка Пољске под вођством Мицлава. Слична ситуација се одиграла и у Померанији. Користећи такво стање, Братислав I Чешки напада Пољску и тешко је пустоши отимајући јој део територије.
Долазак на власт
Године 1039. Казимир одлази у Немачку где добија финансијску и војну подршку од свога рођака, светоримског цара Хенрика III. Казимирову војну силу чинило је 1000 тешко наоружаних пешака. Такође, Казимир је склопио савез и са Јарославом Мудрим, владарем Кијевске Русије, са чијом се сестром Маријом оженио. Захваљујући својим новим савезницима, Казимир је успео да поврати највећи део Пољске. Братислав је поражен и присиљен на мир у Регенсбургу (1042) којим је изгубио све територије освојене од Пољске сем Шлезије. Истовремено, Казимир је ставио тачку на унутрашње сукобе у Пољској. Стекао је епитет "Обновитељ".
Владавина
Учврстивши се на власти, Казимир је одабрао нову престоницу. Био је то Краков, једини велики град релативно нетакнут грађанским ратом. Године 1047. Казимир је, уз подршку свог савезника у Кијеву, започео рат против Масовије. Мицлав је поражен, а његова земља прикључена Пољској. Казимир је обнови бискупију у Кракову и Вроцлаву подижући нову катедралу - Вавелска катедрала. Казимирова владавина означава и почетак увођења феудализма у Пољску. Својим ратницима поклањао је земљу и тако их, постепено, трансформисао у средњовековне витезове.