Karaganda városában 1958-ban alapítottak labdarúgócsapatot a helyi bányászok. A Szovjetunió akkori rendszerének megfelelően a másodvonalba (B osztály) nyert besorolást. Előbb a 13., majd a 11., végül a 12. helyen végzett, mikor a Moszkvában átszervezték a labdarúgó-bajnokságot, a Sahtyor a harmadosztály köztársasági csoportjába került.
Az első nagy sikert ez a változás hozta meg, hiszen 1962-es köztársasági döntőben legyőzte a belorusz Lokomotyiv Gomelt, így az átalakuló szovjet másodosztályba lépett, ahol 1973-ig szerepelt.
A szovjet harmadosztályban vitézkedő Sahtyor az első független kazak labdarúgó-bajnokság élvonalába nyert besorolást. Első jelentősebb bajnoki eredményét 1995-ben érte el, mikor a dobogó legalsó fokára állt.
A fokozatosan a középvonal helyeit ostromló bányászcsapat 2006-ban az Intertotó-kupa keretein belül lépett ki az európai kupák színpadára. A minszki traktorgyári csapat, az MTZ-RIPA ellen hazai pályán 5–1-es, súlyos vereséget szenvedett, gyógyírt a fehérorosz fővárosban elért 3–1-es győzelem sem nyújtott, a Sahtyor 6–4-es összesítésben elbúcsúzott a kupától.
2007-ben újfent a bronzérmesként zárt a bajnokságban, így a 2008–2009-es UEFA-kupa selejtezőiben vett részt. A sorsolás a magyar Debreceni VSC-t sodorta a bányászcsapat útjába, és a hazai mérkőzés 1–1-es döntetlenjét egy izgalmas visszavágó követte, melyen a Sahtyor 1–0-s vereséget szenvedett ugyan, de emelt fővel búcsúzhatott az európai labdarúgóélet vérkeringésétől.
A Kazak labdarúgó-szövetség2008. szeptember 18-án bejelentette, hogy „bundázás” kizárja a bajnokságból a Vosztok és a Sahtyor csapatát, a klubvezetőket és edzőket pedig 60 hónapra eltiltotta minden labdarúgással kapcsolatos aktivitástól.[1] A bányászcsapat megóvta a döntést, a szövetség pedig felülbírálta azt. A Sahtyortól végül 9 pontot vontak le, de nem zárták ki a bajnokságból. Az érintett mérkőzés eredményét törölték, a Vosztok csapatának hátralevő mérkőzéseit 3–0-s gólaránnyal az ellenfelek kapták.[2]