Kostkova tvorba je z väčšej časti figurálna, vyrovnáva sa s princípmi figurácie ako ju formuloval ešte Auguste Rodin. Ale najmä v šesťdesiatych rokoch 20. storočia inklinoval aj k archetypálnejším formám abstrakcie nadväzujúc na odkaz Constantina Brâncuşiho. V tejto časti tvorby sa u Kostku naplno prejavil zmysel pre materiál a citlivé až lyrické skúmanie procesu tvorby plastiky.
Je tvorcom mnohých pamätníkov napr. pomník Víťazstva pre Bratislavu 1946 – 49. Pomník SNP pre Partizánske 1946 – 50 patrí medzi najlepšie pamätníky na tému SNP. V roku 1957 sa zúčastnil na medzinárodnom bienále v São Paulo. Na svetovej výstave v Bruseli roku 1958 bol odmenený za reliéf „Na brehu rieky“ striebornou medailou, v tom istom roku sa zúčastňuje bienále v Benátkach. Je taktiež autorom súsoší Vďaka na bratislavskom Slavíne1963, či plastiky Slovenská jar – pomník Ľudovíta Štúra v Modre1964. V rokoch 1966 – 68 podnikol študijné cesty do Anglicka, Francúzska a Talianska. Patrí aj k laureátom ceny Cypriána Majerníka 1963, či k nositeľom titulu národný umelec1967.
Napriek ťažkému obdobiu v ktorom žil dokázal si zachovať svoj ľudský morálny kredit.
