1832 Polk muutti Maury Countyyn perheineen ja rakennutti perhekappelin, St. John'sin kirkon, Ashwoodiin. Hän oli piispana Pyhän Pietarin kirkossa Columbiassa, Tennesseessä. Hänet nimitettiin lounaisosavaltioiden lähetyspiispaksi 1838 ja Louisianan piispaksi 1841. Piispa Polk oli Etelä-Sewaneen yliopiston johtavia perustajia Tennesseessä. Hänen visionsa mukaan yliopistosta olisi tullut Etelävaltioiden johtava yliopisto, Yhdysvaltain vastine Oxfordin ja Cambridgen yliopistoille.
Sisällissodan syttyessä Polk veti Louisianan episkopaalisen konvention pois Yhdysvaltain episkopaalikirkosta. Hänen ystävänsä ja huonetoverinsa West Pointissa, Jefferson Davis, suostutteli Polkin hyväksymään nimityksen Etelävaltioiden armeijaan. Polk nimitettiin kenraalimajuriksi komentamaan hallintoalue kahta (aluetta Mississippi- ja Tennesseejokien välillä) 1861. Hän syyllistyi yhteen sisällissodan suurimmista möhläyksistä lähettämällä joukkojaan valtaamaan kentuckylaistaColumbuksen kaupunkia syyskuussa 1861. Kentyckyn hallinto oli julistautunut puolueettomaksi, mutta Polkin joukkojen suorittama hyökkäys sai sen siirtymään nopeasti unionin leiriin.
Polk organisoi Mississippin armeijan ja osia Tennesseen armeijasta, missä hän myöhemmin palveli kenraaliluutnanttina. Polk suunnitteli joukoilleen oman erikoisen taistelulippunsa, sinisellä pohjalla olevan Pyhän Yrjön ristin koristettuna 11 tähdellä, jotka kuvasivat jokaista etelävaltioita. Shilohin taistelussa Polk komensi armeijakuntaa.
Seuranneista erimielisyyksistä kenraali Braxton Braggin kanssa, Polk siirrettiin Mississippiin, ja otti myöhemmin komentoonsa Alabaman, Mississippin ja Itä-Louisianan. Braggin seuraaja Joseph E. Johnston käski Polkin joukkoineen liittyä Tennesseen armeijaan Atlantan kampanjaa varten.
Polk oli tiedustelemassa vihollisen asemia esikuntansa kanssa 14. kesäkuuta 1864, kun hän sai surmansa Pohjoisvaltioiden ampumasta Hotchkiss-tykinkuulasta Pine Mountainissa, Mariettassa, Georgiassa. Huolimatta huonoista kenttäsuorituksistaan Polk oli joukkojensa keskuudessa suosittu ja hänen kuolemaansa surtiin laajalti Tennesseen armeijassa. Polk haudattiin AugustaanGeorgiaan, mutta vuonna 1945 hänen ja hänen vaimonsa jäänteet siirrettiin Kristuksen katedraaliin New Orleansiin.