Apja id. Rankay József orvos, anyja Toperczer Vilma. A gimnázium 1–5. osztályát Máramarosszigeten és Debrecenben végezte el, majd a katonai pályát választva a Nagyváradi m. kir. Honvéd Hadapródiskolában folytatta tanulmányait. 1917-ben végzett, és szeptember 1-jei hatállyal a 3. honvéd gyalogezredbe osztották be.[1] – 1918 augusztusától az olasz fronton szolgált, részt vett a piavei átkelésen és a Monte Tomba környéki nagy utóvédharcokban.[2][3] A forradalom alatt olasz hadifogságban volt és a kommün bukása után, szeptember 2-án került haza. Ekkor a Lehár hadosztályba sorozták.[2]
1919-ben helyezték Kercára a helyőrség parancsnokaként.[4]1920. augusztus 1-jén a kercai helyőrség katonáival és a helybeli lakosokkal elűzte a Szerb-Horvát-Szlovén KirályságSzomorócra bevonult csapatait. A községet a szerbek visszafoglalták, de a kercai és szomoróci lakosok, valamint a helyőrség katonáinak áldozata nem volt hiábavaló, 1922-ben a Határmegállapító Bizottság úgy döntött, hogy Szomoróc visszatérhet Magyarországhoz.[5]
Budapesten 1920-ban államtudományi doktorátust tett, 1921-ben áthelyezték Jászberénybe és előléptették főhadnaggyá,[2][4] a jászberényi 5. kerékpáros zászlóaljnál szolgált.[6]
1922-től a szolnoki 10. gyalogezredhez került. Az itt töltött idő alatt a vármegyei népművelési bizottság katonai szakelőadója és a vármegyei Úri Kaszinó tagja volt. A Szolnok és Vidéke című lapban néhány lírai alkotása is megjelent.[2]
1928. május 7-én, Békéscsabán vette nőül Medveczky-Langer Leonát.[7] Egyetlen leánygyermekük, Pálma 1929-ben született meg.[4]
1928 novemberében századossá léptették elő,[8] s 1929. október 16-án kelt rendelettel „a toborzás terén kifejtett kiválóan eredményes és hasznos szolgálataiért” kormányzói dicsérő elismerésben részesült.[9]
Szolnokról 1936-ban a miskolci 13. gyalogezredhez helyezték át,[10] ahol 1940. szeptember 1-jén őrnaggyá léptették elő.[11] 1940. november 1-ig a géppuskásszázad parancsnoka, majd az ezred 1. segédtisztje volt.[6] Újabb kormányzói elismerésben részesült „a csapatkiképzés és a katonai közigazgatási szolgálat terén” végzett munkájáért.[12]
Részt vett a felvidéki, észak-erdélyi és délvidéki bevonulásban. 1939 márciusában Kárpátalja visszacsatolásakor ellátogatott szülőhelyére, Viskre, ahol felszabadítóként ünnepelték.
1940. november 1. és 1945. június 2. között a Honvédelmi Minisztérium 8/b. osztályának, majd az Elnökségnek az állományába vették előadóként.[6][10]„A tartalékos tiszt jogállása és személyes kötelmei a honvédségben” című szakkönyve 1941-ben jelent meg, és a 16 fejezetes művet általános elismerésben részesítették, a katonai parancsnokságok számára folyamatosan és állandóan ajánlották.[13] Ekkor már alezredesi rangban szolgált a Honvédelmi Minisztérium 8/b. osztályának alcsoportvezetőjeként.[5][14]
Közbevetőleg 1944. február 24-től április 27-i sebesüléséig a 24/II. zászlóalj parancsnokaként hadibeosztásban volt.[6]
1944-ben a keleti fronton (Kolomija környékén) zászlóaljparancsnokként vett részt Rakivcsik (Раківчик; Rakovczyk) elfoglalásában, ahol az ígért német segítséget nem kapták meg, emiatt hatalmas veszteség érte a magyar egységeket, Rankay is súlyosan megsebesült.[5] Felgyógyulása után visszatért a Honvédelmi Minisztériumba és zsidó tartalékosok munkaszolgálat alóli felmentésében működött közre. 1944 októberében nem esküdött fel Szálasira.[10]
Passaunál a háború végén amerikai hadifogságba került, Bajorországban.[10] Rabtársai győzködése ellenére hazajött. 1946-ban igazolták, de a tényleges szolgálatba nem léphetett vissza. Ingatlanközvetítéssel foglalkozott Budapesten és különböző üzemekben dolgozott. 1956-ban írásban felajánlotta katonai szolgálatát a szovjetellenes harcra, ezért nyomozni kezdtek utána, így a forradalom bukása után a budapesti tüdőkórházba feküdt be, ahol TBC-vel fertőződött meg. 1961 nyarán hunyt el.[5]
A budapesti Farkasréti temetőben helyezték örök nyugalomra. 2009. augusztus 9-én posztumusz megkapta a Kercaszomor község Díszpolgára címet.
