Han ble innkalt til militærtjeneste i desember 1808, samme år som hans far døde. Han ble utnevnt til sekondløytnant i det holstenske infanteri i 1813. I 1822 blev han premierløytnant og i 1830 stabskaptein. I 1842 blev han utnevnt til major og i 1848 til oberstløytnant. Han deltok i første slesvigske krig i 1849-50, hvor han utmerket seg i slagene ved Fredericia og Isted.
I 1850 blev han utnevnt til oberst og sjef for den 6. infanteribrigade, og i 1851 ble han kommandant i Angel. I 1854 ble han sjef for den 1. infanteribrigade i København. I 1858 ble Gerlach medlem av den rådgivende komité under Krigsministeriet og i 1859 ble han utnevnt til generalinspektør for infanteriet.
Da andre slesvigske krig brøt ut i 1864 fikk han kommandoen over 1. divisjon som kjempet prøysserne tilbake ved Mysunde den 2. februar. Han støttet Christian de Mezas beslutninger om å evakuere Dannevirkestillingen. Da de Meza ble avskjediget som øverstkommanderende for hæren på grunn av denne beslutning, ble Gerlach mot egen vilje beordret til at overta kommandoen.
Han delte ikke krigsministeriets holdning til hvordan krigen skulle føres og hadde flere sammenstøt med ministeriet. Han var imot å forsvare Dybbøl Banke, men ble beordret fra ministeriet til å holde skansen. Etter tapet av Dybbøl-stillingen, forberedte Gerlach seg på å føre forsvaret videre fra Fredericia, men ble av krigsminister C.C. Lundbye beordret til å evakuere Fredericia. Gerlach forsøkte å få endret denne beslutningen, men han ble fratatt kommandoen, som i stedet gikk til general P.F. Steinmann.
Han fikk deretter etter eget ønske kommandoen over 1. divisjon, en kommando han hadde resten av krigen. I desember 1864 ble han pensjonert og døde året etter i København.
