Von Merkatz urodził się w Stargardzie na Pomorzu w rodzinie pruskich oficerów i funkcjonariuszy, uszlachconych w 1797 roku. Jego ojciec, kapitan armii niemieckiej, zmarł w pobliżu Wilna w 1915 roku, podczas I wojny światowej. Merkatz wykształcenie szkolne zdobywał w Wiesbaden, Jenie i Naumburgu. Studiował prawo i gospodarkę narodową na uniwersytetach w Jenie i Monachium, które ukończył w 1931.
Po wojnie von Merkatz rozpoczął pracę w Akademie für Raumforschung und Landesplanung w Hanowerze. W 1946 wstąpił do konserwatywnej Deutsche Partei (Partia Niemiecka). Od 1949 do 1961 deputowany do Bundestagu. Od 1949 do 1952 był sekretarzem stanu w Ministerstwie Spraw Wewnętrznych.