Rudolf Jordan est le fils du conseiller de justice berlinois André Charles Guillaume Jordan (Berlin 1778 - Berlin 1850) et de son épouse, née Wilhelmine Hielkert. C'est un descendant de Charles-Étienne Jordan (1700-1745), fils de huguenots et conseiller de Frédéric le Grand.
Rudolf Jordan épouse en premières noces Sophie von Mülmann (1811-1863), également peintre, de qui il a trois enfants; et en secondes noces Marie von Hanstein (1825-1885).