Той е петият син на княз Йоахим Ернст фон Анхалт (1536–1586) и втората му съпруга Елеонора (1552–1618), дъщеря на херцог Христоф фон Вюртемберг.
На 21 ноември 1601 г. Рудолф се записва да следва в университета в Сиена. През 1602 г. се завръща обратно в Десау. От 1603 г. той живее в двора на Цербст и подарява библиотека на тамошната гимназия Francisceum.
След няколкогодишно общо управление с братята му, през 1606 г. Рудолф получава Анхалт-Цербст и възстановява замъка Цербст (славянски воден замък от 1196 г.).
През 1618 г. Рудолф е приет чрез брат му Лудвиг в литературното общество Fruchtbringende Gesellschaft.
На 45 години Рудолф умира в Цербст и е погребан в тамошната църква „Св. Бартоломей“.[1]
На 31 август 1612 г. в Олденбург Рудолф се жени втори път – за Магдалена (1585–1657), дъщеря на граф Йохан XVI фон Олденбург. През 1667 г. братът на Магдалена завещава Господство Йевер на Дом Анхалт-Цербст. Рудолф и Магдалена имат децата: