Rodila se u Fayetevilleu kao najmlađe od devetoro djece vlč. Richarda Fallyea Clevelanda. Od 1853. je živjela u Holland Patentu. Kasnije se zaposlila kao nastavnica u školi Houghton Seminary, gdje se i sama bila obrazovala. 1880-ih se vratila u Holland Patent brinuti o ostarjeloj majci, koja je umrla 1882. godine.
Nakon što joj je stariji brat Grover Cleveland, tada neoženjen, 1884. godine izabran za predsjednika, došla je u Washington služiti kao domaćica Bijele kuće. Washingtonsko društvo je nije voljelo jer je bila intelektualka koja je goste više voljela podučavati nego zabavljati. Kada joj se brat 1886. oženio za Frances Folsom, napustila je Bijelu kuću kako bi se posvetila književnom i prosvjetnom radu.
Intimna korespondencija Rose Cleveland, koja se nikada nije udala, sugerira lezbijsku vezu sa Evangeline Marss Simpson, udovicom industrijalca Michaela Hodgea Simpsona. Veza je prekinuta kada se 1896. Evangelina udala za episkopalnog biskupa Henryja Benjamina Whipplea. 1910. godine, nakon Whippleove smrti, dvije su žene počele zajedno živjeti u Italiji. Tamo je Rose Cleveland umrla od posljedica epidemije španske gripe.
