Hänen uransa alkoi kabareetaiteilijana ravintoloissa ja yökerhoissa San Franciscossa 1940-luvun alussa ja vuonna 1945 hän esiintyi omassa radio-ohjelmassaan. Grayn "löysi" muusikko Rudy Vallee, joka toi tämän esiintymään ohjelmaansa. Uransa aikana Gray esiintyi lukuisissa elokuvissa, Broadway-musikaaleissa. Hän oli aviossa liikemies Andrew J. Crewolinin kanssa vuodesta 1966, Crewolinin kuolemaan 1992 saakka.