Fece il suo debutto nel 1968 a Bratislava cantando nei panni di Rosina (Il barbiere di Siviglia), quindi, vincendo un concorso a Tolosa, fu scelta come solista al teatro J. G. Tajovský di Banská Bystrica, ruolo che mantenne fino al 1970. Nel 1969 fu ingaggiata anche allo Wiener Staatsoper dove debuttò nel ruolo della Regina della Notte ne Il flauto magico nel 1970 (a Vienna la Gruberová lo interpretò per sessantanove volte). Nello stesso anno a Vienna è Olympia ne I racconti di Hoffmann, Ermione in Elena egizia e Tebaldo in Don Carlo.
Nel 1971 allo Staatsoper interpreta il personaggio della figlia in Der Besuch der alten Dame, una modista ne Il cavaliere della rosa, Flora Bervoix ne La traviata e Kate Pinkerton in Madama Butterfly.
Nel 1972 a Vienna è Najade in Ariadne auf Naxos, una Serva nell'opera Daphne, Ida in Die Fledermaus, Esmeralda in The Bartered Bride, Prima sacerdotessa in Ifigenia in Tauride (Gluck), Jana/Jano in Jenůfa, Barbarina ne Le nozze di Figaro e Un'ancella in Medea (Cherubini).
Nel 1973 è Zerbinetta in Ariadne auf Naxos a Vienna. Questo è stato il ruolo maggiormente ricoperto allo Staatsoper dalla Gruberová per novantasette delle oltre seicentocinquanta rappresentazioni complessive in questo teatro.
Negli anni seguenti realizzò le sue maggiori interpretazioni della Regina della Notte.
Dopo essersi trasferita (lasciò infatti la Cecoslovacchia nel 1973, stanca degli ostacoli per avere il visto necessario ogni volta ai suoi viaggi), fu invitata a cantare soprattutto ruoli di coloratura nei maggiori teatri del mondo.[senza fonte]
Ha fatto il suo debutto a Glyndebourne nel 1974 e al Metropolitan nel 1977, entrambe le volte nel ruolo della Regina della Notte. Al Met è andata in scena in ventiquattro rappresentazioni fino al 1996. Nel 1976, 1977 e 1978 cantò al Festival di Salisburgo nel breve ruolo di Tebaldo nel Don Carlo sotto la direzione di Herbert von Karajan, nonostante avesse già debuttato al Festival, con lo stesso direttore, nel ben più importante ruolo di Regina della Notte (1974). Di questa produzione ci fu, sempre nel 1978, la registrazione nel Neue Philharmonie Saal di Berlino. Nello stesso anno a Salisburgo è Rom prologo/Religion nella ripresa di "Il Sant'Alessio" di Stefano Landi e la Regina della Notte. Il 1978 è anche l'anno del suo debutto al Teatro alla Scala di Milano nel ruolo di Konstanze ne Il ratto dal serraglio. Sempre nel 1978 è Lucia in Lucia di Lammermoor al Wiener Staatsoper. Il soprano ha cantato questo ruolo a Vienna in ben ottantotto rappresentazioni.
Nel 1979 è Zerbinetta nella ripresa di Salisburgo di "Ariadne auf Naxos" di Richard Strauss.
Nel 1980 al Kleines Festspielhaus di Salisburgo è Zerbinetta in "Ariadne auf Naxos" di Richard Strauss e la Regina della Notte di "Die Zauberflöte" di Wolfgang Amadeus Mozart.
Nel 1983 tiene un concerto di lieder al Teatro alla Scala di Milano.
Nel 1984 cantò per la prima volta alla Royal Opera House come Giulietta in I Capuleti e i Montecchi, opera che ha anche inciso per la EMI, con la direzione di Riccardo Muti ed è Lucia di "Lucia di Lammermoor" di Gaetano Donizetti e Zerbinetta in "Ariadne auf Naxos" al Teatro alla Scala di Milano.
Nel 1985 tiene un secondo concerto di lieder alla Scala di Milano.
Nel 1989 è ancora Donna Anna nel Don Giovanni al Teatro alla Scala.
Nel 1990 è Donna Anna nella ripresa al Großes Festspielhaus di Salisburgo di "Il dissoluto punito ossia Il Don Giovanni" di Wolfgang Amadeus Mozart e tiene un recital al Teatro La Fenice di Venezia.
Nel 1991, 1994, 1997, 1999 (con Vesselina Kasarova), 2008 e maggio 2012 tiene ancora dei concerti di lieder alla Scala di Milano. Nel 2008 il recital è stato tenuto anche all'Auditorium Parco della Musica di Roma.
Nel 1992 è Beatrice nella prima rappresentazione radiofonica nello Studio 4 dell'ORTF di Parigi di “Beatrice di Tenda” di Vincenzo Bellini ed è Violetta Valéry ne La traviata al Teatro La Fenice di Venezia.
Nel 1993 è Elvira Valton nella prima rappresentazione radiofonica nella BR-ARD di Monaco di I puritani di Vincenzo Bellini.
Nel 1998 è Linda in Linda di Chamounix alla Scala.
Nel 2010 tiene un concerto a Monaco di Baviera intitolato “Scene di follia” accompagnata dai Münchner Symphoniker. Sempre a Monaco di Baviera tiene un concerto nel 2012 accompagnata dai Münchner Rundfunkorchester.
In genere, nella seconda parte della carriera la cantante riteneva particolarmente adatti alla sua voce i ruoli di Gaetano Donizetti e ne incise diversi per la casa discografica Nightingale, di cui lei stessa era tra i proprietari.
Si ritira dalle scene il 27 Marzo 2019 al termine di una messinscena del Roberto Devereux di Gaetano Donizetti, al Bayerische Staatsoper di Monaco di Baviera.