Kovacs war Sohn ungarischer Einwanderer. Er absolvierte die New York School of Theatre und erhielt 1951 seine erste eigene Fernsehshow mit dem Titel Time for Ernie. Danach moderierte er mit Ernie in Kovacsland und The Ernie Kovacs Show zwei weitere Sendungen, die ihm mehrere Emmy-Nominierungen einbrachten.
Als Musiker komponierte er eine Reihe erfolgreicher Songs, die er oft in seinen Fernsehshows verwendete.
Er war zweimal verheiratet und hat drei Kinder.
Am 13. Januar 1962 verlor er in Beverly Hills auf der Heimfahrt von einer Party die Kontrolle über seinen Chevrolet Corvair und prallte gegen einen Betonpfeiler. Er war sofort tot.
Er hinterließ seiner zweiten Ehefrau Edie Adams hohe Steuerschulden, die sie durch Gagen für Fernsehauftritte und Spenden von befreundeten Prominenten beglich.
