Er lernte das Kunst- und Möbeltischlerhandwerk und arbeitete bis 1939 bzw. nach dem Kriegsdienst bis 1949 in seinem Beruf. Er nahm Gesangsunterricht und seine erste Rolle war 1950 Don Ottavio am Grazer Stadttheater. Dann kam er 1952 an die Wiener Staatsoper, der er 40 Jahre angehörte. Dort sang er u. a. 221-mal den Wirt im Rosenkavalier.
2002: Eine 950 m² große Parkanlage in Wien 14., Linzer Straße 426 (nächst der Hütteldorfer Pfarrkirche bei der Endstation der Straßenbahnlinie 49) wurde Karl-Terkal-Park benannt