Im Jahre 1948 lernte er Teddy Windholz kennen. Die beiden gründeten eine Band und spielten im Volksgarten Wien. Mit der Zeit wurden sie immer bekannter und bekamen Angebote als Begleitband bei Plattenaufnahmen. Fehring brach daraufhin sein Studium ab, um sich ganz auf die Musik zu konzentrieren. 1950 gewannen sie bei einem Wettbewerb der österreichischen Radioanstalt RAVAG die Goldene Plakette als Auszeichnung für das beste Tanzorchester Österreichs. Ebenfalls in dieser Zeit bekam Fehring Aufträge zu Kompositionen von Filmmusik und komponierte während seiner Karriere die Musik für über 60 Filme.
Zwischen 1963 und 1966 leitete er zusätzlich das Große Tanz- und Unterhaltungsorchester des WDR und von 1965 bis 1983 das Orchester am Theater an der Wien.
Ende der 1960er Jahre produzierte Fehring das Lied A Glock’n die 24 Stunden läut für Marianne Mendt und im Anschluss daran war er als Produzent auch für bekannte Künstler wie Kurt Sowinetz und Arik Brauer tätig. Damit legte er den Grundstein des Austropop. Insgesamt erreichte er fünf Goldene Schallplatten als Produzent.
1971 gab Fehring seine alte Band auf und war Mitgründer der ORF-Big Band, die aus dem Orchester Johannes Fehring hervorging. Die Mitglieder waren, im Unterschied zum alten Orchester, Musiker aus dem Ausland, vor allem aus den USA. Seine letzte Produktion war 1983 die Veranstaltung 25 Jahre Wiener Stadthalle. Danach musste er aus gesundheitlichen Gründen das Berufsleben aufgeben.
Johannes Fehring starb am 4. Jänner 2004 im Alter von 77 Jahren. Er war mit Susi Schweizar verheiratet und Vater von zwei Kindern. Sein ehrenhalber gewidmetes Grab (Gr. 3, R. 46, Nr. 19) befindet sich am Wiener Zentralfriedhof.
Fehring war ab 1968 bis zu seinem Ausschluss 1987 Mitglied der FreimaurerlogeGleichheit.[1]
Kay Weniger: Das große Personenlexikon des Films. Die Schauspieler, Regisseure, Kameraleute, Produzenten, Komponisten, Drehbuchautoren, Filmarchitekten, Ausstatter, Kostümbildner, Cutter, Tontechniker, Maskenbildner und Special Effects Designer des 20. Jahrhunderts. Band 2: C – F. John Paddy Carstairs – Peter Fitz. Schwarzkopf & Schwarzkopf, Berlin 2001, ISBN 3-89602-340-3, S. 633 f.
↑Günter K. Kodek: Die Kette der Herzen bleibt geschlossen. Mitglieder der österreichischen Freimaurer-Logen 1945 bis 1985. Löcker, Wien 2014, ISBN 978-3-85409-706-8, S.54.