Josef Fiedler bekam ab dem Alter von sechs Jahren Klavierunterricht. Mit dem Saxofonisten und Klarinettisten Heinrich Blaser gründete er 1923 die Sonora-Band, die bald zu einem gefragten Wiener Ensemble mit Jazzmusik wurde und im In- und Ausland Auftritte verbuchte. Während und nach dem Zweiten Weltkrieg komponierte Fiedler zahlreiche Wienerlieder, meist zusammen mit dem Textdichter Josef Petrak, interpretiert vor allem von Hansl Schmid. Ab 1953 trat Fiedler regelmäßig als dessen Pianist in dessen Konzertcafé Schmid Hansl in der Schulgasse im 18. Bezirk auf. Weiters trat er in verschiedenen Wiener Etablissements als Alleinunterhalter auf.
Fiedlers Werk umfasst etwa 450 Wienerlieder, Tanzmusik und Bühnenmusik.
