Harris stammte wie sein Jugendfreund Tommy Flanagan aus Detroit, wo seine Mutter Kirchen-Pianistin war. Bereits mit vier Jahren lernte er Klavier und gewann Mitte der 1940er Jahre einen Preis in einem lokalen Klavierwettbewerb. Er spielte mit den hier beheimateten Thad Jones und Blue Mitchell (und mit seinen Jugendfreunden Pepper Adams, Doug Watkins und Paul Chambers) und begleitete als Hauspianist eines Jazzclubs durchreisende Jazzmusiker wie Lester Young, Lee Konitz, Sonny Stitt, Wardell Gray, Miles Davis, sowie eine Session mit Charlie Parker. 1950 entstanden erste Aufnahmen in Detroit unter eigenem Namen, als er zwei Titel mit Frank Foster, John Evans (Gitarre), Ray McKinney (Bass) und Ralph Clark (Schlagzeug) einspielte. Im Jahre 1955 wirkte er an Donald Byrds erstem Album mit (First Flight); 1956 tourte er mit Max Roach, spielte mit Art Farmer und 1960 mit Cannonball Adderley. Im selben Jahr zog er nach New York.
In den 1960er Jahren war Harris dort regelmäßig Begleiter von Coleman Hawkins (1965 bis 1969), nahm mit Dexter Gordon ("Biting the Apple", 1976), Hank Mobley, Yusef Lateef und Illinois Jacquet auf und assistierte 1974 seinem Vorbild Thelonious Monk, mit dem er engen Kontakt in der Wohnung von Pannonica de Koenigswarter hatte, die in Monks letzten Jahren für ihn sorgte (er ist mit Flanagan auch in dem Dokumentarfilm Thelonious Monk - straight no chaser von Charlotte Zwerin von 1988 zu hören). Als Pianist ist er außerdem stark von Bud Powell beeinflusst. 1982 gründete er das Jazz Cultural Center in New York, eine Mischung aus Unterrichtsstätte[2] (er unterrichtete bis ins hohe Alter Jazz und Jazzpiano mit einer eigenen Methode, wie schon ab 1958) und Auftrittsstätte für sich und Musiker ähnlicher Richtung. 2013 trat er im Village Vanguard mit seinem Trio aus Ray Drummond (Bass) und Leroy Williams (Schlagzeug) auf.[3] Im Bereich des Jazz war er laut Tom Lord zwischen 1950 und 2019 an 188 Aufnahmesessions beteiligt.[4]
Auf Harris’ Lehrtätigkeit geht die Bebopskala zurück, die er aber "sixth-diminished" scale nannte.
