Enfant, Clarence écoute du jazz, notamment Count Basie et Duke Ellington[3]. Dans les années 1940, il chante avec ses frères Lowman Jr. et Curtis dans le groupe vocal The Royal Sons Gospel Group en tant que chœur durant les concerts que donne leur père. Repérés par le producteur de radio Robert Woodward au début des années 1950, les trois frères décrochent un contrat avec la maison de disques Apollo Records[4]. Le groupe se renomme successivement The Royals puis The "5" Royales, enregistrant plusieurs titres à succès dans la décennie 1950. Chantant également dans d'autres groupes de gospel (The Coleman Brothers, Wings Over Jordan)[1], Clarence Paul abandonnera le suffixe "ing" de son nom[5] pour éviter la confusion[3] avec son frère Lowman qui poursuivait alors une carrière solo[1].
En 1958, il coécrit son premier succès I Need Your Lovin' pour le label Hanover, repris moins d'un an plus tard par Roy Hamilton qui atteindra la 14e position du classement R&B. Sur ses titres, Paul s'associe au groupe The Ivies pour les chœurs, groupe qu'il accompagnera sur leurs singles[6].
Il déménage à Détroit au début des années 1960 et y rencontre le jeune Steveland Morris, à qui il associera rapidement le qualificatif de 'Wonder', en référence à la 8ème merveille du monde[3], celui-ci devenant le 'Little Stevie Wonder' qu'il présentera à Berry Gordy, CEO de Motown[1]. Engagé par le label, il obtient une certaine notoriété en tant que mentor et producteur principal de son protégé durant toute son adolescence. Paul et Wonder s'entendent comme père et fils, Paul accompagnant le futur auteur-compositeur-interprète durant ses tournées et lui enseignant diverses techniques vocales, ce qu'il considérera comme les moments les plus heureux de sa vie[3].
En 1965, Wonder est menacé d'être écarté de la Motown, faute de vraie confirmation après le succès de Fingertips. Lors d'un session en studio en fin d'année 1965, Clarence Paul réagit à un texte écrit par Wonder, notamment une phrase : 'everything is alright, uptight'. Persuadé de tenir en ces quelques mots le début d'un succès pour Wonder, il l'associe à l'arrangeur et producteur Henry Cosby ainsi qu'à Sylvia Moy, qui s'attaque à l'écriture d'une nouvelle et peut-être dernière chanson pour Wonder, basée sur un riff instrumental qu'elle l'avait entendu jouer. Le titre Uptight (Everything's Alright) est né. Produit par William Mickey Stevenson, il relance la carrière de Wonder et le popularise à l'international[8], le titre atteignant un top 15 au Royaume-Uni en février 1966[9].
Les années suivantes, Paul continue de chercher de nouveaux talents pour Motown (il découvre notamment Ronnie McNeir(en)) ou en freelance[3] pour la maison de disques Venture Records[10], une filiale de MGM pour laquelle travaille William Stevenson depuis 1969[11]. À la fin des années 1970, il quitte officiellement la Motown et rejoint le label géré par Stevenson[1].