Heller commence sa carrière professionnelle en 1929 avec les Indians de Springfield dans la Canadian-American Hockey League. Trois saisons plus tard, il est vendu aux Rangers de New York de la Ligue nationale de hockey avec lesquels il passe quinze saisons consécutives et remporte deux coupes Stanley en 1933 et 1940. Lors de sa première saison avec les Rangers, il marque le plus but le plus marquant de sa carrière dans la LNH, lors d'un match en séries éliminatoires contre les Canadiens de Montréal : il récupère le palet d'un côté de la patinoire qu'il traverse de part en part pour marquer le seul but de la rencontre[3]. En 1941, il est nommé dans la deuxième équipe d'étoiles de la ligue. En 1942, il est nommé capitaine des Rangers, fonction qu'il occupe jusqu'en saison 1944-1945 de la LNH[4].