Rayner débute en junior avec les Wesleys de Saskatoon. Il joue ensuite les Thistles de Kenora avec lesquels il dispute la Coupe Memorial en 1940, finale perdue face aux Generals d'Oshawa. Pour la saison 1940-1941, il rejoint les Americans de New York dans la Ligue nationale de hockey (LNH). Il interrompt sa carrière en 1942 pour s'enrôler dans la Marine Canadienne lors de la Seconde Guerre mondiale. En 1945, il est de retour dans la LNH avec les Rangers de New York, les Americans ayant stoppé leurs activités en 1942 après être devenus l'espace d'une saison les Americans de Brooklyn. Il passe huit saisons avec les Rangers au cours desquelles il est nommé à trois reprises, en 1949, 1950 et 1951 dans la deuxième équipe d'étoiles[1]. En 1950, il parvient en finale de la Coupe Stanley mais ne peut empêcher les Red Wings de Détroit, meilleure équipe de la saison régulière, de remporter leur quatrième titre. Il est cependant récompensé à titre individuel et remporte le trophée Hart du meilleur joueur de la saison[2]. Il termine sa carrière dans la LNH en 1953 en hockey puis sa carrière professionnelle trois ans plus tard.
En 1962, il devient entraîneur des Flyers d'Edmonton dans la Western Hockey League mais l'expérience ne dure qu'une saison alors que l'équipe ne remporte que 24 de ses 70 matchs[3].