Après avoir débuté à 17 ans à Svendborg fB, club située sur l'île de Fionie (2e plus grande île du Danemark et située plus précisément dans la région du Danemark du Sud), John Eriksen s'engage avec OB Odense, le plus prestigieux club de l'île. Il prouve ses grandes qualités de buteur et atterrit en janvier 1980 au Roda JC, aux Pays-Bas. Au cours de son séjour de quatre saisons dans le club néerlandais, il ne marque jamais moins de 16 buts en championnat, il débutera même durant cette période en sélection danoise.
À l'été 1984, il s'engage avec le FC Mulhouse, club français de Division 2, ambitionnant de retrouver l'élite française et alors fraîchement entraîné par un certain Raymond Domenech. Le club alsacien termine deuxième de son groupe et échoue durant les barrages d'accession dans sa quête de montée, mais John termine meilleur buteur du club et du groupe A de la Division 2.
Sur cet échec, John retourne aux Pays-Bas et signe pour le Feyenoord Rotterdam, prouve une nouvelle fois ses talents de buteur, dépassant les 20 buts inscrits et permet à son club de terminer à la 3e place d'Eredivisie.
Âgé alors de presque 29 ans, il poursuit sa carrière professionnelle en découvrant un nouveau championnat : la Suisse. Il signe ainsi au Servette de Genève, où il côtoie un Karl-Heinz Rummenigge en fin de carrière. Il termine à deux reprises meilleur buteur du championnat avec notamment 36 buts inscrits en 34 rencontres de championnat en 1988, permettant à son club de terminer à la 2e place du championnat, à deux points seulement du champion, Neuchâtel Xamax. En 1989, il change de club mais reste en Suisse pour signer au FC Lucerne. Il y reste deux saisons, avant de retourner dans son club formateur, Svendborg fB, pour mettre fin à sa carrière en 1994, à 36 ans.
Mort
John Eriksen, après sa carrière de footballeur, souffre de la maladie d'Alzeimer et vit les trois dernières années de sa vie dans un centre de soins. Après une chute accidentelle, il meurt le , à l'âge de 44 ans. Il est inhumé au cimetière de l'église Saint-Nicolas de Svendborg.