Prvé športové úspechy zaznamenal v roku 1896, keď vyhral majstrovstvá severných grófstiev Anglicka v behoch na 1000 yardov a jednu míľu. O rok neskôr sa stal anglickým šampiónom v behu na 1 a 10 míľ. V rokoch 1899 a 1900 získal titul v behu na 880 yardov.
Krátko pred olympiádou v Paríži v roku 1900 vytvoril svetový rekord v behu na 800 metrov časom 1:57,8. Na olympiáde štartoval preto ako favorit. Nesklamal a zvíťazil s jasným náskokom pred druhým Johnom Creganom z USA. Druhý olympijský titul získal v súťaži družstiev v behu na 5000 metrov ako člen zmiešanej štafety (okrem neho boli jej členmi Briti Charles Bennett, John Rimer, Sidney Robinson a Austrálčan Stanley Rowley).
Rok po olympijskom víťazstve zomrel Alfred Tysoe na zápal pľúc.