Sundby var oppvokst i Stavern og begynte der fotballkarrieren i Stag, som han spilte for til han var guttespiller.[3] Deretter gikk ferden videre til Larvik Turn, hvor også hans far Reidar Sundby hadde spilt. Broren, Reidar Sundby jr. var med Hallvar Thoresen i 1976 til Twente.[5]
Tom Sundby debuterte for Larvik Turn som 16-åring,[6] og var lagets toppscorer[7] noen år før økede ambisjoner førte ham videre til toppdivisjonsklubben Lyn i 1981.[8] Hans første sesong i Lyn endte med nedrykk. Da Lyn ikke maktet å rykke opp påfølgende sesong, meldte Sundby overgang til Lillestrøm 14. desember 1982, som spiss og som erstatter for Tom Lund.[9] Hos Lillestrøm utviklet han seg til en mer komplett spiller. Inntil da hadde han klart seg med sin pasningssikkerhet og teknikk. Treningen med Lillestrøm utviklet hans fysikk og tempo, hvilket hadde vært hans svake sider. Etter en god start hos Lillestrøm, fikk han sin debut på landslaget mot Finland i juni 1983. Inntil da var samlinger med juniorlandslaget det nærmeste han hadde vært å ikle seg landslagsdrakten.[3] Med Lillestrøm vant han i 1985 Norgesmesterskapet[10] og fikk samme året andre plass i serien.[11] Året etter ble dette snudd til seriegull som ble brakt av hans eneste mål i sesongens nest siste kamp 12. oktober 1986 mot Strømmen IF[12][13] og finaletap i Norgesmesterskapet.[14] Han ble kåret til Årets spiller i norsk fotball av Aftenposten i 1985[15] og av VG i 1986.[16][17]
I midten av desember 1986 ble han proff i den greske klubben Iraklis, etter en måned med overgangsspekulasjoner hvor han også var i søkelyset til Köln, Osasuna og Rapid Wien.
Sammen med Hallvar Thoresen dannet Sundby en sterk midtbaneduo av internasjonalt format.[21]
Sundby var med på landslagets 2-1-seier over verdensmesterenItalia i treningskampen i Lecce, 25. september 1985.
[22][23][24]
Mot Skottland på høsten 1988 ble han alvorlig skadet etter å ha blitt taklet av Steve Nicol i det 90. sekund av kampen. Da skaden inntraff var han svært nær en overgang til Fiorentina.[25] Skaden holdt ham ute av spill i to år, og ødela hans proffkarriere.[25] Etter en rettstvist med fotballforbundet fikk Sundby i 1991 utbetalt en erstatning på nær en million kroner.[26]
Etter å ha trent seg tilbake i form, blomstret fotballkarrierens hans igjen med gjenkomst hos Lyn i 1990.[27][28][29] Anført av Sundby rykket Lyn opp i øverste divisjon der klubben hadde vært fraværende siden 1981. Til tross for skaden som hadde redusert ham fysisk, gjenetablerte han seg som en av seriens beste spillere. Leger sa han var 25 prosent invalid, og Sundby selv sa han var i stand til å yte 80 prosent av hva han var god for.[30] Under tiden tilbake i Lyn endte han likevel opp på årets lag på VG-børsen, Dagbladet kåret ham til Årets Dagbla´-spiller som beste norske fotballspiller i 1991, og han spilte seg inn i landslagsdiskusjonen igjen.[25][30] Januar 1991 var Sundby tilbake i landslagstroppen[31], og spilte første omgang av en treningskamp Norge vant 1-0 over det engelske klubblaget Leicester under en treningsleir i England.[32] I forbindelse med landskamp mot Kypros i april 1991 meldte Sundby fra til landslagssjef Egil Olsen om at han ikke var kommet i god nok form etter et brudd i pannebenet måneden i forveien.[33] I forbindelse med landskamp mot Romania i mai 1991 meldte Sundby forfall med begrunnelse om at kneet hans ikke tåler landslagsspill. Han sa samtidig at Olsen får bruke friske spillere og at han hadde spilt sin siste landskamp.[34]
Våren 1992 var kneet blitt smertefritt og han hadde gjenfunnet lysten på landslagsspill. Til tross for at avisene meldte at han var i storslag og presset på for å få ham tatt ut på landslaget, fant ikke Egil Olsen plass til ham i troppen mot Danmark i april 1992. Aftenposten omtalte Sundby på tidspunktet som Norges beste midtbanespiller.[21][35]
Februar 1993 besluttet Sundby seg for å gi seg som fotballspiller på toppnivå for å ta fatt på en jobb som produktsjef hos sportsutstyrsfabrikanten Asics.[3] Med avgangen til Sundby og flere andre nøkkelspillere fikk Lyn en vanskelig sesong i 1993. En mulig gjeninntredelse av Sundby på midtbanen var et gjentakende tema i klubben gjennom sesongen. Da Bjarne Rønning i september ga seg som trener, ble Sundby også lansert som kandidat til en trenerrolle.[36] På sommeren spilte Sundby en testimonial-kamp for Lyn mot Tottenham[37] som viste seg å bli hans siste fotballkamp.
«Selvsagt var det moro å spille på Ullevaal igjen» sa Sundby, «blir det krise i Lyn og behov for meg, skal jeg tenke over saken (et comeback) en gang til. Men jeg har ingen tro på at vi kommer i den situasjonen.»[38]
Lyn endte 1993-sesongen med nedrykk og med det ble det slutt på diskusjonene om en gjenkomst i Lyn-drakten.
Siden den gang har Sundby trent, spilt og ledet klubben Snarøya i 8. divisjon. Siden 2007 har han sittet i ledelsen av Norges Fotballforbund.[39]
Kent Bergersen, tidligere lagkamerat i Lyn, har omtalt Tom Sundby som den beste spilleren han spilte sammen med.[25]Kjetil Osvold, tidligere lagkamerat i landslaget og LSK, sa også «Tom Sundby. Han hadde alt, en komplett fotballspiller - rett og slett.»[40]