Ball debuterte for Blackpool FC i 1962, og spilte 116 ligakamper for klubben. Selv om han spilte for et av de svakere lagene i ligaen, ble Balls arbeidskapasitet og ballfordelingsevne lagt merke til av Englands landslagstrener Alf Ramsey, og Ball debuterte på landslaget i 1965, tre dager før han fylte 20 år.
Alan Ball var en sterkt medvirkende til at England sikret seg verdensmestertittelen, og han ble lagt merke til av flere av storklubbene. Senere i 1966 gikk han til Everton FC for en rekordsum på 110 000 britiske pund.
I 1970 var Ball med i troppen som dro til VM i Mexico, der England ble slått ut i kvartfinalen. Mot slutten av 1971 gikk Ball fra Everton til Arsenal FC for 220 000 pund, igjen ny overgangsrekord.
Ball ble værende i Arsenal til og med 1976, da han ble solgt til Southampton FC. Han hjalp Southampton tilbake til toppdivisjonen i 1978. Etter oppholdet i Southampton dro Ball til USA, hvor han spilte for Vancouver Whitecaps.
Trenerkarriere
Han dro tilbake til Blackpool for å bli spillende manager, men etter en kort periode gikk han til Southampton for å spille sammen med de tidligere landslagskollegene Mick Channon og Kevin Keegan. Ball spilte for Southampton i øverste divisjon til han var 37. Da gikk han til Bristol Rovers FC, der han avslutter spillerkarrieren. Han spilte totalt 975 offisielle kamper i løpet av karrieren.
Ball fortsatte som manager, først for Portsmouth FC, som han tok opp i toppdivisjonen i 1987. Han forlot Portsmouth i 1989 og tilbrakte to år i Stoke City FC og en kort periode i Exeter City FC.
I 1994 kom Ball tilbake til Southampton som manager, før han året etter ble hentet til Manchester City FC. Her opplevde Ball ingen suksess, og klubben rykket ned til andre divisjonsnivå. Han sluttet etter tre kamper den påfølgende sesongen. I 2000 ble han utnevnt til medlem av ordenen Order of the British Empire av Dronning Elizabeth.