Anthony Jackson lernte zunächst das Klavierspielen, bevor er zur Gitarre wechselte und schließlich zum E-Bass kam. Gitarre lernte er bei Pat Martino. Zu seinen Einflüssen zählen dabei, wie er in einem Interview im Bass Player Magazin 1990 erklärte, der bekannte Motown-Bassist James Jamerson, der Jefferson-Airplane-Bassist Jack Casady und der Komponist Olivier Messiaen (für seine Verwendung des Tritonus-Intervalls).
Ab 1981 verwendete er den von ihm entwickelten Six-String-Bass mit sechs statt wie üblich vier Saiten. Neben seinen Hauptinstrumenten spielt er auch Orgel.