Weedon leitete bereits als Teenager Gruppen wie die Blue Cumberland Rhythm Boys und Bert Weedon and His Harlem Hotshots. In den 1930er- und 1940er-Jahren spielte er in der semi-professionellen Dixieland JazzbandHarry Gold’s Pieces of Eight und trat auch Anfang der 1940er-Jahre mit dem JazzviolinistenStéphane Grappelli und dem Pianisten George Shearing auf. Zusammen mit dem klassischen Gitarristen Julian Bream war er als Theatermusiker für die Produktion von Garcia Lorcas Theaterstück Bluthochzeit tätig.
Er begann seine Karriere in den Orchestern von Mantovani und Ted Heath, ehe er von der BBC als Solist ihrer Showband engagiert wurde. Er begleitete amerikanische Künstler wie Frank Sinatra, Judy Garland und Tony Bennett bei Aufnahmen in London. Ab 1955 trat er regelmäßig in britischen Fernsehsendungen wie Slater’s Bazaar auf, um 1960 auch in einigen TV-Kindershows wie Small Time, Tuesday Rendezvous und Five O’Clock Club, mit Muriel Young, Wally Whyton und Ollie Beak.
Mit Titeln wie Guitar Boogie Shuffle, Apache und Nashville Boogie konnte er sich Ende der 1950er-Jahre in den britischen Charts etablieren. Zu seinen bekannten Kompositionen dieser Zeit zählen Sorry Robbie (1960), China Doll (1961) und Ginchy (1961). Im Jahr 1976 war sein Album 22 Golden Guitar Greats ein Nummer-eins-Hit in der LP-Hitparade. Damit war er der erste Sologitarrist, dem dies gelang.
Weedons Gitarrenspiel und sein Lehrbuch Play in a Day hatten starken Einfluss auf spätere Rockgitarristen wie Joe Brown, Eric Clapton, Paul McCartney und Brian May. Die Erstauflage des Buches erschien 1957, seither wurden mehr als eine Million Exemplare verkauft.