Tony Iommi é conhecido principalmente por seus riffs vigorosos e pesados e por basear a maioria dos seus solos em Pentatônica menor. Começou a se interessar por música na adolescência, quando tomou algumas aulas de piano, mas logo perdeu o interesse pelo instrumento e decidiu aprender guitarra. Segundo ele, o grupo que mais o inspirou foi a banda de Hank Marvin The Shadows.
Por causa de um acidente de trabalho a trajetória musical de Iommi ameaçou a terminar logo na juventude. O fato ocorreu na fábrica onde trabalhara quando ele foi chamado para operar uma prensa mecânica no lugar de um colega que havia faltado. Num momento de distração acabou colocando a mão direita na máquina que puxou de volta num reflexo de retração, decepando a falange distal dos dedos do meio e anelar. Sendo canhoto, a mão acidentada era a que ele usava para articular as notas no braço da guitarra e devido a gravidade do acidente, fora desencorajado a voltar a tocar o instrumento, pelos vários médicos que tinha consultado.
A motivação para continuar tocando foi reencontrada ao receber de presente do dono da empresa onde sofreu o acidente um disco do guitarrista belga de JazzDjango Reinhardt, que tocava apenas usando os dedos indicador e médio. Empolgado com o fato, Tony Iommi começou a usar encaixes improvisados de plástico derretido nas pontas dos dedos para poder tocar, que foram depois substituídos por próteses.
Desde a formação do Black Sabbath em 1968 até hoje, Tony Iommi é ativo como músico, e entre outros projetos, foi o único membro que nunca deixou a banda. Além dos trabalhos no Black Sabbath, ele possui também 3 trabalhos solo em parceria com Glenn Hughes e músicos convidados. Em 1968, teve uma breve passagem pela banda Jethro Tull, substituindo o recém-saído guitarrista Mick Abrahams na lendária apresentação do Rolling Stones Rock and Roll Circus. Desde início do Black Sabbath até os dias atuais, Tony utiliza a guitarra Gibson SG.