1929년 4월 22일에 런던에서 4남매 가운데 장남으로 태어났다. 아버지 에드워드 살림 아티야(아랍어: ادوار سَلِيم عَطِيَّة, 영어: Edward Selim Atiyah)는 동방 정교회 신자이자 레바논 출신이며, 영국 옥스퍼드 대학교에 유학한 뒤 영국으로 이민하였다. 어머니 진 레벤스(영어: Jean Levens)는 스코틀랜드 출신이다. 동생 패트릭 아티야(영어: Patrick Atiyah)는 유명한 변호사가 되었다.
1934년부터 1941년까지 하르툼에서 학교를 다녔으며, 1941년부터 1945년까지 이집트의 카이로와 알렉산드리아에서 학교를 다녔다.
제2차 세계 대전 종전 후 영국으로 귀국하여 1945년부터 1947년까지 명문 사립 고등학교인 맨체서트 그래머 스쿨(영어: Manchester Grammar School)에 다녔으며 이후 공병대대에서 군복무를 마친 뒤 케임브리지 대학교 트리니티 칼리지에 입학하여 학사·박사 학위를 취득하였다. 그의 지도 교수는 윌리엄 밸런스 더글러스 호지였으며, 학위 논문은 대수기하학을 주제로 다루었다.
1966년에 37세의 나이로 필즈상을 수상하였으며, 1968년에는 왕립학회에서 수여하는 로열 메달을 받았다
1974년부터 1976년까지 런던 수학회 회장직을 역임하였고 1988년에 왕립학회에서 수여하는 코플리 메달을 받았다.
1990년에 케임브리지 대학교에서 아이작 뉴턴 연구소(영어: Isaac Newton Institute)를 창설하였고, 초대 소장직을 역임하였다. 1990년부터 1995년에는 왕립학회의 회장직을 역임하였다. 또한 국제한림원연합회 및 유럽 수학 협회(European Mathematical Society) 등을 세우는 데에도 공헌했다. 1990년부터 1995년까지 케임브리지 대학교 트리니티 칼리지의 학장을 맡았다.