在1956年至1962年之間，他與賽門以「湯姆與傑瑞」合唱團（英語：Tom & Jerry）的名義一起演出，偶爾會在學校舞會上表演[4]。1957年，他們的單曲《Hey, Schoolgirl》打上美國流行曲排行榜第49位。1963年，葛芬柯和賽門改變樂團的名字為「賽門與葛芬柯」，正式出道。1964年10月，哥倫比亞唱片為他們發行了第一張專輯《週三早上，凌晨3點》（Wednesday Morning, 3A.M.）[5]，專輯沒有多大成功，導致保羅·賽門的短暫離隊。後來單曲《寂靜之聲》（The Sound of Silence）經過重新混音後再度以細碟形式發行[6]，廣受注目，於1965年12月4日打上美國告示牌排行榜第一位。
賽門與葛芬柯後來成為了20世紀60年代最流行的樂團之一。其後他們再錄製了四個頗具影響力的專輯，包括《寂靜之聲》、《蕪荽，鼠尾草，迷迭香和百里香》、《書擋》，和獲得巨大成功的《惡水上的大橋》（Bridge Over Troubled Water）專輯[7]。1967年，賽門與葛芬柯為好萊塢電影《畢業生》配樂，成為不朽經典。
樂團於1970年解散後，葛芬柯開始作個人發展。1971年參演電影《Carnal Knowledge》，獲提名金球獎最佳男配角。1973年推出首張個人專輯《Angel Clare》，但歌迷反應一般。1975年推出第二張專輯《Breakaway》，邀請前隊友賽門合作流行歌曲《My Little Town》。之後的數十年間，葛芬柯都有發布專輯，但已不復當年之勇。雖然如此，賽門與葛芬柯樂團數度復出演唱，都座無虛設。1990年，兩人以樂團名義入選美國搖滾名人堂。2003年再度復出，被授予葛萊美終身成就獎。[8]
