1846년 뉴욕의 빈민가 파이브 포인츠에서 윌리엄 "빌 더 부처" 커팅이 이끄는 앵글로-프로테스탄트 갱단과 "프리스트" 발론이 이끄는 아일랜드 카톨릭 이민자 갱단 데드 래빗츠가 세력 다툼을 벌인다. 빌은 결투 끝에 발론을 살해하고, 발론의 어린 아들은 아버지의 살해 도구를 숨긴 채 고아원으로 보내진다.
16년 후, 발론의 아들 "암스테르담"은 복수를 위해 파이브 포인츠로 돌아와 아버지의 칼을 찾는다. 암스테르담은 빌이 여전히 권력을 장악하고 있다는 것을 알고 자신의 과거를 숨긴 채 그의 갱단에 들어간다. 그는 빌의 깊은 반 아일랜드 성향에도 불구하고, 아버지의 이전 부하들이 빌의 밑에서 일하고 있다는 것을 알게 된다. 암스테르담은 데드 래빗츠를 꺾은 빌의 승리 기념일에 그를 공개적으로 암살하려 하지만, 그 과정에서 소매치기 제니 에버딘과 사랑에 빠지고 빌의 신임을 얻어 그의 양자가 된다.
기념일 밤, 암스테르담의 정체가 발각되자 빌은 제니를 이용해 그를 도발하고, 암스테르담은 역습을 시도하지만 실패한다. 빌은 그를 죽이지 않고 쫓아내지만, 암스테르담은 복수를 위해 돌아와 데드 래빗츠의 귀환을 알린다. 빌은 경찰관이자 전 데드 래빗츠 멤버인 멀레이니를 보내 조사하지만, 암스테르담은 그를 살해한다. 이에 분노한 빌은 암스테르담의 동료 조니를 잔인하게 살해한다. 암스테르담은 빌의 부하 맥글로인을 제압하고, 두 갱단은 교회 앞에서 대치하지만 충돌 직전 상황은 일단락된다.
이 사건은 언론에 보도되고, 암스테르담은 정치인 트위드에게 빌의 영향력을 꺾을 계획을 제시한다. 암스테르담의 도움으로 트위드의 지지자인 몽크 맥긴이 보안관으로 당선되지만, 빌은 그를 살해한다. 격분한 암스테르담은 빌에게 갱단 결투를 신청한다. 두 갱단의 결투가 시작되려는 찰나, 남북전쟁 징집에 대한 폭동이 일어나고, 해군 포격이 시작되면서 혼란에 빠진다. 빌은 포격으로 부상을 입고, 암스테르담은 아버지의 칼로 빌을 죽인다. 암스테르담은 빌의 이름을 아버지의 무덤 옆에 새기고 제니와 함께 떠난다. 시간이 흘러 현대 뉴욕의 모습이 나타나고, 공동묘지는 잊혀진다.