Boston is in 1992 een stad die gekenmerkt wordt door geweld, misdaad, racisme en corruptie. Decourcy Ward, een ambitieuze openbaar aanklager die uit Brooklyn afkomstig is, wil een einde maken aan het falend justitiesysteem en begint daarom een niet voor de hand liggende samenwerking met Jackie Rohr, een doorgewinterde, corrupte FBI-agent die geen probleem heeft met het handhaven van de status quo. Samen richten ze hun pijlen op een familie van gewapende autodieven uit Charlestown.
In juli 2017 raakte bekend dat Ben Affleck en Matt Damon de misdaadserie City on a Hill zouden produceren voor de Amerikaanse betaalzender Showtime. De reeks, gebaseerd op een idee van Affleck en uitgewerkt door Chuck MacLean, werd geïnspireerd door The Boston Miracle (ook bekend als Operation Ceasefire), een politieproject uit 1996 dat als doel had om het wapengeweld in Boston drastisch te doen afnemen.[2][3] Affleck kwam op het idee voor de serie tijdens zijn research voor de misdaadfilm The Town (2010).[4]
Gavin O'Connor, met wie Affleck even voordien aan The Accountant (2016) had samengewerkt, werd aanvankelijk aangekondigd als regisseur van de pilot.[5] Hij werd uiteindelijk vervangen door Michael Cuesta.[6] O'Connor bleef wel als uitvoerend producent bij de reeks betrokken.
In mei 2018 gaf Showtime officieel groen licht voor een eerste seizoen van twaalf afleveringen.[7] Later werd dit ingekort tot tien afleveringen.
Op 7 juni 2019 ging de eerste aflevering online in première en op 16 juni 2019 volgde de première op Showtime.[4] In augustus 2019 kondigde de zender het tweede seizoen aan.[1]