Di origine greca, prima di approdare alla scrittura ha fatto innumerevoli lavori tra cui il barista, il cuoco, il venditore di scarpe ed elettrodomestici, mestieri che farà poi svolgere a molti protagonisti dei suoi romanzi. Pelecanos è un grande amante della musica soul e rock degli anni sessanta e settanta. Ha vinto il premio "Raymond Chandler" in Italia, il "Falcon" in Giappone e il "Grand Prix Du Roman Noir" in Francia. È stato ospite al Festivaletteratura [1] di Mantova nel 2004. Scrive per giornali e riviste come il Washington Post, GQ, il New York Times, Mojo, Uncut e molte altre. È stato distributore cinematografico: ha lavorato con i fratelli Coen e ha fatto conoscere negli Stati Uniti The Killer di John Woo.
Scrive anche per la televisione. È uno dei produttori e soggettisti di The Wire, serie poliziesca pluripremiata della HBO e ha scritto una miniserie televisiva sullo sfondo della seconda guerra mondiale prodotta da Steven Spielberg e Tom Hanks intitolata The Pacific. Sempre per il canale via cavo HBO ha creato la serie The Deuce - La via del porno, incentrata sulla nascente industria pornografica nella New York degli anni settanta.
Attualmente vive a Silver Spring, Maryland, con moglie e tre figli.
Premi letterari
Nel 1998 finalista premio Gold Dagger Award con il romanzo King Suckerman.
Nel 2001 finalista premio Gold Dagger Award con il romanzo Right as Rain.