Murphy est né à Philadelphie le , d'un père policier et d'une mère secrétaire juridique. Ses parents sont d'origine irlandaise[1]. Il grandit dans le quartier de Northeast Philadelphia et réalise l'ensemble de ses études en Pennsylvanie. Il étudie au collège communautaire du comté de Bucks puis au King's college de Wilkes-Barre, avant d'obtenir un doctorat en droit de l'université Widener en 1999[2].
En 2006, il est élu à la Chambre des représentants des États-Unis avec 50,3 % des voix[5] face au sortant Mike Fitzpatrick, un républicain modéré[4]. Il profite de la vague démocrate anti-Bush et anti-guerre pour remporter le 8e district de Pennsylvanie, une circonscription indécise dans la banlieue de Philadelphie. Il devient le premier vétéran d'Irak à être élu au Congrès[3],[6]. Il est réélu en 2008 avec 57 % des suffrages[7].
Au Congrès, il se spécialise dans les questions de défense[1]. Il est l'un des principaux artisans de l'abrogation du Don't ask, don't tell, qui interdisait aux personnes homosexuelles et bisexuelles de servir ouvertement dans l'armée américaine[4].
En 2010, Murphy affronte à nouveau Fitzpatrick, qui fait une campagne plus à droite que par le passé. Les sondages donnent les deux hommes au coude-à-coude[4]. Il est emporté par la vague républicaine de ces élections de mi-mandat[3], ne réunissant que 46,5 % des voix[5].
Murphy est marié à Jenni, avec qui il a deux enfants. Le , la famille est à bord du train reliant Washington à New York lorsque celui-ci déraille près de Philadelphie, Murphy vient alors en aide aux blessés[1].