Murphy y su hermano gemelo Jacob se unieron a las inferiores del Norwich City a la edad de 12 años en 2006.[7] Firmó su primer contrato profesional con el club el 4 de enero de 2013.[8] Debutó con el Norwich el 24 de septiembre de 2013, cuando entró en el minuto 67 por Bradley Johnson en el encuentro de la Football League Cup contra el Watford, en ese momento el Norwich perdía por 2-0, en el minuto 77 anotó su primer gol con el club, el Norwich ganaría ese encuentro en el tiempo extra por 3-2.[9]
Préstamo al Wigan Athletic
En la temporada 2014-15 Murphy se unió al Wigan Athletic de la Championship como préstamo por un mes.[10] Debutó el 17 de marzo de 2015 en la derrota por 2-0 contra el Watford.[11] Registró cinco partidos jugados para el Wigan,[12] donde se quedó hasta el final de la temporada.[12]
Préstamo al Milton Keynes Dons
El 21 de agosto de 2015, para la temporada 2015-16, se unió al Milton Keynes Dons de la Championship como préstamo por toda la temporada.[13] Anotó su primer gol con el club en su debut en la victoria por 2-1 contra el Cardiff City en la segunda ronda de la Copa de la Liga.
El 3 de mayo de 2016, Murphy fue nombrado jugador del año del Milton Keynes Dons en la temporada 2015-16.[14] En total, jugó 46 encuentros para el club, anotó 7 goles en todas las competiciones.[15]
Cardiff City
Murphy fichó por el Cardiff City de la Premier League el 12 de junio de 2018 por cuatro años, en un fichaje estimado de £11 millones.[16] Debutó en el primer encuentro de la temporada 2018-19 como sustituto de Nathaniel Mendez-Laing en la derrota por 2-0 contra el AFC Bournemouth.[17] Anotó su primer gol para el Cardiff en el encuentro contra el Burnley, anotaría nuevamente en la victoria por 4-2 al Fulham.[18][19]
Selección nacional
Josh y su hermano Jacob fueron llamados a la selección sub-18 de Inglaterra en octubre de 2012,[20] y debutaron en la victoria por 1-0 contra Finlandia sub-19 el 13 de noviembre de 2012.[21]