1950-luvulla Marrin vanhemmat muuttivat siirtolaisina Irlannin KildarestäManchesteriin, Englantiin. Marr aloitti koulunsa St Augustine’s RC Grammar Schoolissa, joka yhdistyi sitten yhteiskouluksi. Marrin nuoruuden haave oli tulla ammattilaisjalkapalloilijaksi ja Nottingham Forest FC tarjosikin hänelle pelipaikkaa. Marr olisi kuitenkin mieluummin pelannut Manchester City FC:ssä, jota hän itse kannatti. FourFourTwo-lehden haastattelussa Marr sanoi: ”Olin tarpeeksi hyvä pelaamaan Cityssä, mutta he eivät halunneet minua, koska olin varmaankin ainut pelaaja, joka käytti kajaalia.”
The Smiths
Bill Duffy, The Cultin kitaristi, opetti Marrille kuinka soittaa kitaraa. Vuonna 1982 Marr aloitti yhteistyön Morrisseyn kanssa taivuteltuaan tämän perustamaan kanssaan The Smithsin. Kasatakseen kokonaisen yhtyeen kaksikko palkkasi Mike Joycen rumpuihin ja Dale Hibbertin bassoon. The Smiths soitti ensimmäisen keikkansa Ritzissä, Manchesterissä. Lähes heti tämän konsertin jälkeen Marrin ystävä Andy Rourke korvasi Hibbertin yhtyeen basistina. Tuolloin Morrissey oli jo jättänyt etunimensä pois ja Johnny oli vaihtanut nimensä Maherista Marriin, jottei häntä sekoitettaisi Buzzcocks-yhtyeen rumpaliin.
Saavutettuaan suurta kaupallista suosiota ja kriitikoiden ylistystä albumeilla kuten The Queen Is Dead The Smithsistä tuli yksi Britannian 1980-luvun suurimmista yhtyeistä. Suosio ei kuitenkaan levinnyt maailmalle läheskään yhtä suurena. Vaikka The Smithsiä soitettiinkin Yhdysvalloissa yliopistojen radioissa, yhtye saavutti todellisen maailmanmaineen vasta hajottuaan. Hajoamispäätöksen tekijä oli Marr, joka lopulta lähti yhtyeestä 1987 turhauduttuaan Morrisseyhin sekä suuntaan, johon yhtyeen musiikki oli kehittymässä.
The Smithsin uran aikana kaksikko Marr–Morrissey sanoitti ja sävelsi neljä kokopitkää albumia sekä useita B-puolia ja muita julkaisemattomia kappaleita, jotka myöhemmin päätyivät erilaisille kokoelmille. Tänäkin päivänä kriitikot ja muusikot ylistävät kaksikkoa yhdeksi aikansa vaikutusvaltaisimmaksi yhtyeeksi.
Johnny Marr ja the Healers tekivät ensiesiintymisensä vuonna 2000, kun Marr alkoi etsiä muusikkoja. Hän yhdisti voimansa Ringo Starrin pojan Zak Starkeyn, Cavewavesin, Lee Spencerin ja Kula Shakerin basistin Alonza Bevan kanssa. Bändin kokoaminen kesti kaksi vuotta, sillä Marr tahtoi, että jäsenet valittiin ”kemian” mukaan. Debyyttialbumi julkaistiin 2003, ja Marr toimi solistina ja kirjoitti sanoitukset. Toinen levy oli tarkoitus julkaista huhtikuussa 2005 ja sitä piti seurata lyhyt kiertue, mutta koska Starkey työskenteli tuolloin Oasiksen ja The Whon kanssa ja Bevan oli palannut menestyksekkään come backin tehneeseen Kula Shakeriin, on edelleenmilloin? epäselvää julkaistaanko yhtyeen toista levyä koskaan.
Modest Mouse
Vuonna 2006 Marr liittyi virallisesti amerikkalaiseen Modest Mouse -yhtyeeseen. Hän kirjoitti joitakin kappaleita yhtyeen nokkamiehen Isaac Brockin kanssa heidän uudelle albumilleen We Were Dead Before the Ship Even Sank ja soittaa sillä myös kitaraa. Marr myös kiertää yhtyeen mukana vuonna 2007.
We Were Dead Before the Ship Even Sank nousi Yhdysvaltain listaykköseksi maaliskuussa 2007. Tämä oli Marrin ensimmäinen ykkössija Yhdysvaltain listalla.