Die Straße war bereits im Mittelalter als Handelsstraße von Erfurt nach Nordhausen von Bedeutung. Nachdem 1873 Erfurt seinen Status als Festungsstadt verloren hatte, konnten auch Flächen außerhalb der Stadtmauern bebaut werden. So setzte in der Andreasflur eine rasche Bautätigkeit ein und die Nordhäuser Straße wurde als Stadtstraße von etwa 30 Metern Breite angelegt. 1884 erhielt sie ihren Namen, seit dieser Zeit fahren auch Straßenbahnen auf der Nordhäuser Straße. Bebaut wurde bis zum Ersten Weltkrieg der erste, 600 Meter lange Abschnitt der Straße. Dort dominieren Mietshäuser im Stil der Gründerzeit.
Die Nordhäuser Straße ist heute vor allem für den innerstädtischen Verkehr, etwa zum Klinikum, zur Universität oder zu den Plattenbaugebieten am Stadtrand, von Bedeutung. Der Fernverkehr (Bundesstraße 4 Erfurt–Nordhausen) wurde 1976 auf die westlich parallel zur Nordhäuser Straße angelegte Hannoversche Straße verlegt. Auf der Nordhäuser Straße verkehren die Straßenbahnlinien 3 und 6 (bis Riethstraße) bzw. 3 und 1 (ab Warschauer Straße) an den neun Haltestellen Bergstraße, Baumerstraße, Universität, Klinikum, Riethstraße, Warschauer Straße, Straße der Nationen, Thüringenpark und Europaplatz. Zum größten Teil ist die Nordhäuser Straße vierspurig ausgebaut mit einer getrennten Trasse für die Straßenbahn.