Название связано с финно-угорским топонимом Ха́рью (оза) — одним из элементов моренного рельефа, типичного для Эстонии.
Улица являлась частью древней дороги с Вышгорода в континентальные районы Эстонии, была замощена ещё в XIV веке. Улица выходила из города через Харьюские ворота[2]крепостной стены города. В XV веке ворота были замурованы и открыты вновь только в XVIII веке по распоряжению российской императрицы Екатерины II. В этой связи Харьюские ворота, а затем и улицу, назвали «Новыми»[3].
В 1817 году на улице открылся самый большой в городе, знаменитый впоследствии отель-ресторан — «Золотой лев» (эст.Kuld Lõvi)[4], прежний адрес — улица Харью, д. 40.
В период с 1862 по 1875 год ворота были снесены, в 1881 году была произведена планировка местности, бывшие крепостные рвы были засыпаны, а земляные бастионы срыты. С 1872 года улица носила название Кузнечная[5]
На улице снят ряд эпизодов фильма «Приключения жёлтого чемоданчика» — по ней в начале фильма идёт читающий газету мужчина, в витрине магазина в Доме писателей отражается башня Кик-ин-де-Кёк.