Стара назва — вулиця Поштова. У XVIII столітті західна частина вулиці нараховувала декілька кварталів — на той час вона була крайньою східною вулицею Грецького передмістя. У першій половині XIX століття забудовано майбутній проспект до сучасної будівлі Херсонської обласної лікарні.
На плані початку 1850-х років мала назву вулиця Пестелевська, на честь херсонського губернатора Пестеля В. І., який обіймав цю посаду з 1839 по 1845 роки. За часів губернаторства В. І. Пестеля було здійснено проєкт благоустрою набережної Дніпра, що і стало приводом для увічнення його імєні на мапі міста — у назві вулиці, що саме і пішла від набережної.
У 1850 році губернатор Оленич-Гнененко К. А. видав розпорядження здійснити насадження алеї на цій вулиці. На плані 1855 року вулиця названа Поштовою, тоді як найменування Пестелевська перейшло до бульвару Перекопського, який було засаджено при Пестелі В. І. на початку 1840-х років.
У 1989 році за проектом архітектора В. Михайленка та інженера П. Фермана на початку проспекту був побудований готель «Фрегат» (буд. № 2). Перед будівлею готелю розташована оригінально спланована площа з комплексом взаємопов'язаних між собою фонтанів та водоспадів.
У будинку № 16 на проспекті Ушакова наприкінці XIX століття розташовувалася нічліжка — притулок для знедоленого люду. З 1911 по 1978 роки в цьому приміщенні знаходився краєзнавчий музей (нині — будівля Управління культури і туризму Херсонської обласної державної адміністрації). А поруч — сучасна будівля видавництва «Наддніпряночка».
З протилежного боку вулиці міститься будівля Херсонської міської ради та її виконавчого комітету (буд. № 37).
У будинку № 22/1 з 1914 року розміщувався лазарет російського товариства Червоного Хреста, що став під час Першої світової війни військово-хірургічним шпиталем нині — лікарня Центрального району міста.
На місці пожежної частини у 1973 році побудовано головпоштамт, а там, де стояла перша херсонська електростанція, у 1960 ррці відкрито кінотеатр «Україна» (буд. № 45).
Поруч із кінотеатром розташована будівля обласного управління Пенсійного фонду (буд. № 47).
На базі майстерень з ремонту тракторів у 1932 році розпочав роботу електромашинобудівний завод (буд. № 57).
З протилежного боку вулиці споруджена будівля Центру діагностики Херсонської обласної лікарні (буд. № 36).
Квартал між вул. Червоного Хреста та Гмирьова займає Херсонська обласна лікарня, заснована у 1819 році, як богоугодний заклад (буд. № 67).
Окрасою проспекту є пам'ятник англійському громадському діячу та гуманісту Джону Говарду, який створений у 1818—1820 рр. за проєктом відомого архітектора В. П. Стасова.
Будівля Херсонських морехідних класів трьох разрядів була збудована на честь 25-річчя царювання імператора Олександра ІІ19 лютого1880 року на пожертви мешканців міста й за сприяння губернатора О. С. Ерделі та міського голови В. Г. Терещенка. Вона знаходилася на перехресті вулиць Поштової (нині — Ушакова) та Пестелевського бульвару — на місці одного із сучасних корпусів Морської академії (просп. Ушакова, 14).
Пожежна частина
Тривалий час центральна пожежна команда міста містилася в будівлі міської поліції на вулиці Соборній (нині на цьому місці Художній музей). У 1898—1899 роках на Поштовій вулиці для пожежного депо було побудовано нове приміщення, що включало квартиру брандмайстра та пожежну каланчу, з якою цілодобово велося спостереження. За пожежами стежили також на Військовому форштадті і з каланчі на Забалці, де вона збереглася понині. В залежності від того, в якому районі міста виникала пожежа, на башті вивішувалося певне число повітряних куль. У кожному з трьох районів міста був власний пожежний обоз, що мав коней визначеної масті. Якщо обоз мчав по вулицях з червоним прапором, значить, він їде на гасіння пожежі. Але частіше були виїзди з синім прапором, для прогулянки коней. Ця незвичайна будівля з баштою знаходилася на місці сучасного поштамту, побудованого у 1973 році (просп. Ушакова, 41).
Нічліжка (притулок)
За пожежною командою знаходилася будівля Міського нічліжного притулку імені Густава Івановича Фальц-Фейна, який побудований його спадкоємцями у 1910 році замість нічліжного будинку, який раніше містився в будівлі (нині — Обласне управління культури). У Херсоні було три приватних притулки і один міський. Ночівля в приватних притулках коштувала 5 копійок, а у міському — 3 копійки. Щоденно послугами міського притулку користувалося близько 110 осіб. Після 1917 року в будівлі розміщувалися різні організації, а згодом її було переобладнано під макаронну фабрику. У 1964 році на місці нічліжного притулку був побудований готель «Київ» (просп. Ушакова, 43).
Міська електростанція
Перший камінь будівлі міської електричної станції був закладений 28 травня1908 року і в цей самий день отцем Володимиром Єфремовим була відслужена урочиста молебень. Будівля електричної станції будувалася під керівництвом міського архітектора А. І. Сварика. Пуск останнього — третього дизельного двигуна, а також введення в експлуатацію станції відбулося 5 червня1909 року.
Міська електрична станція будувалася за рахунок капіталу П. І. Соколова. Міською управою були затверджені «Правила приєднання абонентів до мережі електричного освітлення та умови користування електричною енергією від міської електричної станції в м. Херсоні», відповідно з яким і вирішувалися всі питання користування електроенергією.
До 1 січня1914 року вуличне та паркове освітлення складалося з 222 дугових ліхтарів і 27 ліхтарів з лампами розжарення на 400 та 100 свічок. 144 дугових ліхтаря горіли в місті до світанку, а 78 — лише до 01:00 ночі. На електричній станції на той час вже працювало 5 дизельних двигунів.
Зруйнована в роки Громадянської війни та Української революції 1917—1921 років, електростанція була відновлена і працювала до 1930-х років, проте потреб міста вона вже не задовольняла. Незабаром після введення в експлуатацію нової паротурбінної електростанції, яка побудована у 1938 році, дизель-електростанція була демонтована, а в її приміщенні знаходилися ремонтні майстерні. Будівля була підірвана німецько-фашистськими військами під час відступу у березні 1944 року.
У 1960 році на місці електричної станції побудований кінотеатр «Україна» (просп. Незалежності, 45).