Відразу після закінчення війни був направлений на курси удосконалення офіцерівпіхотиЧервоної Армії, які закінчив у 1946 і був призначений командиром стрілецької роти. Тільки у 1953 р. закінчив середню школу. У 1956 р. закінчив Військову академію імені М. В. Фрунзе із золотою медаллю і призначений командиром мотострілецького батальйону. З жовтня 1958 р. — старший офіцер в Управлінні бойової підготовки Ленінградського військового округу. З жовтня 1961 р. — командир мотострілецького полку, полковник (20.06.1962). У період Карибської кризи мотострілецький полк Язова був таємно перекинутий на Кубу і перебував там тривалий час у бойовій готовності для запобігання вторгнення військ США на острів. З вересня 1963 р. — заступник, а потім начальник відділу планування та загальновійськової підготовки штабуЛенінградського військового округу (до 1965 року).
У березні 1991 року був «перепризначений» на посаду Міністра оборони СРСР Указом Президента СРСР.[8]
ДКНС і пострадянський час
Консерватор, він був непопулярний в колах прихильників перебудови; в 1991 р. прилучився до підготовлюваного ГКЧП і з першого дня увійшов до його складу; в Москву за його наказом були введені танки та інша важка техніка, обговорювався план штурму Білого дому.
Переконавшись у провалі перевороту, відправився в Форос до Горбачова і негайно після повернення був заарештований на аеродромі. 22 серпня 1991 р. був виданий Указ Президента СРСР «Про звільнення Язова Д. Т. від обов'язків Міністра оборони СРСР».[9]
«… З в'язниці звернувся до Президента з записаним на відео посланням, де каявся і називав себе» старим дурнем «Журнал» Власть "№ 41 (85) від 14.10.1991
Зі слів Маршала: «Не було такого листа! Це все фальсифікація журналіста, якого з дозволу слідчого допустили до мене в камеру Матроської тиші. А після нашої бесіди в одному з німецьких журналів з'явилася ця фальшивка з приписаними мені словами».
«Не в захваті від отриманого завдання»: Павло Грачов розповідає про те, як він не тільки «провалював» путч, а й брав участь у його підготовці.
Звільнений із в'язниці після прочитання справи і дачі своєї згоди на застосування амністії, в лютому амністований. Тоді ж був звільнений у відставкуУказом Президента Росії від 07.02.1994 р. № 250 «Про звільнення з військової служби у відставку Язова Д. Т. і Варенникова В. І.» і нагороджений іменним пістолетом; надалі продовжував брати участь у ветеранських заходах, присутній серед почесних гостей на парадах Перемоги та ін. Неодноразово виступав зі спогадами про ГКЧП, стверджує, що змови не було.[10]
Після відставки деякий час обіймав посади головного військового радника Головного управління міжнародного військового співробітництва Міноборони Росії, головного радника-консультанта начальника Академії Генерального штабу.[11][12]
Одружений (другий шлюб). Мав чотирьох дітей і сімох онуків.
Звинувачення у скоєнні воєнних злочинів і злочинах проти людяності
27 березня 2019 р., Вільнюський окружний суд Литви заочно засудив до 10 років позбавлення волі колишнього міністра оборони СРСР 94-річного Дмитра Язова, якого визнали винним у воєнних злочинах і злочинах проти людяності у справі про події 13 січня 1991 року. Згідно з обвинувальним актом Генпрокуратури Литви, його звинувачують у створення в 1990 році організованої групи військових і політиків, метою якої було повернення Литви до складу СРСР шляхом захоплення органів влади і стратегічних об'єктів. У ніч на 13 січня 1991 року, радянські військові і спецпідрозділи силових органів захопили Вільнюську телевежу і будівлю Литовського радіо. Це сталося через рік після того, як республіка оголосила про відновлення своєї незалежності від СРСР. У подіях у Вільнюсі загинули 14 людей, сотні людей постраждали.[16]