По време на Късното средновековие Ихлава е център на добива на сребро. През XVIII – XIX век населението на града е предимно немскоговорещо. По време на Втората световна война голямата еврейска община на Ихлава (през 1936 г. – 1600 души) е напълно унищожена. Към края на 1940-те от града са изселени почти всички немскоговорещи жители.
В околностите на славянското селище през 1270 г. са открити залежи на сребро и с основаването на град на това място се заема лично крал Пршемисъл Отакар II. По това време в Ихлава започва истинска сребърна треска, а градът бързо става един от най-големите, красиви и богати градове по тези земи. Бързо развитие претърпяват и изкуството и търговията, науката и промишлеността. Тези тогава „второстепенни отрасли“, в сравнение с добива на сребро, спасяват по-късно града, когато залежите на благородния метал се изчерпват през XIV – XV век и са открити нови рудници в Кутна Хора.
В Ихлава е роден германският писател Луи Фюрнберг. В града е израснал австрийският композитор Густав Малер.