Після впровадження у серійне виробництво літака Kawasaki Ki-45, який виявився вдалою та надійною машиною, фірма Kawasaki почала роботи над його покращеною версією під назвою Ki-45-II. В цю модифікацію планувалось поставити два двигуни Mitsubishi Ha-112-II з потужністю 1500 к.с. кожен. Окрім того, нова модифікація повинна була мати більші розміри, зокрема довжина крил зросла до 15,57 м (з 15,02 м). Також було змінено хвіст для кращого керування при втраті одного з двигунів. Через низьку зацікавленість армійського командування і завантаженість іншими проєктами роботи йшли повільно. Проте, у грудні 1942 року командування ВПС Імперської армії Японії зацікавилось розробкою, і видало замовлення на 3 дослідні літаки, але в одномісному варіанті, оскільки на їх думку наявність заднього стрільця-радиста не виправдовувало збільшену масу.
Перший прототип Ki-45-II, який вже перебував у процесі виготовлення, був перебудований в одномісний варіант і отримав нове позначення Ki-96, оскільки з Ki-45-I він мав дуже мало спільного. Два інші прототипи одразу будувались в одномісному варіанті. В результаті в першого прототипа кабіна була значно більша ніж в інших двох.
У вересні 1943 року прототипи були готові. Результати випробувань були абсолютно задовільними. Літак показав хорошу керованість та перевершив розрахункові льотні показники. Але командування ВПС ще до проведення перших польотів змінило свої погляди та замовило 2-місний варіант винищувача. Роботи над Ki-96 були припинені, але він фактично став прототипом літака Kawasaki Ki-102.[1]