Окончил 9 классов и школу ФЗУ, работал электриком-монтажником на трубном заводе в городе Никополь Днепропетровской области. Окончил никопольский аэроклуб[1].
Указом ПрезидиумаВерховного Совета СССР от 15 мая 1946 года за образцовое выполнение боевых заданий командования на фронте борьбы с немецко-фашистскими захватчиками и проявленные при этом мужество и героизм гвардии майору Яловому Ивану Павловичу присвоено звание Героя Советского Союза с вручением ордена Ленина и медали «Золотая Звезда» (№ 9026)[1].
После войны продолжал службу в ВВС. В 1947 году окончил Высшие офицерские лётно-тактические курсы. Учился в Военно-воздушной академии. Служил в авиационных частях в Запорожье, Мелитополе, на Дальнем Востоке, в Сибири. С 1960 года полковник Яловой И. П. в запасе.
Герои Советского Союза: Краткий биографический словарь / Пред. ред. коллегии И. Н. Шкадов. — М.: Воениздат, 1988. — Т. 2 /Любов — Ящук/. — 863 с. — 100 000 экз. — ISBN 5-203-00536-2.
Яловой, Иван Павлович // Золотые Звёзды : Книга о дважды Героях и Героях Советского Союза, уроженцах Днепропетровщины / сост. Н. С. Головин, В. Н. Петрищева ; при участии Ф. А. Матюшко, А. И. Посаднев ; ред. М. А. Штейн. — Днепропетровск : Промінь, 1967. — С. 410—412. — 432 с. — (Герои Советского Союза).
Яловой, Иван Павлович // И генерал, и рядовой… : Очерки о Героях Советского Союза, уроженцах Днепропетровской области / Н. И. Воробьёв, С. А. Герасименко, В. Л. Головко и др. ; сост. А. Ф. Снитко ; ред. Г. В. Николенко, К. К. Чернышев. — Днепропетровск : Промінь, 1983. — С. 556—559. — 567 с. — (Герои Советского Союза).