През февруари 1905 година се изтегля в Атина, за да се завърне в Македония в началото на март 1905 година. Четата му участва в Загоричанското клане от 25 март 1905 година, при което са убити невинни българи. През юли 1905 година напада българското село Кладороби и убива 17 души, след което за кратко е отстранен от въоръжената пропаганда по желание на гръцкото консулство в Битоля.
От юли 1906 година действа с четата си в областта Мариово. Заедно с четата на Евангелос Николудис води сражение с четата на Никола от Горничево, а според други източници четата му е разбита в сражение с турски аскер[1], след като е издадена по невнимание от Григор Сапунджиев. Зимата на 1906-1907 година прекарва в Македония заедно с Георгиос Цондос (Вардас), а през март 1907 година отново заминава за Атина. През ноември 1907 година се установява около Пелистер, а от март 1908 година отново в Мариово като ръководител на пропагандата в областта.
През пролетта на 1908 година властите залавят двама селяни на входа на битолската гръцка митрополия, които носят писма от Йоанис Каравитис, Пердикас и Николудис, адресирани до секретаря на митрополията Леонидас Ефим. Каравитис се оплаква, че гръцкото четническо движение е затруднено от увеличаването на военните постове и от смяната на някои „добри приятели“.[2]
В началото на юли 1908 година побеждава българска чета в сражение на връх Пиперица, Малка Нидже планина.
Умира на 29 октомври 1949 година в Атина. Известен е като Макриянис на Македонската борба.[3] Оставя обширни спомени за „Македонската борба“.[4] Между 1926 и 1953 година село Бугариево, днес Неа Месимврия, се нарича Каравиас на името на Йоанис Каравитис[5].