Leta 1780 je napisal Katoliško pesmarico. Edini ohranjeni primerek je bil vezan v usnje, danes pa je brez platnic. Horvat je v knjigo zapisal 258 prekmurskih cerkevnih pesmi. Pesmarico je pred propadom rešil Franc Ivanoci na Tišini. Materni jezik Horvata je bila gradiščanščina, v katerem je napisana tudi pesmarica.
Horvat leta 1789 ni več deloval na Seniku, kjer ga je nasledil učitelj Ružič.