ヒラーはゲルリッツ近郊の町Wendisch-Ossigに生まれ、同地の学校の音楽教師に音楽の基礎を学んだ。1740年から1745年にかけて彼はゲルリッツのギムナジウムで学び、1746年にドレスデンへ移り、有名な聖十字架学校の学生となった。彼はここでゴットフリート・アウグスト・ホミリウスから鍵盤楽器と通奏低音について学んだ。1751年に彼はライプツィヒへ移り、法学を学ぶために大学に入学した。ヒラーはこの町で豊かな音楽生活に没頭し、ライプツィヒで行われていた第一流のコンサートである「Grosses Concert」に積極的に参加した。この期間に、彼はいくつかの交響曲、教会カンタータやアリア、さらには「神託」(Das Orackle)と題する断片的なジングシュピールを製作した。ヒラーはまた、彼がドレスデンのブリュール伯の世話役になった1754年に、「音楽における自然の模倣」(Abhandlung über die Nachahmung der Natur in der Musik)についてのエッセイを出版した。彼は世話役の地位に1760年まで就き、健康問題(鬱病)のためやむなくこの職を辞した。
ヒラーの文筆業の分野における主要な活動として、雑誌『Wöchentliche Nachrichten und Anmerkungen, die Musik betreffend』(音楽に関する週刊の報告と所見)の刊行が挙げられる。これは公演の論評、新しい音楽の刊行、およびその他音楽に関するさまざまな随筆などを含んだ音楽雑誌であった。この雑誌の記事から、ヒラーは音楽における新しい傾向を好み、J・S・バッハやグルックよりもハッセを好んだということが明らかになっている。