Zhang fikk raskt ry som en stor vitenskapsmann og trådte i en alder av 38 år inn i regjeringens tjeneste. Han gjorde raskt karriere og ble under keiser Liu Hu (Han Andi) minister og sjefsastronom. I 123 innførte han på keiserens vegne en kalenderreform, som hadde som mål å restituere månedene med årstidenes gang.
Zhangs kosmologiske verdensbilde baserte seg på en sfærisk forestilling av himmel og jord, med jorden i sentrum.
Zhang Heng fant opp et seismoskop for å registrere jordskjelv. En kule falt ut av munnen til en drage og ned i munnen til en frosk når et jordskjelv inntraff, noe som laget en høy lyd som vekket keiseren.
Hans kompromissløse innstilling i visse historiske og kalendariske spørsmål førte til at han kom til å bli betraktet som en kontroversiell person, noe som forhindret at han ble offisiell hoffhistoriker.