Ian Andersonin sanoitukset kertovat tällä levyllä realistisista aiheista edellislevyn metsän taruolentojen ja myyttejen sijaan. Albumin teemana ovat maaseudun elämä ja sen muutokset ja uhat nykymaailmassa. Esimerkiksi albumin nimikappale kertoo hevosen syrjäyttämisestä työjuhtana. Levyn nimi ja nimikappale viittaavat Englannin maaseudun työhevosiin.[11]
Musiikillisesti Heavy Horsesia on sanottu Jethro Tullin albumeista monimutkaisimmaksi. Sanoitusten ohella myös levyn sävellykset ovat melankolisia. Edellisalbumi Songs from the Woodiin verrattuna solisti Ian Andersonin äänen on sanottu kehittyneen rajumpaan ja karheampaan suuntaan. Samalla itse yhtyeen soiton on sanottu olevan ”tiukempaa” kuin Songs from the Woodilla.[10] Mukana on vaikutteita englantilaisesta kansanmusiikista, mikä ilmenee melodioissa, akustisissa kitaroissa, mandoliineissa sekä Andersonin huilunsoitossa.[6]