Rusk representerade Wisconsins sjätte distrikt i representanthuset 1871-1873 och därefter Wisconsins sjunde distrikt fram till 1877. Han besegrade demokraten Nicholas D. Fratt i 1881 års guvernörsval i Wisconsin. Rusk omvaldes 1884 och 1886.
Rusks grav finns på Viroqua Cemetery i Viroqua. Rusk County, Wisconsin har fått sitt namn efter Jeremiah McLain Rusk.