Colorado blev 1876 USA:s 38:e delstat. Teller och Jerome B. Chaffee valdes till de två första senatorerna för Colorado. Teller avgick 1882 för att tillträda som USA:s inrikesminister. I USA:s regering förordade Teller skarpa gränser för indianernas utövande av religion. Han tog 1883 initiativ till lagstiftingen som kallades Indian Religious Crimes Code. Indianer som utövade sina gamla religioner hotades därefter med fängelsestraff.[1] Han efterträddes 1885 som minister av Lucius Quintus Cincinnatus Lamar. Teller efterträdde sedan Nathaniel P. Hill i senaten.