Weller arbetade i tre år som advokat och var sedan verksam inom industrin samt bank- och finansbranschen. Han förlorade guvernörsvalet i Maryland 1915 mot demokratenEmerson Harrington.
Weller blev invald i senaten i senatsvalet 1920. Han ställde upp för omval i senatsvalet 1926 men besegrades av Millard Tydings. Efter sin tid i senaten arbetade Weller som advokat. Han gravsattes på Arlingtonkyrkogården.