Cheney var son till abolitionisten Moses Cheney. Fadern tryckte den abolitionistiska tidningen Morning Star. Person Colby Cheney arbetade länge i chefsställning på faderns tryckeri. Han deltog i amerikanska inbördeskriget i nordstaternas armé.
Senator Austin F. Pike avled 1886 i ämbetet och Cheney blev utnämnd till senaten. Han efterträddes följande år av William E. Chandler. Cheney var chef för USA:s diplomatiska beskickning i Schweiz1892-1893.
Cheney gravsattes på Pine Grove Cemetery i Manchester, New Hampshire.[1]