Diversos achados arqueolóxicos mostran que o lugar xa estaba poboado en tempos prerromanos. En concreto parece ser que a parte alta da cidade, onde actualmente se atopa a Igrexa da nosa Señora de Belén, corresponderíase coa cidade vaccea de Lacobriga, posteriormente romanizada e parada importante na vía romana Aquitania que ía desde de Bordeos a Astorga.
Tradicionalmente afírmase que o nome de los Condes refírese aos condes Gómez Díaz, da liñaxe dos Banu Gómez, e a súa muller Teresa Peláez, quen construíron en 1047 o conventobeneditino de San Zoilo, a ponte sobre o río Carrión e un hospital de peregrinos. Con todo, non consta o nome completo Carrión de los Condes ata o ano 1522, no testamento de Aldonza Manrique. Tiveron grande importancia para Carrión os marqueses de Aguilar de Campoocondes de Castañeda, descendentes da liñaxe real de Castela polo conde Tello de Castela e das liñaxes de la Vega, Girón e Cisneros. Da primeira condesa de Castañeda, Aldonza de Castela e do seu esposo Garci Fernández Manrique, que fundaron e dotaron o hospital da Trinidad, foron fillos Juan Fernández Manrique, marqués de Aguilar e conde de Castañeda, e Gabriel Manrique, conde de Osorno, quen fundaron unha irmandade co conde de Treviño e duque de Nájera, o seu curmán, para evitar que a vila de Carrión saíse do patrimonio da Coroa real (reguengo) e puidese chegar a poder do conde de Benavente, Rodrigo Alonso Pimentel (1419-1474), que a pretendía. O Concello de Carrión renovou este pacto en 1462. A esta irmandade débese o apelido dos Condes que leva a cidade, e non aos renomeados condes Gómez Díaz e Teresa Pelaéz, como equivocamente crese.
Durante a Alta Idade Media, Carrión de los Condes foi unha das cidades máis importantes dos reinos cristiáns e nela celebráronse cortes e sínodos.
O autor do Codex Calixtinus di de Carrión que é «rica en pan e viño». A portada da igrexa románica de Santiago mostra a vinte e dúas artesáns, a quen non faltaba o traballo pola abundancia de peregrinos. Consta que na época en que se escribiu este texto a metade da vila estaba en mans de Gutierre Fernández de Castro xuntamente coa fortaleza veciña de Castrojeriz. Nos anos sucesivos, a tenencia sería compartida con outras familias (especialmente os Girón). En 1165 posuíaa Diego Girón e dous anos máis tarde o poderoso Nuño Pérez de Lara.[1]
A igrexa románica de Santa María mostra o milagre das doncelas, lenda segundo a cal uns touros liberaron as doncelas carrionesas de ser entregadas como tributo aos reis mouros.
En 1209 Gonzalo Rodríguez Girón e a súa esposa fundaron o Hospital da Herrada que prestaba asistencia aos peregrinos xacobeos.
Na época dos Austrias e dos primeiros Borbóns, pertence á extinguida provincia de Toro.