Encara que va néixer a Salamanca, es va criar a Saragossa. Va començar a jugar a la seva escola, el Colegio Jesús-María El Salvador. Als 12 anys va entrar a les categories inferiors del Reial Saragossa, on juga fins a la temporada 2001/2002, quan va passar a formar part de l'equip juvenil del Reial Madrid.
Actualment juga al Real Madrid, club al qual es va formar. El 13 de febrer de 2010 va marcar el seu primer gol a la lliga espanyola contra el Xerez CD a Chapin on els blancs es van imposar 0 a 3 i on Arbeloa va marcar el primer gol d'un partit que se li va complicar molt al Madrid.
El 27 de maig de 2013, entrà a la llista de 26 preseleccionats per Vicente del Bosque per disputar la Copa Confederacions 2013,[4][5] i posteriorment el 2 de juny, entrà a la llista definitiva de convocats per aquesta competició.[6]
A partir de 2014, Arbeloa va esdevenir un jugador de banqueta.[7][8] La temporada 2015–16,[9] va jugar només nou partits entre totes les competicions, dos dels quals en la Champions League que el club va guanyar per segon cop en tres anys;[10][11] el 8 de maig de 2016, va confirmar que deixaria el club el 30 de juny.[12]