Atouba nasce a Douala nel 1982, compie il suo percorso giovanile nell'Union Douala dove esordisce in prima squadra nella stagione 1999-2000 giocando 16 partite e segnando ben 4 gol.
Neuchâtel Xamax e Basilea
Nell'estate 2000 l'arrivo in Europa, viene acquistato dal Neuchâtel Xamax club militante nella Super League, la massima serie svizzera. Resta una stagione e mezzo, lasciando il club con 50 presenze e 4 gol.
A gennaio 2002 passa al Basilea, uno dei club svizzeri più blasonati, termina la stagione vincendo il campionato e la Coppa Svizzera. Il secondo anno arriva il secondo trionfo nella Coppa Svizzera, mentre in campionato il Basilea arriva secondo dietro al Grasshopper, ma grande è stata la prestazione della squadra nella Champions League 2002-2003 che superò anche la prima fase a gironi prima di venire eliminata nella seconda fase, ma da Manchester United e Juventus; in Champions giocò sempre, 11 presenze e anche 1 gol decisivo al Liverpool al primo turno.
La stagione 2003-2004 vinse il suo secondo titolo svizzero e giocò 3 partite in Coppa Uefa fino all'eliminazione precoce della squadra.
La stagione 2004-2005 giocò solo 3 match in campionato e lasciò il Basilea, con 73 presenze e 3 gol.
Tottenham
Il 7 agosto 2004 venne acquistato dal Tottenham Hotspur.
Esordì in Premier League il 14 agosto a White Hart Lane nel match pareggiato 1-1 con il Liverpool, una settimana dopo segnò il suo primo e unico gol con la maglia del Tottenham: al St James' Park segnò la rete della vittoria sul Newcastle al 51º minuto con un destro a giro spettacolare che lo fece subito amare dai tifosi.
Nel girone d'andata fu sempre titolare, a gennaio partì per la Coppa d'Africa con il Camerun, al ritorno dalla spedizione giocò 3 partite consecutive, ma nelle ultime 12 giornate scese in campo solo in 2 occasioni; a fine campionato il Tottenham si classificò nono in campionato, ma gli ultimi mesi visti dalla panchina lo convinsero a lasciare l'Inghilterra, in totale furono 18 presenze e 1 rete in campionato più 6 presenze nelle coppe inglesi.
Amburgo
Il 12 luglio 2005 cominciò una nuova avventura per Atouba, questa volta in Germania, all'Amburgo, firmando un contratto fino al 2009.
Esordì in Bundesliga il 6 agosto alla prima giornata nella vittoria per 3-0 sul Norimberga, pochi giorni dopo scese in campo nella doppia finale di Intertoto vinta con il Valencia. Il 20 agosto segnò la sua prima rete con la maglia dell'Amburgo nella vittoria per 5-1 sui Kickers in Coppa.
Il 3 dicembre 2005 alla 15ª giornata, nella vittoria per 3-1 sul Colonia aprì le marcature al 42º segnando così la sua prima rete in campionato. In Coppa Uefa giocò 8 partite fino all'eliminazione agli ottavi di finale. Fu titolare inamovibile per tutta la stagione anche in campionato raggiungendo con l'Amburgo il terzo posto finale valido per la prossima Champions League.
Nella stagione 2006-2007 tornò a giocare in Champions League dopo l'esperienza col Basilea di 4 anni prima, totalizzò 4 presenze con l'Amburgo che venne eliminato nella fase a gironi; in campionato l'Amburgo si classificò soltanto settimo, posizione che gli consentì di disputare ancora l'Intertoto.
Nel 2007-2008 vinse per la seconda volta l'Intertoto senza dover scendere in campo, guadagnandosi così un'altra stagione nelle coppe europee. Nella Bundesliga fu ancora una volta sempre titolare salvo i mesi in cui fu impegnato in Coppa d'Africa dove con il Camerun arrivò sino in finale sconfitto dall'Egitto. L'Amburgo a fine stagione arrivo quarto mentre in Coppa Uefa si fermò ancora agli ottavi di finale come l'anno precedente, giocando 8 match.
Nella stagione 2008-2009 giocò tutte le prime 8 partite di campionato ma poi si fermò per infortunio che lo tenne fuori dal campo per ben 7 mesi. Nei mesi in cui fu lontano dai campi, la società offrì al giocatore il rinnovo del contratto in diverse occasioni, ma il giocatore ormai aveva deciso di cambiare squadra a giugno, quando gli sarebbe scaduto il contratto. Tornò in campo a campionato quasi terminato, al 32º turno nella vittoria per 3-1 sul Bochum; a fine torneo l'Amburgo arrivò quinto e come previsto Atouba decise di non proseguire la sua avventura tedesca.
Il 7 giugno 2009 firma un contratto biennale con l'Ajax, dopo Camerun, Svizzera, Inghilterra e Germania, i Paesi Bassi è il quinto paese in cui va a giocare, i lancieri sono invece il sesto club assoluto per il difensore camerunese. Ritrova così Martin Jol suo allenatore al Tottenham e nell'ultima stagione all'Amburgo.
L'esordio in campionato avviene il 16 agosto nella sconfitta per 4-3 con il PSV, in Europa League invece esordisce il 20 agosto nella vittoria per 5-0 sullo Slovan Bratislava.
Il 15 maggio 2011 vince l'Eredivisie nello scontro diretto vinto per 3-1 contro il Twente e subito dopo viene annunciato che lascerà l'Ajax.[1] Rimane così svincolato.[2]
Las Palmas
A novembre 2012, si trasferisce al Las Palmas, dove giocherà con la maglia numero 3.[3]