פלמיני החל את קריירת המשחק שלו באולימפיק מרסיי, וערך את הופעת הבכורה שלו בקבוצה הבוגרת של המועדון בניצחון 0-1 על טולוז ב-20 בדצמבר2003. באותה עונה הוא השתתף ב-14 משחקי ליגת העל הצרפתית. אולם, הייתה זו יכולתו בגביע אופ"א שבגללה זכה לתשומת לבם של מועדונים מחוץ לצרפת, ובעיקר היכולת שהפגין בניצחון על ניוקאסל יונייטד בחצי הגמר. פלמיני שיחק בהפסד 2-0 לוולנסיה במשחק הגמר שנערך בגטבורג. הנהלת מרסיי הייתה מנועה מלהציע לו חוזה ארוך טווח בעקבות הגיל שלו.
ב-23 ביולי2004 חתם פלמיני בארסנל, וערך את הופעת הבכורה שלו בניצחון 1-4 על אברטון ב-15 באוגוסט. במאי 2005 הבקיע את שערו הראשון בארסנל, בניצחון 0-7 על אברטון באצטדיון הייבורי. בעונתו הראשונה הוא פתח בהרכב ב-9 משחקים ועלה כמחליף ב-12 נוספים. בעונה שלאחר מכן הוא מילא את מקומם של מספר שחקנים פצועים, אך לא הצליח לזכות במקום קבוע בעמדה שבה היה הטוב ביותר.
העמדה הרגילה של פלמיני היא קשר הגנתי, אך הוא שיחק בעמדת הקיצוני הימני. בעקבות הפציעות של שחקני ארסנל הוא הוצב גם בעמדת המגן השמאלי. על אף שהרגל הדומיננטית שלו היא הימנית הוא הצליח לשחק ברמה משביעת רצון בשאר משחקי הפרמייר ליג וליגת האלופות. פלמיני חזר לעמדתו הרגילה כאשר אשלי קול חזר להרכב. במאי 2006 עלה פלמיני כמחליף במשחק גמר ליגת האלופות שהסתיים בהפסד לברצלונה.
בעונת 2006/2007 הבקיע פלמיני את שער הניצחון מול דינמו זאגרב במשחק על ההעפלה לליגת האלופות. למרות שהבקיע שערים נוספים, בין השאר נגד ליברפול וצ'לסי, הוא המשיך לשחק במגוון עמדות שלא התאימו לו, ובאפריל 2007 הודיע כי ככל הנראה הוא יעזוב את ארסנל בקיץ. פלמיני דחה הצעה לעבור לברמינגהאם סיטי תמורת 3 מיליון לירות שטרלינג, ולאחר שהתייעץ עם המאמן ארסן ונגר החליט להישאר בארסנל.
בעקבות היעדרותם של ז'ילברטו סילבה ואבו דיאבי שיחק פלמיני בעמדת הקשר המרכזי במשחק הפתיחה של עונת 2007/2008 בפרמייר ליג. בחלק הראשון של העונה הוא שיתף פעולה בהצלחה עם ססק פברגאס, והפגין יכולת מספיק טובה על מנת למנוע את חזרתו של סילבה להרכב. פלמיני הצליח להתחבב על האוהדים, שאף חיברו עליו שיר. הוא השתתף במשחק ליגת האלופות מול ליברפול ב-8 באפריל 2008, שבסיומו הודח המועדון. לאחר המשחק דווח כי הוא סובל מפציעה. היה זה משחקו האחרון בארסנל.
ב-5 במאי 2008 חתם פלמיני לארבע שנים במילאן, תמורת 5.6 מיליון אירו. פלמיני קיבל במילאן את חולצת המשחק מספר 84, המייצג את שנת הלידה שלו. הוא ערך את הופעת הבכורה בסרייה א' בהפסד 1 - 2 לבולוניה ב-30 באוגוסט 2008. בחלק הראשון של עונת הבכורה שלו במילאן הוא כמעט ולא פתח בהרכב או שיחק כפי שהיה בעונתו האחרונה בארסנל, ושימש בעיקר כשחקן מחליף. במחצית השנייה של העונה נפצעו מספר שחקנים במילאן, ועל מנת לסייע לפלמיני לתפוס מקום בהרכב הוחלט להעביר את ג'אנלוקה זמברוטה לעמדת המגן השמאלי. בעונתו השנייה במילאן קיבל פלמיני את החולצה מספר 16, אותה לבש גם בארסנל, ובסך הכל שיחק חמש שנים במועדון.