כהן שיחק בקבוצת הנוער של מכבי תל אביב. הופעת הבכורה במדי הבוגרים הייתה ב-3 באוקטובר 1981 נגד הפועל פתח תקווה במסגרת הליגה הראשונה. אחרי שהסתפק בארבע הופעות בלבד בעונתו הראשונה, יצא כהן לעונת השאלה וחזר כשחקן בשל יותר בקיץ 1983. באותה עונה שותף כהן ב-22 משחקים, כבש שני שערי ליגה והפך לשחקן הרכב מן המניין. איתרע מזלו של כהן והוא היה חלק מעשור יבש למדי שנגדע עם הזכייה בגביע המדינה של עונת 1986/87 לאחר ניצחון על מכבי חיפה במשחק הגמר. בעונה שלאחר מכן, עונת 1987/88, זכה כהן שוב עם הקבוצה בגביע המדינה, כשהוא כובש את השער הראשון בניצחון 1-2 על הפועל תל אביב בגמר גביע המדינה.[1] 33 שנה אחרי, שיחזר בנו, יונתן כהן, את הישגו של אביו, כאשר כבש אף הוא את השער הראשון בניצחון 1-2 על הפועל תל אביב בגמר גביע המדינה של עונת 2020/21.[2]
