ב-2005 מונה על ידי המפכ"ל משה קראדי לתפקיד מפקד המחוז הדרומי, ארבעה חודשים לאחר מכן הודח ראש אגף החקירות דאז, ניצב משה מזרחי, בשל חשד להפעלת האזנות סתר לאישי ציבור בניגוד לחוק[3]. לכהן הוצע לעבור לתפקיד סגן המפכ"ל או לתפקיד ראש אגף החקירות והמודיעין. כהן בחר להיכנס לתפקיד ראש אגף החקירות והמודיעין, ובמסגרת תפקידו הוביל עבודת מטה לאיחוד אגפי המודיעין והחקירות, אשר היו נפרדים עד לאותה עת. לאחר כשנה, מונה לתפקיד מפקד מחוז מרכז.
באפריל 2007 החליט השר לביטחון פנים אבי דיכטר למנותו לתפקיד המפכ"ל ה-16 של משטרת ישראל, לאחר שהניסיון למנות את רב-גונדר יעקב גנות לתפקיד גרר ביקורת קשה מצד היועץ המשפטי מני מזוז וגופים נוספים[4]. כהן החל בתפקידו כמפכ"ל ב-1 במאי 2007. מספר חודשים לאחר מינויו, פורסמה קלטת בה הוא נראה נוסע במהירות מופרזת בעת היותו ניצב, ועוררה ביקורת[5]. בספטמבר 2008 עורר סערה כאשר בריאיון לעיתון הארץ[6] טען כי ממשלת ישראל עסקה בנושא הזוי. בעקבות כך ננזף כהן על ידי ראש הממשלה אהוד אולמרט וכהן שלח מכתב התנצלות[7]. כהן סיים את תפקידו ב-1 במאי 2011.
ב-2012 מונה כהן ליו"ר חברת האנרגיה "כהן פיתוח" הנמצאת בשליטת יצחק תשובה[8].
ב-2013 הקים את חברת סקופ ניהול אסטרטגי בע"מ וב-2020 הקים יחד עם משה חוגג את חברת סירין סייבר, בה הוא משמש שותף מנהל יחד עם רוני ריטמן[9].
