עבד שלוש שנים כרואה חשבון במשרד קסלמן וקסלמן (כיום PricewaterhouseCoopers) ולאחר מכן כיועץ כלכלי לשר התמ"ת. בהמשך היה פעיל במיזמים עסקיים פרטיים בשוק הבינלאומי וכן מילא מספר משרות ניהול בכירות, ובהן חשב הקונצרן ומבקר פנים בכימיקלים לישראל בע"מ, סמנכ"ל Elite International B.V, סמנכ"ל כספים בקבוצת דפי זהב, ויו"ר מועצת המנהלים ומנכ"ל בחברת עמידר.
באוקטובר 2009 החל לכהן כמנהל רשות החברות הממשלתיות. עם כניסתו לתפקיד החליט על שינוי ארגוני שעיקרו הקמת אגף לפיקוח בקרה ודיווח ויחידה מקצועית לחשבונאות, מהלך שהביא לשיפור ניכר ביכולת הפיקוח של הרשות, ברמת הדיווח החשבונאי ולדיווחים במועד של החברות הממשלתיות. בתקופתו הופרטו הבנק לפיתוח התעשייה, החברה לאוטומציה וחברת נמל אילת. סיים תפקידו זה ביולי 2012.
באוגוסט 2011 מונה למנכ"ל משרד האוצר (תחילה כמנכ"ל בפועל וממאי 2012 במינוי רשמי),[1] במקביל לתפקידו כמנהל רשות החברות הממשלתיות. הוא נכנס לתפקיד זה בעיצומם של שני משברים: המחאה החברתית בישראל של קיץ 2011, והמשבר בשוקי הכספים הגלובליים לנוכח המשבר הכלכלי ביוון ובשאר מדינות דרום אירופה (PIIGS). מיד עם כניסתו לתפקיד ניהל את מדיניות משרד האוצר ליישום המלצות ועדת טרכטנברג והקים צוות היערכות למשבר גלובלי ולמקרה של משבר או התפרקות של גוש האירו.
באותה עת חדלה אספקת הגז הטבעי ממצרים לישראל. המשק נקלע למשבר אנרגיה שעלותו יותר מ-15 מיליארדי שקלים, מצבה הפיננסי של חברת החשמל הורע משמעותית ותעריף החשמל היה אמור לעלות ביותר מ-40%. כהן ניהל את טיפול הממשלה במשבר, העמיד לרשות חברת החשמל סל כלים לסיוע פיננסי, לרבות ערבויות מדינה,[2] ויצר מתווה (מתווה כהן) שמיתן ופרס על פני שלוש שנים את השפעת העלות העודפת של הדלקים על תעריף החשמל.
פעל במסגרת מספר ועדות לשיפור השירות הציבורי. בין הוועדות העיקריות הוועדה לאסטרטגיה אותה הוביל יחד עם פרופ' יוג'ין קנדל, יו"ר המועצה הלאומית לכלכלה. הוועדה קבעה מוסדות ותהליכים שיאפשרו תהליך מתמיד של גיבוש אסטרטגיה כלכלית וחברתית לממשלה. ועדת המשילות[3] בראשות מנכ"ל משרד ראש הממשלה, הראל לוקר. במסגרת הוועדה התווה כהן תהליך להגברת השקיפות והשיתופיות בתהליך הכנת תקציב המדינה. כהן סבר שעל משרד האוצר להעביר חלק מן האחריות והסמכויות בהכנת התקציב למשרדי הממשלה הרלוונטיים. לדעתו, תהליך כזה יעצים את המשרדים וישפר את יכולותיהם המקצועיות.
הוועדה השלישית, הוועדה לשיפור השירות הציבורי. כהן עמד בראש הצוות לשיפור הגמישות הניהולית, השכר הדיפרנציאלי והעצמת ההון האנושי. הצוות המליץ על שינוי מקיף בהערכת העובדים, ביטול שכר עידוד ומתן שכר דיפרנציאלי ומענקים כגמול על מצוינות. כמו כן המליץ הצוות על קציבת קדנציות לסגל הבכיר והבניית תהליכים לריענון השורות לקידום של עובדים בסגל הבכיר של שירות המדינה.
כהן הוביל שני מהלכים ארגוניים חשובים במשרד האוצר. הקמת התקשוב הממשלתי כולל היחידה לשיפור השירות הציבורי והקמת האגף המאוחד של הכלכלן הראשי והכנסות המדינה. אגף שנועד להעצים את יכולת המחקר הכלכלי, מדיניות המיסים ומדיניות מבוססת מחקר במשרד האוצר.