בסוף שנת 1929 חזר לגליציה, כעת בתחומי המדינה הפולנית, והתיישב בעיר לבוב, שם עסק בהוראה במקצועות דת ויהדות. בשנת 1930 התמנה כרב בית הכנסת סיקסטוסקה בלבוב וניהל בו מכון ללימודי תנ"ך.
אז כתב ולימים פרסם את "יומן גטו לבוב", שבו תיעד את זוועות השואה שעברו עליו ועל משפחתו, ועל שנאלץ לשלוח את בתו למנזר על מנת להצילה.
ביולי 1944, לאחר שחרור לבוב על ידי הצבא האדום, נותר עוד כמה ימים במחבואו במנזר עד שיצא ממחבואו, ונכנס להתגורר במשרד ששימש קודם את הגרמנים. הוא הקים ועד יהודי והחל לנהל רישום של ניצולי השואה בעיר. בסוף יולי 1944 הוא מונה על ידי השלטונות הסובייטיים לרב בית הכנסת חדשים ששרד, ולאחראי על הספרייה היהודית בעיר[3]. הוא גם פעל להוציא ילדים מידי משפחות נוצריות ששמרו עליהם בזמן השואה[4]. בנובמבר 1944 יצא ללובלין לפי הזמנתו של אמיל זומרשטיין, חבר יהודי בממשלה הפולנית הזמנית, שהציע לו להתמנות לרב הראשי של צבא פולין. בהמשך עבר לבירה ורשה, כיהן בשנים 1945–1949 כרב הראשי של צבאפולין הקומוניסטית בדרגת לוטננט קולונל ועסק בשיקום חיי הקהילות היהודיות בפולין. לימים פרסם את זיכרונותיו מתקופה זו.
בשנת 1950עלה לישראל, התגייס לצה"ל ובשנים 1950–1964 כיהן כרבו של חיל האוויר[5]. בימי עליית גומולקה עמד בראש בית דין לגיור של הרב שלמה גורן שגייר רבים מהעולים. את הסכמתו לגיורים הסביר: "יהודי העולה לישראל - בעצם המעשה הזה הוא כבר מביע הזדהות עם עם ישראל ועם תורת ישראל, אפילו אינו מקיים עדיין את התורה כולה במלואה"[6]. בתחילת 1966 נבחר למשרת הרב הראשי של ארגנטינה[7][8]. במרץ 1966 יצא לשמש רבה הראשי של יהדות ארגנטינה, על פי חוזה לשלוש שנים[9]. החוזה הוארך עד 1975. בימי שבתו בארגנטינה תמך באיסור הגיור שהותקן על ידי הרבשאול סתהון, אך ביצע באופן מוגבל גיורים על סמך זה שהוא שליח הרבנות של ישראל[6].
בשנת 1975 שב לישראל וכיהן כרב שכונת צהלה בצפון תל אביב עד לפטירתו.
לקראת יום העצמאות בשנת 1989, נבחר הרב כהנא להשיא משואה בטקס בהר הרצל. הטקס עמד בסימן עליה וקליטה. מסיבות בריאותיות נעדר הרב כהנא מהטקס ואת המשואה השיאה בשמו נכדתו בת ה-14.[10]
נפטר בשנת 1998, בן 95 במותו. על שמו רחוב בשכונת צהלה, בתל אביב.
פרסומיו
יומן גיטו לבוב, ירושלים: יד ושם, תשל"ח.
יהודים ויהדות בספרות הפולנית של המאה התשע עשרה: תולדות בעיית היהודים בפולין, תל אביב: הארגון הישראלי של חיילים משוחררים ולוחמי כל החזיתות במלחמת העולם השנייה, תשמ"א.
אחרי המבול: ניסיון להחיות את הקהילות הדתיות בפולין שלאחר מלחמת העולם השנייה (1944–1949), ירושלים: מוסד הרב קוק (מזכרת נורוק לידיעת חיי תורה ויהדות באירופה וחרבנם בשואה), תשמ"א 1981.
פרקים בתולדות היהודים בפולין, ירושלים: מוסד הרב קוק, תשמ"ג 1983.
--- הגולה אינה מקום של קברים בלבד ---; עריכה, צילום ועיצוב: פלטיאל הורוביץ, תל אביב – צהלה: בית הכנסת "עתירת יצחק", 1993.
בהשתתפותו:
תאדיאוש זאדרצקי [Zaderecki], במשול צלב הקרס בלבוב: חורבן הקהילה היהודית בעיני מחבר פולני (תרגם מפולנית צבי ארד; מבוא: הרב דוד כהנא; הערות: אהרן וייס, דוד כהנא), ירושלים: יד ושם; בשיתוף עם איגוד יוצאי לבוב, תשמ"ב 1982.