В 1926 году окончил Высшие театральные мастерские Малого театра, во время учёбы выступал на сцене театра (негр Уруру в пьесе А. Глебова «Загмук»). Работал в театре Всесоюзного профессионального союза работников искусств (РАБИС). С 1935 года — актёр Малого театра. Почти вся жизнь Павла Оленева была связана с этим театром, здесь он сыграл десятки характерных и комедийных ролей, став одним из любимцев театральной Москвы.
В 1930-е годы редкая кинокомедия обходилась без участия Павла Оленева. Его первая роль — Перепёлкин в картине «Дела и люди» (1932). Затем были Ваня («Любовь Алёны»), Митька Спирин («В поисках радости»), Брындин («На путях»), помощник мастера Курнаков («Светлый путь»). Герои Оленева — люди весёлые, порой непутёвые, но всегда неунывающие. Лёгкая ирония, переходящая в гротеск — отличительная черта его актёрской манеры. Участие в комедиях «Волга, Волга» и «Девушка с характером» сделали Оленева настоящей кинозвездой. После войны он снялся в фильмах «Первая перчатка» (Савельич), «Синегория» (Дрон-Садовая голова), «Сельская учительница» (Егор), «Далеко от Москвы» (Мерзляков), «Варвары» (Гриша Редозубов), «Крылья» (Филипп).