Перебуваючи на службі в армії, А. П. Федоров вів революційну роботу серед солдатів, був членом полкового солдатського комітету. У 1917 році став на бік революції і взяв у ній активну участь.
З приходом білогвардійців у Туркестан А. П. Федоров був заарештований, але у зв'язку з тяжкою хворобою звільнений. Лікувався в Єсентуках, де брав участь у роботі підпільної комуністичної групи.
Наприкінці серпня 1919 року був заарештований денікінської контррозвідкою за звинуваченням у зв'язках з більшовиками. Білогвардійський суд засудив його до розстрілу, проте в кінці грудня того ж року по «маніфесту Денікіна» був помилуваний і направлений до караульну роту у Владикавказ. У січні 1920 року втік під виглядом кучера в Тіфліс, де поступив на роботу секретним співробітником Особливого відділу 10-ї армії.
З 1920 по 1922 рік А. П. Федоров працював на Кавказі уповноваженим, а потім начальником відділення Особливого відділу Батумського укріпрайону. У 1922 році відряджений до Тіфлісу, а потім у Кутаїсі на посаду начальника відділення Закавказького НК.
У 1922 році А. П. Федорова як чекіста, що мав великий досвід роботи, перевели в центральний апарат ВНК, де він працював спочатку секретним співробітником із закордону, а потім начальником контррозвідувального відділу. На цій посаді він залишався до 1933 року.
У 1922 році перед А. П. Федоровим як керівником КРО ВНК було поставлено завдання щодо припинення діяльності очолюваного Б. Савінковим«Союзу захисту Батьківщини і свободи». У розробленій під керівництвом Ф. Е. Дзержинським операції «Синдикат-2» йому відводилася одна з головних ролей.
Виступаючи як керівник легендованої чекістами контрреволюційної організації «Ліберальні демократи», А. П. Федоров неодноразово виїжджав до Парижа до Б. Савінкова, зустрічався з активістами його організації, а також з британським розвідником С. Рейлі. Буваючи в Польщі, він також зустрічався з співробітниками розвідки Генерального штабу цієї країни, яких забезпечував спеціально підготовленими дезінформаційними матеріалами.
У цій операції А. П. Федоров проявив виняткову сміливість, витримку, винахідливість і самовладання. Він витримав неодноразові перевірки, у тому числі під дулом пістолета, які влаштовував йому найближчий помічник Савінкова — Павловський.
Завдяки професійному досвіду А. П. Федорова, чекістам вдалося схилити до приїзду в СРСР Б. Савінкова та його найближчих співробітників.