En 1956, incorporé dans l’Armée française, Mamadou Diop est affecté au Niger puis en Algérie. En 1960, il est promu lieutenant. Au mois de novembre de la même année, il revient au Sénégal et intègre la gendarmerie. Il a commandé la compagnie de gendarmerie du Sine-Saloum et du Sénégal oriental ainsi que l’école de formation et d’application de la gendarmerie nationale avant d’être versé dans la réserve lorsqu’il obtient le grade de commandant. Plus tard, il arbore ses galons de colonel.
En 1971, il accède aux fonctions de magistrat à la Cour suprême où il occupe le poste d’avocat général[1]. En reconnaissance à l’appui de son père, le président de la République le fait venir à ses côtés. Il devient secrétaire général de la Présidence. Il est nommé tour à tour aux départements des Travaux publics, du Transport et de l’Urbanisme, fonction qu’il exerce jusqu’au départ du président Léopold Sédar Senghor.