وفي العام نفسه، اجتاز امتحان القبول في المدرسة الوطنية للإدارة في الجزائر، ونجح، من بين الثلاثة الأوائل مع أحمد عطاف (وزير الخارجية المستقبلي وعضو التجمع الوطني الديمقراطي)، تخرج منها عام 1975 وكان من أبرز نجبائها، ثم تحصل على دبلوم الدراسات العليا في العلوم السياسية من جامعة الجزائر.[13][14]
قاد إدارة إفريقيا حتى 15 سبتمبر1995، عندما تم إرساله سفيراً إلى مالي للتفاوض على السلام كوسيط في النزاع بين الحكومة المالية وحركة الأزواد، وانتهى بإنشاء معاهدة «الميثاق الوطني» في باماكو. خلال تقلده لمنصب سفيرا الجزائر بمالي تعرف أحمد أويحي على المجاهد في ثورة التحرير الجزائرية والجنرال سعيدي فضيل قائد الناحية العسكرية الجزائرية الرابعة بورقلة أين ربط علاقة وطيدة معه واشتغلا معا على الملف المالي.[13]
تقلد منصب رئيس الحكومة خلال الأعوام التالية: (1995-1998)، (2003-2006) و 2008، وفي فترته أعيد تسمية المنصب رئيس الوزراء (2008-2012)، ثم في 2017 خلفا لعبد المجيد تبون.
وهو أيضا السكرتير العام منذ 2012التجمع الوطني الديمقراطي (RND) عام 1999، وأعيد انتخابه لرئاسة الحزب الذي يؤدي في عام 2015.
يعرف أحمد أو يحيى في كواليس الحكم والشارع بـ«رجل المهام القذرة».[16]
في 16أوت2017 وزيرا أولا من قبل رئيس الجهورية خلفا لسلفه عبد المجيد تبون الذي بقي على رأس الوزارة الأولى 80 يوما فقط. وهي أقصر فترة رئاسة حكومة في تاريخ الجزائر. إقالة عبد المجيد تبون جاء بعد صيف ساخن ومشحون سياسيا بعد أن أعلن تبون الحرب على المافيا وفصل المال عن السياسة بمن فيهم شقيق الرئيس السعيد المتهم بالاستيلاء على السلطة المخلة لأخيه.
في إطار احتجاجات الجزائر 2019، أعلن أويحيى عن اسقالته كوزير أول.[17] و في 10 ديسمبر 2019، حكم عليه بـ 15 سنة سجنًا نافذًا بتهمة تبديد المال العام، ومنح امتيازات غير مبررة.[18]