Ende 1809 trat er dann nach Aufforderung des Herzogs von Oldenburg in Oldenburgische Dienste. Ende 1810 wurde auch Oldenburg französisch besetzt und Beaulieu übernahm zusammen mit seinem Schwiegervater Christoph Friedrich Mentz und Christian Ludwig Runde die Verwaltung des Barvermögens des nach Russland geflohenen Herzogs.[2] Aus diesem Vermögen organisierten sie die Pensionszahlungen, da die eigentlichen Pensionskassen von den Franzosen beschlagnahmt worden waren. Durch diese Tätigkeit machten er und Runde sich gegenüber den Französischen Besatzern verdächtig und mussten das Land verlassen. Beaulieu zog daher mit seiner Frau zu seinem Bruder nach Minden. Dort wurde am 5. September 1811 der Sohn Karl geboren.
Nach der Niederlage Napoleons kehrte die Familie zurück nach Oldenburg, wurde Beaulieu im Januar 1814 in die provisorische Regierungskommission berufen, die als vorläufige Zentralbehörde des Landes die Reorganisation der Verwaltung überwachte. 1816 wurde er zum Regierungsrat ernannt und mit außenpolitischen Aufgaben betraut. Von 1822 bis 1825 hielt sich Beaulieu als Bevollmächtigter für die Verhandlungen über die Herrschaft Kniphausen in Berlin auf. Die Herrschaft unterstand nach der Niederlage Napoleons und einer kurzzeitigen russischen Besetzung ab Dezember 1813 einer provisorischen Administration durch Oldenburg. Dieser Zustand wurde durch das Berliner Abkommen am 8. Juni 1825 beendet und die Herrschaft Kniphausen erlangte eine begrenzte Souveränität. Im Januar 1826 hielt sich Beaulieu als Sonderbotschafter zur Thronbesteigung Nikolaus I. in Sankt Petersburg auf und führte in dieser Zeit auch die Verhandlungen, die dazu führten, dass die russischen Erbansprüche über die Herrschaft Jever auf Oldenburg übergingen. Bei der Hochzeit von Herzogin Amalie von Oldenburg mit dem griechischen König Otto I. 1836 war es dann Beaulieus Aufgabe, den Ehevertrag aufzusetzen. 1830 wurde er zum Staatsrat ernannt und übernahm die Bearbeitung der Beziehungen zum Deutschen Bund und zu den übrigen deutschen Staaten sowie die Zollangelegenheiten. Noch im selben Jahr führte er in Berlin die Verhandlungen über die Eingliederung des Fürstentums Birkenfeld in den preußischen Zollverband und schloss gleichzeitig einen Schiffahrtsvertrag mit Preußen ab. Seit 1830 war Beaulieu als Geheimer Kabinettsrat Mitglied des Staatsministeriums. Ab 1843 hatte er den Vorsitz als Geheimer Rat und wurde im Juli 1844 mit dem Titel Staats- und Kabinettsminister ausgezeichnet. Im August 1848 trat Beaulieu aufgrund der 1848er Revolution, der er als ausgesprochener Konservativer äußerst kritisch gegenüberstand, in den Ruhestand. Zuvor war es ihm nicht gelungen, zwischen dem oldenburgischen Herrscherhaus und den Revolutionären, die auch für das Großherzogtum Oldenburg eine demokratische Verfassung forderten, zu vermitteln, da er sowohl eine seitens des Deutschen Bundes geforderte Landständische Verfassung als auch eine Volksvertretung ablehnte. Unter seinem Nachfolger, dem gemäßigten LiberalenJohann Heinrich Jakob Schloifer, konnte schließlich das oldenburgische Staatsgrundgesetz verabschiedet werden. 1851 begleitete er den damaligen Erbgroßherzog von Oldenburg Peter bei einer längeren Reise durch Italien, Griechenland und durch die Türkei. Beaulieu starb 1859 im Alter von 73 Jahren.
Beaulieu war zweimal verheiratet. Zunächst heiratete er am 19. Mai 1810 Johanna (1793–1850), die Tochter des Vizekammerdirektors und späteren Regierungspräsidenten Christoph Friedrich Mentz (1765–1832). Das Paar hatte sechs Kinder. Nach dem Tod seiner Frau und seiner Rückkehr aus der Türkei heiratete er am 12. November 1851 in zweiter Ehe Isabelle von Förster (1816–1908), die Tochter des braunschweigischen Majors Maximilian von Förster und der Isabelle Marquise de Montebello. Von seinen sechs Söhnen aus erster Ehe trat Karl von Beaulieu-Marconnay (1811–1889) zunächst ebenfalls in Oldenburgische Dienste und wurde später dann Hofmarschall im Großherzogtum Sachsen-Weimar-Eisenach. Sein Sohn Eugen von Beaulieu-Marconnay (1815–1889) wurde oldenburgischer Oberlandesgerichtspräsident.