Arnulf volgde dus in 965 zijn grootvader op, aanvankelijk onder de voogdij van de koning van Frankrijk, Lotharius, die vóór de dood van Arnulf I had beloofd dat hij ervoor zou zorgen dat de Vlaamse edelen de jonge graaf niet zouden manipuleren voor hun eigen belang, een belofte waaraan hij zich inderdaad ook zou houden. De graven Boudewijn van Kamerijk en Dirk II van Holland traden op als regenten en wisten te voorkomen dat Vlaanderen als “onbezet” leen terugviel aan de kroon. Arnulf verloor Boulogne, Saint-Pol en Guînes aan Frankrijk, Gent en het Waasland aan Dirk II van Holland, maar keizer Otto I van het Heilige Roomse Rijk kwam tussenbeide en stopte verdere Franse veroveringen. Otto richtte de markgraafschappen Antwerpen, Ename en Valencijn op om de Franse expansie te beteugelen.
Rond 976 liet koning Lotharius de regering aan Arnulf over, maar onthield hem het gezag over de door diens grootvader veroverde gebieden Oosterbant, Artesië, Ponthieu en Amiens.
Arnulf weigerde in 987 Hugo Capet, zoon van Hugo de Grote, als koning te accepteren omdat hij als afstammeling van Karel de Grote een voorkeur had voor de karolingerKarel van Neder-Lotharingen, die ook van Karel de Grote afstamde. Nadat Hugo echter Vlaanderen aangevallen had, erkende Arnulf hem toch nog als koning. Hij overleed aan een ziekte (hete koorts), en werd begraven in de Sint-Pietersabdij te Gent.
