1 марта 1912 года назначен начальником штаба Гвардейского корпуса, с которым вступил в Первую мировую войну. 16 августа 1915 года состоял в распоряжении начальника Генерального штаба. 11 сентября 1917 года был уволен от должности за болезнью и зачислен в резерв чинов при штабе Петроградского военного округа.
Ностиц был человек с большими личными средствами. Как и отец, занимался художественной фотографией. Также увлекался поэзией, в 1907 году в Санкт-Петербурге опубликовал сборник «Стихотворения». Был знаком с писателем графом Толстым[1].
В эмиграции жил во Франции. Умер без потомства на своей вилле 29 апреля 1926 года в Биаррице.
Жена (с 1907 года) — Лили Нимич (1875—1967)[2] , американка, урождённая Мадлен Бутон (Madeleine Bouton) из Айовы. Была репертуарной актрисой в Нью-Йорке, после выступала в берлинском театре-варьете «Винтергартен». Её номер состоял в том, что она плавала одетая в костюм рыбы в большом бассейне и могла очень долго держаться под водой. Называли её «женщина-рыба». Её первым мужем был немецкий банкир барон Гидо Нимич, которого она оставила ради графа Ностица. Венчание их было в Мариенбаде. Понимая, что не сможет ввести жену в петербургское общество, Ностиц добился поста военного агента во Франции. В Париже супруги жили в особняке на Avenue d'Eylau и давали роскошные приемы.
По словам современника, графиня Ностиц шокировала парижское общество своей вульгарностью и было удивительно то, что у русского военного агента в доме была немецкая обстановка. Лакей и горничная были немцы, с которыми графиня говорила по-немецки[3]. Будучи женщиной свободных правил, она имела много поклонников и в Париже состояла в отношениях с адъютантом мужа. Эта непозволительная связь была истинной причиной вынужденного увольнения Ностица[4]. В Петербурге графиня Лили была яростной противницей Распутина и не стесняясь говорила о неспособности Николая II управлять страной. Речи графини заинтересовали императорскую контрразведку, и в годы Первой мировой войны её подозревали в шпионаже в пользу Германии. В эмиграции жила с мужем в Биаррице на собственной вилле «Санши»[5]. Овдовев, через два года вышла замуж за севильского тореадора Дионисио де Фернандеса Азабаль (de Fernandez Azabal; 1884-1953[6]). Оставила интересные мемуары «Графиня из Айовы», изданные в 1936 году[7].
