توفي النهرجوري في مكة سنة 330 هـ، وقال علي بن محمد المزين: «لما مرض أبو يعقوب النهرجوري، قلت، وهو في النزع: «قل: لا إله إلا الله!» فتبسم إلي وقال: «إياي تعني؟! وعزة من لا يذوق الموت! ما بيني وبينه إلا حجاب العزة»، فمات من ساعته». فكان المزين يأخذ بلحيته ويقول: «حجّام مثلي يلقن أولياء الله الشهادة؟! واخجلتاه منه!».[4]
من كَانَ شبعه بِالطَّعَامِ لم يزل جائعا وَمن كَانَ غناهُ بِالْمَالِ لم يزل مفتقرا وَمن قصد بحاجته الْخلق لم يزل محروما وَمن اسْتَعَانَ فِي أمره بِغَيْر الله لم يزل مخذولاً.[4]