Sau ngày toàn quốc kháng chiến (ngày 19 tháng 12 năm 1946, ông cùng chính phủ rút lên Việt Bắc tiếp tục kháng chiến chống Pháp. Ngày 7 tháng 10 năm 1947, trong một cuộc tấn công chớp nhoáng của địch Pháp vào chiến khu trong chiến dịch Việt Bắc, ông bị địch Pháp phục kích vây bắn và hy sinh tại Bắc Kạn. Có một chi tiết đáng chú ý là cụ Nguyễn Văn Tố có thân hình mảnh dẻ và dong dỏng cao nên ban đầu quân đội Pháp nhầm tưởng ông là chủ tịch Hồ Chí Minh.
Sáng tác
Những công trình nghiên cứu của ông rất có giá trị, được in trong các tạp chí như Trí tri, Tri tân, "Viễn Đông Bác Cổ" xuất bản ở Hà Nội thời bấy giờ.
Vinh danh
Tên ông được đặt cho một trường học ở Khu 9 (Nam Bộ) trong những năm kháng chiến chống Pháp (1946 - 1954). Trường Nguyễn Văn Tố rất nổi tiếng vì đã có công đào tạo nhiều nhân tài cho đất nước. Nhiều cán bộ lãnh đạo Nhà nước Việt Nam hiện nay có xuất thân từ trường này.