Từ năm 2016, ông Dũng bắt đầu sưu tầm các loại báo in phát hành tại Việt Nam từ cuối thế kỷ XIX đến nay. Sau 9 năm, kho báo đã có khoảng hơn 400 nghìn tờ của hàng trăm đầu báo các loại, với hơn 100 đầu báo xuất bản trước năm 1954. Đặc biệt, ông sưu tầm được khoảng 30 tờ số đầu của nền báo chí Việt Nam từ thời kỳ sơ khai đến báo chí cách mạng, như các tờ Gia Định báo, Cứu Quốc, Độc Lập, Cờ giải phóng... Trong đó, tờ Cờ giải phóng, cơ quan ngôn luận của Đảng Cộng sản Đông Dương phát hành ngày 10/10/1942 là tờ báo duy nhất còn trên cả nước.
Tháng 6/2024, ông Nguyễn Phi Dũng được Tổ chức Kỷ lục Việt Nam chứng nhận xác lập kỷ lục “Người sở hữu bộ sưu tập báo giấy lớn nhất Việt Nam”. Thời gian qua, dự án số hóa kho tư liệu, hiện vật báo chí sưu tầm được thực hiện bằng công nghệ, kỹ thuật cao, giá trị khai thác dữ liệu sau khi số hóa hướng đến phục vụ các hoạt động trưng bày, triển lãm số, thư viện trực tuyến, giáo dục và nghiên cứu. Quy trình dự án gồm các bước: Thu thập (tổng hợp nguồn tư liệu nguyên bản); số hóa (quét hình ảnh chất lượng cao, định dạng, xử lý); chuẩn hóa dữ liệu (kiểm soát chất lượng và hình ảnh); lưu trữ (dữ liệu số và bảo mật), phân phối (sử dụng cho các mục đích thương mại và phi thương mại, truy cập qua web và ứng dụng). Lộ trình thực hiện dự án từ tháng 9/2025 đến tháng 9/2026.