Qua các nguồn tư liệu cho thấy vào thời Nguyễn phần lớn các tổng, xã đều xây dựng Văn chỉ, văn từ. Nơi đặt Văn chỉ là địa phương có nhiều người đỗ đạt. Làng Đại Vi từ xưa nổi tiếng là làng văn hiến với nhiều người đỗ đạt thành tài. Tư liệu “Bắc Ninh Tỉnh Hạt Đình Từ Tự Miếu” hiện lưu giữ tại viện Hán Nôm cho biết vào đầu thế kỷ XX xã Đại Vi, tổng Đại Vi có 1 ngôi đình gọi là đình Đại Vi. Chùa 1 ngôi gọi là chùa Đại Vi và Văn chỉ lộ thiên. Tư liệu do lý trưởng của làng Đại Vi là Nguyễn Thọ Thúy đã kê khai ngày 10 tháng 5 năm Thành Thái 13 (1901).