Từ cuối thế kỷ XI, nhà Lý đã chú ý đến nho học, cho mở khoa thi đầu tiên (Ất Mão 1075) và chọn được vị Trạng nguyên khai khoa ở nước ta. Đó là Trạng nguyên Lê Văn Thịnh, người vùng Kinh Bắc (nay thuộc huyện Gia Bình, tỉnh Bắc Ninh).
Trạng nguyên Lê Văn Thịnh nổi tiếng thông minh, đỗ đại khoa xong là có chỉ triều đình mời ra làm quan ngay. Ông được vào cung dạy Lý Nhân Tông từ thuở bé. Ngay sau đó, ông đảm nhiệm các chức trách ở triều đình, dần dần lên đến địa vị Thái sư.
Năm 1084, sau cuộc chiến thắng quân Tống, vua Lý và nguyên soái Lý Thường Kiệt thực hiện chính sách ngoại giao khôn khéo, xin cùng với nhà Tống giảng hòa sai sứ thông thương.
Những việc đầu tiên thảo luận là vấn đề trao trả tù binh, phân chia địa giới, đòi lại những vùng đất mà quan Tống đã lấn chiếm trước đây. Lê Văn Thịnh lúc này còn giữ chức Lang trung binh bộ, được cử làm trưởng đoàn sang Tống đàm phán. Hội nghị diễn ra vào tháng 7 năm giáp Tý (1081).
Phía nhà Tống cử viên sứ giả Thành Trạc đứng đầu. Nội dung cuộc tranh luận là bàn về cương giới thuộc hai châu Quy Hóa và Thuận An, cụ thể là đất Vật Dương, Vật Ác.
Chính tại cuộc hội nghị này, Lê Văn Thịnh đã nổi bật lên là một nhà ngoại giao kiên quyết lý lẽ vững vàng, thái độ cứng rắn. Lê Văn Thịnh nói rõ hai vùng đất ấy là của nước ta đã bị bọn tù trưởng ở biên giới nhân lúc thời thế hỗn loạn, đem nộp cho nhà Tống để mong tránh nạn binh hỏa. Nay xin nhà Tống trả lại.
Phái đoàn Thành Trạc không chịu, lập luận rằng: "Những đất khi giao tranh đã bị chiếm bây giờ đem trả lại thì đúng. Còn những đất mà người địa phương coi giữ đã xin quy phụ về thiên triều, thì không có lý gì phải trả lại.
Thái sư Lê Văn Thịnh đã trả lời: "Đất thì có chủ. Bọn được giao cho coi giữ mạng nộp và trốn đi thì đó là đất ăn trộm. Chủ giao cho mà lại trộm của chủ, là phạm tội không tha thứ được. Kẻ ăn trộm và kẻ tàng trữ vật trộm cắp đều sai, huống chi bọn chúng lại mang đất trộm đến dâng là làm bẩn sổ sách của thiên triều!".
Lời nói khéo léo mà nghiêm khắc của Lê Văn Thịnh đã làm cho bọn sứ thần nhà Tống phái hổ thẹn nhưng chúng vẫn cứ cho rằng đất đó của Tống. Cuộc tranh chấp dất đai này còn kéo dài nhiều năm về sau, có đến sáu lần thảo luận nữa mà không ngã ngũ. Nhưng Lê Văn Thịnh đã được triều đình rất kính phục. Ngay năm sau (1085) ông được thăng vượt cấp cử giữ chức Thái sư, quan đầu triều.
Nhưng có điều lạ là kết cục hành trạng của vị Thái sư Trạng nguyên này lại là những trang bi kịch. Một việc kỳ quặc đã xảy ra cho đến nay vẫn chưa ai giải thích được rõ ràng. Vào một ngày mùa đông năm 1095, vua Lý Nhân Tông cùng các triều thần dong thuyền dạo chơi trên Hồ Tây, để hưởng lạc cảnh thái bình, sau những ngày chiến tranh chấm dứt.
Thuyền ra đến giữa hồ thì sương mù tỏa xuống che cả đội thuyền ngự, ảo ảo mờ mờ. Đó là hiện tượng thiên nhiên quen thuộc ở hồ Tây. Bỗng ngay giữa thuyền ngự, một con cọp ở đâu xuất hiện, nhảy vào đám đông, các quan và bọn lính ngự lâm thị vệ hoảng hốt rạt ra, cọp lao vào vua Lý Nhân Tông như sắp sửa vồ ăn thịt.
Người lái thuyền, một ông chài can đảm và linh hoạt, vội vàng ném vào đầu cọp một cái lưới tình cờ ông vớ được bên cạnh mình. Lưới lùng nhùng bổ vây lấy cọp, làm cho nó lúng túng không thể thoát ra. Nhà vua và các tùy tùng được hoàn hồn, thì vừa lúc sương mù cũng giảm bớt, trông rõ mặt người. Bọn lính xông vào bắt cọp. Nhưng... không phải cọp! Mà lại là ...Thái sư Lê Văn Thịnh đang loay hoay trong tấm lưới.
Lập tức, Lê Văn Thịnh bị trói điều về để triều đình luận tội. Kết luận không nói ai cũng rõ: "Lê Văn Thịnh đã bị buộc tội là dùng phù phép để hóa thành cọp, toan giết vua cướp ngôi. Luật ra phải tru di tam tộc, nhưng Lý Nhân Tông nghĩ thương một vị đại thần đã có nhiều công lao trong các việc nội trị, ngoại giao, lại là người có học hành uyên bác nên không bắt tội chết. Lê Văn Thịnh bị cách hết chức tước, đày vào Thanh Hóa. Ông trú ngụ tại đây và lập cơ ngơi mới ở vùng này. Có tài liệu lịch sử sau này cho rằng, Tiến sĩ Lê Quát (đời nhà Trần) là dòng dõi của ông.
Việc Thái sư Trạng nguyên Lê Văn Thịnh hóa hổ đến nay vẫn chưa ai giải thích chính xác. Các nhà nho, các sử thần phong kiến ngày xưa đều kết luận là Lê Văn Thịnh đã có tham vọng cướp ngôi, vốn tội rất nặng. Nhưng người ta vẫn không hiểu sao mà vua Lý lại xử phạt một cách khoan hồng.
Một số nhà nghiên cứu đời sau không tin vào chuyện phù phép, đã giải thích hiện tượng này một cách khác nhưng tên tuổi và "giai thoại" Trạng hóa cọp hay Thái sư hóa cọp thì vẫn tồn tại, lưu truyền cho tới bây giờ.
Ngoài Bảo Tháp nơi quê hương ông, còn có Chi Nhị, Phù Ninh (nơi xưa ông dạy học), ở Thị Xá (nay là Vân Xá, xã Cách Bi, huyện Quế Võ, quê ngoại của ông), là những nơi thờ Lê Văn Thịnh.
Bên cạnh đó còn có "Ngũ đình nội" vừa thờ tướng Doãn Công, Đào Nương (thời Hai Bà Trưng) vừa thờ Trạng nguyên Lê Văn Thịnh. Ở ngoài khu vực quê hương ông còn có đền Đình Tổ, huyện Thuận Thành cũng thờ Lê Văn Thịnh.
Các di tích thờ Lê Văn Thịnh nêu trên đa phần được xây dựng, tu bổ vào thời Lê. Các tư liệu hiện vật hiện nay còn lưu giữ trong những di tích này như: sự tích về Lê Văn Thịnh, sắc phong, bia đá, hoành phi, câu đối, đại tự... đều có niên đại xưa nhất là thời Lê.
Thông qua nội dung, niên đại, đặc biệt là thời điểm xây dựng, tu bổ các di tích trên, nhiều nhà nghiên cứu cho rằng, triều đình nhà nước phong kiến và nhân dân địa phương thời điểm đó đã nhìn nhận, đánh giá đúng công lao vai trò của thái sư Lê Văn Thịnh.
Từ đó mới ban cấp sắc phong, sức cho các nơi thờ phụng ông ở những nơi tôn nghiêm như vậy. Lê Văn Thịnh là vị phúc thần, được nhân dn ở gần chục nơi thờ làm thành hoàng.
Trong những di tích ở ngay quê hương ông (đền chùa Bảo Tháp, đình Chi Nhị và đình Phú Ninh) hiện còn lưu giữ nhiều tư liệu hiện vật phản ánh về cuộc đời và sự nghiệp của Lê Văn Thịnh. Trước hết là bản sự tích (ngọc phả) và ông, có niên hiệu "Hồng Phúc nguyên niên, mạnh xuân nguyệt, cát nhật, Hoàng triều năm Vĩnh Hựu thứ 6, Hàn lâm viện Đông các Đại học sĩ Nguyễn Bính phụng soạn chính bản".
Ở tư liệu này, các nhà nghiên cứu xác định được năm sinh của Lê Văn Thịnh là năm Canh Dần (1050), không phải là năm Giáp Dần hay Bính Dần. Theo dân địa phương, năm 25 tuổi Lê Văn Thịnh đi thi đình, nên lấy năm 1075 (năm ông thi đỗ như đã biết) trừ đi 25 thì đúng là năm 1050.
Sau bản ngọc phả trên, ở di tích này còn có các đạo sắc phong của triều đình phong kiến trước đây (thời Lê và thời Nguyễn) phong cho Lê Văn Thịnh làm thành hoàng làng Bảo Tháp. Trong số 10 đạo sắc hiện còn ở đây, có đạo phong chung cho Doãn Công - Đào Nương và Lê Văn Thịnh, có đạo phong riêng cho Lê Văn Thịnh làm thành hoàng làng Bảo Tháp.
Thông qua nội dung các đạo sắc ở đây cũng như ở các nơi khác thờ Lê Văn Thịnh chúng ta thấy đó là sự thừa nhận chính đáng, khách quan của các triều đại phong kiến Lê, Nguyễn đối với những cống hiến lớn lao của Lê Văn Thịnh.
Ở di tích đền chùa thôn Bảo Tháp còn có những tư liệu, hiện vật khác như: câu đối, đại tự, bài vị..., nội dung phản ánh về tài năng, công dức của Lê Văn Thịnh: Đại Tự: "Lê Trạng nguyên cố trạch" Làm năm 1889; Bài vị: "Lê Thái sư đại vương"; Biển thờ: "Ân tứ vinh quy", "Giáo tứ đăng khoa" ...
Cùng những di tích, tư liệu hiện vật phản ánh về Lê Văn Thịnh ở đền chùa Bảo Tháp, xã Đông Cứu, ở đình làng Chi Nhị (xã Song Giang, Gia Lương) còn có tượng thái sư Lê Văn Thịnh được thờ trên long ngai sơn son thếp vàng rực rỡ, trang nghiêm.
Qua bức tượng đó, nhân dân địa phương đã cất tiếng nói khẳng định công lao, tài đức của thái sư Lê Văn Thịnh và lòng ngưỡng mộ trân trọng của mình đối với ông.