Khuôn viên di tích bao gồm: Hồ bán nguyệt, sân đền, tượng người, tượng thú, trụ bia đứng thành hai hàng tả hữu chầu phục, rồi đến đền thờ sau đền là hầm ngầm nửa chìm nửa nổi, xây bằng đá tổ ong vững chắc.

Đền thờ (Từ vũ) có lối kiến trúc chữ đinh quay mặt về hướng chính đông- nơi thờ lưu niệm quan Thái Tể Thiều quận công Phạm Huy Đĩnh (1726-1775); một con người, một nhân vật lịch sử  “có tiếng”  thời kỳ Hậu Lê: Ông là người có “quý tướng” lại sớm được rèn luyện văn chương, võ nghệ theo nếp người xưa nên đã sớm được tuyển chọn vào phủ Chúa. Ông là một trợ thủ đắc lực của Chúa Trịnh Sâm, một bậc trung thành số một, ông tham mưu cho nhà chúa ban ra tỏ rõ phong thái “Đại đình” “ra tay bắt kẻ gian, trói kẻ nghịch”, dẹp yên các đảng nghịch ngoài viễn trấn. Đặc biệt ở xứ trấn Sơn Nam hạ, nhờ có ông mà “tình hình chính trị xã hội” được bình yên, được vua Lê “nể trọng”, phủ Chúa tin dùng. Ông từng trải và kiêm quản các chức quan: Thị Trung Hầu, Trưởng quan doanh vệ, Thư tả hộ phiên, tư lễ giám, Tả đô đốc trung quân đô đốc phủ... Theo văn bia Ông là bậc huân thần cố cựu, là bậc đại thần trong nội cấm, được tham dự bàn định mọi việc cơ mật trong Triều, ngoại trấn, lúc vào chầu đứng ở vị trí số một. Huân công danh vọng cao tột đỉnh, ai ai cũng rõ chức Thái Tể, tước Quận công.

                                                                                                                 Đền thờ Phạm Huy Đĩnh

Nơi đây đã từng nổi tiếng một thời bởi không chỉ tên tuổi của vị quận công họ Phạm mà còn bảo lưu được hệ thống kiến trúc nghệ thuật điêu khắc đá xanh thời Lê với 10 pho tượng lính, voi, ngựa và xen kẽ voi đá ngựa đá là hai trụ bia có lưu tích hai bài “minh” của hai học giả nổi tiếng thời Lê là nhà bác học Lê Quý Đôn và Thượng thư Nguyễn Nghiễm có ý nghĩa lịch sử sâu sắc.

                                                                                                                                   Hệ thống tượng trầu phía trước ngôi đền

Hệ thống tượng được tạc bằng chất liệu đá xanh, với một khối lượng đá khoảng vài chục tấn, thợ cung đình, phủ chúa làm dễ có tới vài năm mới hoàn thành. Đường nét chạm khắc trên các phiến đá tạo hình voi phục đường bệ, hình ngựa chiến oai phong dũng mãnh, hình tượng người đứng hầu uy nghiêm. Các trụ bia uyển chuyển, hoạ tiết hoa văn nhuần nhuỵ, nét chữ trong lòng bia tinh xảo với những ánh văn bác học, hùng hồn. Việc vận chuyển một khối lượng nguyên liệu thành phẩm về làng Cao Mỗ này là một kỳ công.

                                                                                                                             Tượng người và thú phía trước ngôi đền

Ngày nay du khách về thăm Đông Hưng không thể không ghé thăm một quần thể tượng đá độc nhất vô nhị không chỉ riêng đối với Thái Bình mà gần như duy nhất ở miền Bắc, tượng đặt ngoài trời, trên nền đất ẩm thấp rêu phong, dưới bóng cây duối cổ thụ trùm phủ tạo thành một không gian linh thiêng nao lòng du khách.

                                                                                                                                                    Minh Thu TH