Nằm ở trung tâm thị trấn Cai Lậy, với cổng nhìn ra đường 30-4, lăng Tứ Kiệt vừa được trùng tu, xây dựng lại theo kiến trúc truyền thống chia làm hai khu vực rõ rệt: chính tẩm và nhà mộ. Chính tẩm được thiết kế theo lối thờ phụng có bàn thờ, lư hương, đôi hạc..., chính giữa có Bằng công nhận Di tích Lịch sử - Văn hóa quốc gia và bài vị tạo nét nghiêm trang. Phía sau là nhà mộ có bốn ngôi mộ tượng trưng dán gạch tráng men khá tươm tất. Khuôn viên quanh lăng được tôn tạo, bố trí thêm các loại kiểng quý từ các nơi khác mang đến, lúc nào cũng cắt tỉa cẩn thận.
Tứ Kiệt là cách gọi tôn kính của nhân dân đối với bốn vị anh hùng lãnh đạo nhân dân chống Pháp từ năm 1868 - 1870. Ðó là các ông: Trần Công Thận, Nguyễn Thanh Long, Ngô Tấn Ðước và Trương Văn Rộng. Sau khi giặc Pháp hạ thành Mỹ Tho và chiếm toàn tỉnh Ðịnh Tường (1861), bốn ông tham gia cuộc khởi nghĩa do Thiên Hộ Dương khởi xướng và lãnh đạo, góp phần cùng nghĩa quân tạo nên những chiến thắng oai hùng. Căn cứ Ðồng Tháp Mười bị vỡ, bốn ông liền về Cai Lậy chiêu mộ nghĩa quân tiếp tục phất cao cờ khởi nghĩa. Trong hàng loạt những chiến công của nghĩa quân Tứ Kiệt, có hai chiến công được xem là chói lọi nhất. Ðó là cuộc tiến công vào thành Mỹ Tho và thiêu hủy đồn Cai Lậy. Sau hai năm hoạt động gây cho giặc nhiều thiệt hại, cuộc khởi nghĩa của Tứ Kiệt đành chịu thất bại trước sự bay vây và đàn áp tổng lực của quân đội viễn chinh Pháp. Bốn ông cùng 150 nghĩa quân bị bắt. Bọn chúng đem vinh hoa phú quý ra dụ dỗ các ông trong nhiều ngày không thành.
Ngày 14-2-1871 (nhằm ngày 25 tháng Chạp năm Canh Ngọ), giặc đưa bốn ông ra pháp trường xử trảm, bêu đầu ở chợ Cai Lậy nhằm uy hiếp tinh thần của dân chúng, sau đó vùi ở bến sông cạnh chợ. Thân nhân gia đình chỉ mang thân mình các ông về quê nhà, gắn chiếc đầu giả làm bằng đất sét vào chôn cất.
Cảm kích bốn vị anh hùng, nhân dân Cai Lậy đã bí mật mang chôn thủ cấp của bốn ông và đắp mộ, hương khói trang nghiêm. Ở làng Mỹ Trang, ông Nhiêu học Ðặng Văn Ngưu dựng trước nhà một ngôi miếu thờ ngay khu đất giặc bêu đầu bốn ông. Ngôi miếu lợp ngói âm dương và để che mắt chính quyền thực dân, người ta gọi đó là chùa Ông (vì phía trước lập bàn thờ Quan Công tượng trưng cho trung nghĩa), còn phía sau lập bài vị khắc bốn chữ "Tứ vị thần hồn" sơn son thếp vàng rực rỡ (nên có người gọi là "Miếu cô hồn"). Mặc dù vậy nhưng ai ai cũng biết đó là miếu thờ Tứ Kiệt. Trận bão năm Giáp Thìn (1904) làm ngôi miếu đổ sập. Ông Nhiêu dời ngôi miếu về làng Thanh Sơn (trước thuộc xã Thanh Hòa nay là thị trấn Cai Lậy). Hiện ngôi miếu tọa lạc tại khu phố 1, thị trấn Cai Lậy, cách lăng hơn trăm mét. Còn ngôi mộ nơi chôn bốn thủ cấp từ năm 1871 vẫn đắp bằng đất, chung quanh có hàng rào bằng cau sơn vôi trắng. Gần đó có cây còng cổ thụ tỏa bóng mát tạo bầu không khí linh thiêng.
Vào những năm 30 của thế kỷ trước, người ta đồn rằng: những đêm thanh vắng ở khu mộ bốn ông có tiếng quân reo, ngựa hí. Huyền thoại về bốn ông được lan truyền khắp vùng. Năm 1938, trong đội lính mã tà có ông Ðội Lung vì cảm mộ tấm lòng trung nghĩa của bốn ông nên thuê thợ làm tấm bia đá đặt tại đầu mộ. Bia khắc dòng chữ "Ðại Nam Mỹ Tho tỉnh, Thanh Hòa thôn, Tứ vị cựu quan chi mộ".
Mãi đến năm 1954, quận trưởng Lê Văn Thai đồng ý cho nhân dân xây dựng lại ngôi miếu và bốn ngôi mộ tượng trưng bằng xi-măng song song và gần sát nhau, chung quanh có hàng rào sắt kiên cố ngay trên nấm đất cũ. Khu vực này gọi là lăng Tứ Kiệt. Năm 1967, nhân dân Cai Lậy tiến hành trùng tu ngôi miếu và khu mộ bốn ông quy mô hơn trong có miếu thờ ngoài có nhà khách. Tại lăng có Ban Quý Tế lo việc trùng tu cúng bái. Hằng năm vào ngày 25 tháng Chạp âm lịch, nhân dân Cai Lậy tụ tập đông đúc về đây tảo mộ và làm giỗ rất trang trọng, thành kính tưởng nhớ đến bốn ông vì nước quên mình nêu tấm gương sáng ngời cho hậu thế. Nghi thức tế lễ theo lối cổ truyền có sự cố vấn của nhà nghiên cứu về Nam Bộ, Trương Ngọc Tường quê ở Cai Lậy.
Năm 1998, Sở Văn hóa - Thông tin Tiền Giang và Ủy ban nhân dân huyện Cai Lậy trùng tu toàn diện khu lăng mộ Tứ Kiệt, tương xứng với tầm vóc và khí phách anh hùng của bốn ông đúng như hai câu đối được chạm khắc tại cổng:
Tứ vị anh hùng vị quốc
 hy sinh vĩnh niệm
Kiệt nhân nghĩa cử tinh
thần bất khuất lưu tồn.
Nhân kỷ niệm 128 năm ngày bốn ông hy sinh, lăng được khánh thành. Từ đó đến nay, đông đảo nhân dân ở khắp nơi đến viếng và thắp nhang tưởng niệm người đã khuất. Ðến thăm lăng Tứ Kiệt, chắc chắn du khách sẽ hiểu thêm tấm lòng của người dân địa phương với bốn ông - những người đã góp phần điểm tô cho bốn chữ vàng "Ðịa Linh Nhân Kiệt" của Tiền Giang luôn ngời sáng.