Vì dinh Long Hồ ngày xưa là một dinh lớn, là kinh đô của cả miền Tây nên thành Vĩnh Long lúc bấy giờ được dân địa phương gọi là hoàng cung mà mặt tiền nằm khoảng giữa hai con đường Đồng Khánh và Trương Vĩnh Ký (tên đường trước năm 1975), còn cửa hậu thuộc địa phận Bình Minh xưa (bây giờ là quanh vùng rạch Cái Cá) với những thôn xóm trù phú như xóm Chài, xóm Lưới, xóm Bún, xóm Đập, vân vân. Bây giờ đã qua bao cuộc bể dâu nhưng chúng ta vẫn có thể hồi tưởng lại bóng dáng huy hoàng ngày nào của một ngôi thành uy nghi, nay đã theo bóng thời gian mà chìm vào dĩ vãng. Ngày ấy thành Vĩnh Long chiếm trọn bốn thôn Long Châu, Long Hồ, Bình Minh và Bình Lữ, thuộc tổng Bình Long, phủ Định Viễn. Năm 1836, vua Minh Mạng cho lập ụ ghe tàu dọc theo bờ sông Long Hồ từ Vàm đến khoảng gần Văn Thánh Miếu. Đến khi Pháp chiếm Vĩnh Long, họ đã san bằng tất cả thành quách, để xây cất những dinh thự mới cho chính phủ thuộc địa.
Đi về phía bắc Cổ Chiên, hiện còn nền một ngôi đình nằm sát bên bờ sông Cổ Chiên, gọi là Đình Khao. Theo lời các bô lão trong vùng kể lại thì đình được khởi xây từ năm Gia Long 16 (1817). Đây là chỗ khao quân của các quan đàng cựu. Nơi đây cũng chính là nơi mà các quan triều đình đã hành quyết linh mục Phan Văn Minh, người mà về sau này được Tòa Thánh La Mã phong Thánh Tử Đạo. Sau khi chiếm trọn Nam Kỳ, Pháp đã san bằng Đình Khao, cột kèo thì đem về cất tòa bố Vĩnh Long (nằm ngay trong khuôn trường Trung Học Tống Phước Hiệp bây giờ). Từ khi ngôi đình bị triệt hạ, nền đất trơ trụi bao quanh bởi mấy gốc dương cổ thụ trơ gan cùng tuế nguyệt, vừa chứng kiến những thăng trầm của lịch sử, mà cũng vừa thách thức thiên nhiên. Nhưng rồi một thời gian sau thì nước dòng Cổ Chiên cũng cuống phăng mất bờ dương và những mô súng thần công. Dân chúng trong vùng thấy vậy dựng lên nơi nền đình cũ một ngôi chùa gọi là Bảo Tâm Tự. Hiện tại trong chùa người ta còn thờ “Cây Dầm Thiêng Liêng” của ông Đạo Ngà, vị tổ khai sơn ngôi Bảo Tâm Tự. Ngôi Bảo Tâm Tự cũng nhiều phen thăng trầm với dòng sinh mệnh của nhân dân Vĩnh Long. Có một thời khi Pháp vừa tái chiếm lại miền Nam, trong khi đi tuần trên lộ Cổ Chiên, một viên thiếu úy Pháp đã vướng phải lựu đạn của thanh niên Tiền Phong mà chết, chúng đã điên cuồng đốt hết cả xóm nhà, khoảng 30 căn, kể cả chùa Bảo Tâm. Năm 1961, cư sĩ Mai văn Nghiệp đã quyên tiền xây dựng lại ngôi chùa trên nền cũ. Ngày nay dù Đình Khao đã không còn, dân chúng trong vùng vẫn lưu luyến với hai chữ “Đình Khao” nên đã đặt bến đò Cổ Chiên là đò Đình Khao. Từ chợ Vĩnh Long đi về hướng Cổ Chiên, khoảng 3 cây số, trước khi tới đò Đình Khao bây giờ, bên tả ngạn sông Cổ Chiên, cách bờ khoảng 100 thước, có một cái miếu, mặt tiền hướng về phía rạch Cái Sơn, đây là Miếu Công Thần, trước miếu có đặt một khẩu thần công, xung quanh là những gốc dương cổ thụ. Bên trong miếu có thờ 85 là sắc phong của vua nhà Nguyễn truy phong cho 85 vị khai quốc công thần đã giúp vua Gia Long chiếm được giang sơn từ tay người Pháp.