Vào đầu thế kỷ XIX, Bái Giao thuộc tổng Đại Bối, huyện Đông Sơn, phủ Thiệu Thiên, trấn Thanh Hoa. Thời vua Đồng Khánh (1885 - 1888), Phủ Cố vẫn nằm trong tổng Đại Bối, huyện Đông Sơn, cho đến khi năm Thành Thái thứ 12 (1900) tổng này được chuyển về huyện Thụy Nguyên, sau đó đổi tên thành phủ Thiệu Hóa.

Phủ Cố thờ hai vị nữ thần: “Huy Khánh chân nhân Quận phu nhân tôn thần” và "Tiên Quế chân nhân Đỗ Thị chi thần". Huy Khánh chân nhân là phu nhân của quan Thái tể người làng Bái Giao. Bà đã bỏ tiền của ra để chu cấp cho dân nghèo và mua sắm đồ thờ cúng, sửa sang đền miếu trong làng. Nhờ những đóng góp to lớn này, nhân dân đã lập đền thờ và triều đình phong kiến đã phong tặng Bà làm phúc thần của làng.

Bà Đỗ Thị, theo truyền thuyết, là người giỏi về nghề thuốc và đã có công lớn trong việc chữa bệnh cứu người. Do đó, trong dân gian, bà còn được gọi là "Thần y" hay "Thần Dược". Bà được thờ làm hậu thần tại Phủ Cố để thể hiện lòng thành kính và tri ân của dân làng.

Lễ hội Phủ Cố được tổ chức vào ngày 24 tháng 9 Âm lịch hàng năm, với quy mô rộng lớn. Ngày hội thu hút đông đảo khách thập phương và nhân dân trong làng cũng như những người từ xa về tham dự. Ngoài ngày lễ hội, vào các ngày Rằm, mùng Một hàng tháng và Tết Nguyên Đán, người dân từ khắp nơi cũng đến đây cầu cúng vị thần có công chữa bệnh và cứu giúp dân làng.

Hệ thống đồ thờ trong di tích, đặc biệt là các hiện vật đá như bia đá, chân tá, bát hương đá, đế ngai thờ đá, mâm bồng đá... có giá trị lịch sử và văn hóa cao, giúp tìm hiểu sự ra đời và tồn tại của ngôi phủ, cũng như sự hình thành và phát triển của làng xã nơi đây.

Phủ Cố nằm giữa một cảnh quan thiên nhiên tuyệt đẹp, đáp ứng nhu cầu hành lễ, tham quan và vãn cảnh của du khách. Năm 2013, Chủ tịch UBND tỉnh đã công nhận Phủ Cố là di tích Lịch sử - Văn hoá cấp tỉnh./.