ไม่ทราบประวัติการก่อตั้งที่แน่ชัด เดิมน่าจะมีชื่อเรียกว่า “วัดปลูกบัว” ต่อมาน่าจะมีการเรียกผิดเพี้ยนเสียง เป็นชื่อว่า “วัดปู่บัว” แต่จากโบราณสถานที่ปรากฏอยู่ ซึ่งได้แก่ เจดีย์ทรงสี่เหลี่ยมที่สร้างซ้อนลดหลั่นกันขึ้นไป สันนิษฐานว่า น่าจะสร้างขึ้นมาตั้งแต่สมัยกรุงรัตนโกสินทร์ตอนต้นเป็นอย่างช้า แต่เนื่องจากหลักฐานซึ่งเคยมีการสำรวจพบชิ้นส่วนเตาเผาภาชนะดินเผาโบราณ และเศษภาชนะต่างๆ ตลอดสองฝากฝั่งแม่น้ำสุพรรณบุรี ทำให้สันนิษฐานได้ว่า บริเวณที่เป็นวัดปู่บัว และบริเวณโดยรอบ น่าจะเคยเป็นที่ตั้งของชุมชนในสมัยโบราณที่มีอายุราวพุทธศตวรรษที่ ๑๗ ลงมาเป็นอย่างน้อย