เดิมชื่อถ้ำเขาหยั่ง อยู่ในเทือกเขาเขตตำบลลำเลียง อยู่ในพื้นที่ความรับผิดชอบของอุทยานแห่งชาติลำน้ำกระบุรี ถ้ำพระขยางค์เป็นถ้ำขนาดเล็ก มีตำนานเก่าแก่ที่เกี่ยวกับพ่อตาหลวงแก้ว ผู้สร้างเมืองกระบุรี จากปากถ้ำเข้าไปประมาณ 40เมตร มีบันไดขึ้นสู่ด้านบน สามารถทะลุออกภายนอกซึ่งเป็นบริเวณที่เชื่อกันว่า มีการนำเอาสมุนไพรที่หายากมาปลูกไว้ การเที่ยวชมควรเตรียมเทียนไข หรือไฟฉายพกติดตัวไปด้วย บรรยากาศภายในถ้ำค่อนข้างอับชื้น มีค้างคาวอาศัยอยู่เป็นจำนวนมาก นอกจากนั้นในช่วงเทศกาลตรุษจีนของทุกปีจะมีการจัดเทศกาลงานปิดทองพระบริเวณถ้ำพระขยางค์ เป็นเวลา 3 7 วัน เพื่อเปิดโอกาสให้ประชาชนเข้าสักการะสิ่งศักดิ์สิทธิ์ และเข้าชมความสวยงามของถ้ำตลอดจนสมุนไพรต่างๆ ที่อยู่บนเขา ?