พิพิธภัณฑ์รวบรวมของโบราณซึ่งเก็บและขุดได้จากดงเมืองเตย เมืองเก่าแก่ที่มีมาตั้งแต่สมัยขอม ในพิพิธภัณฑ์มีของโบราณมากมาย อย่าง เตียงบรรทมเจ้าเมือง (เป็นศิลา) และศิลาจารึกอักษรขอมโบราณ นอกจากนี้ยังมีซากเมืองโบราณดงเมืองเตยที่ค่อนข้างสมบูรณ์ ตั้งอยู่ทางทิศใต้ของหมู่บ้านสงเปือยห่างจากหมู่บ้านประมาณ 1 กิโลเมตร นอกจากนี้ภายในบริเวณดงเมืองเตยยังมีซากวัด สระน้ำ กำแพงเมืองที่ยังมีเค้าโครงเดิมพอจะสันนิษฐานได้ว่าเดิมเป็นที่ตั้งของชุมชนโบราณสมัยเจนละ ทวารวดี ในพุทธศตวรรษที่ 12 จากข้อความที่พบในจารึกของกษัตริย์เจนละ แสดงว่าโบราณสถานแห่งนี้สร้างขึ้นเป็นศาสนสถานในศาสนาพราหมณ์ที่นับถือพระศิวะ ในช่วงเวลานั้น บริเวณดงเมืองเตย รวมทั้งชุมชนใกล้เคียงเคยเป็นเมืองที่มีชื่อว่า “ศังขะปุระ” มีความสัมพันธ์ในฐานะเมืองในปกครองของอาณาจักรเจนละ ซึ่งก็คืออาณาจักรขอมที่แผ่อำนาจเข้ามาในเขตลุ่มแม่น้ำมูล ชี ในสมัยโบราณ