กู่สวนแตงเป็นโบราณสถานแบบขอมอีกแห่งหนึ่ง ซึ่งประกอบด้วยปรางค์อิฐ 3 องค์ ตั้งเรียงในแนวเหนือ ใต้ บนฐานศิลาแลงเดียวกัน อาคารทั้งหมดหันหน้าไปทางทิศตะวันออก มีประตูหน้าเพียงประตูเดียว อีก 3 ด้านสลักเป็นประตูหลอก ปรางค์องค์กลางมีขนาดใหญ่และมีสภาพที่ค่อนข้างสมบูรณ์เป็นรูปสี่เหลี่ยมจัตุรัส ด้านหน้าที่มุขยื่นออกมาเล็กน้อย ตรงหน้าบันเหนือประตูหลอกทั้ง 3 ด้าน มีลักษณะยื่นออกมาและมีแผ่นศิลาทรายรองรับ ส่วนปรางค์อีก 2 องค์ มีขนาดเล็กกว่า ฐานเป็นรูปสี่เหลี่ยมจัตุรัส มีประตูเดียวทางด้านหน้าเช่นกัน ส่วนผนังอีก 3 ด้าน ก่อเรียบทึบสำหรับบนพื้นหน้าปรางค์มีส่วนประกอบสถาปัตยกรรมหินทรายอื่น ๆ ตกหล่นอยู่ เช่น ฐานบัวยอดปรางค์ กลีบขนุนรูปนาค 6 เศียร อายุของกู่สวนแตงสามารถกำหนดได้จากทับหลังของปรางค์ ซึ่งปัจจุบันเก็บรักษาอยู่ที่พิพิธภัณฑสถานแห่งชาติพระนครและที่พิพิธภัณฑสถานแห่งชาติพิมาย มีอายุราวพุทธศตวรรษที่ 17 เนื่องจากภาพสลักบนทับหลังทั้งหมดมีลักษณะตรงกับศิลปะขอมแบบนครวัด ที่มีอายุอยู่ในช่วงเวลาดังกล่าว อาทิ ทับหลังสลักภาพพระนารายณ์ตรีวิกรม (ตอนหนึ่งในวามนาวตาร แสดงภาพพระนารายณ์ย่างพระบาท 3 ก้าว เหยียบโลกบาดาล โลกมนุษย์ และโลกสวรรค์) ทับหลังภาพศิวนาฏราช ทับหลังภาพการกวนเกษียรสมุทร ทับหลังภาพนารายณ์บรรทมสินธุ์ ฯลฯ แต่ละชิ้นมีขนาดใหญ่สวยงามน่าสนใจยิ่ง