มีซากโบราณสถาน คือ เจดีย์องค์ใหญ่สมัยทวารวดี พระปรางค์สมัยลพบุรีในราวพุทธศตวรรษที่ 17 อยู่ด้านหน้า แต่พระพุทธรูปปูนปั้นแบบอู่ทองบนปรางค์นั้นสร้างขึ้นภายหลัง และยังพบเทวรูปขนาดใหญ่มีร่องรอยการดัดแปลงเป็นพระพุทธรูป 2 องค์ ปัจจุบันเก็บรักษาไว้ในพิพิธภัณฑสถานแห่งชาติสมเด็จพระนารายณ์ เทวสถานแห่งนี้ภายหลังสร้างเป็นวัดขึ้นในสมัยอยุธยา ดังจะเห็นได้จากซากวิหารซึ่งเหลือแต่ผนัง และเสาอยู่ทางด้านหน้าและมีเจดีย์สูงก่อด้วยอิฐอยู่เบื้องหลัง คำว่า “วัดนครโกษา” มีผู้สันนิษฐานว่า เจ้าพระยาโกษาธิบดี (เหล็ก) ในสมัยสมเด็จพระนารายณ์ฯ เป็นผู้บูรณะจึงเรียกว่า “วัดนครโกษา” ตามราชทินนามนั่นเอง