พิพิธภัณฑ์แห่งนี้สร้างขึ้นในยุคเดียวกับพระที่นั่งวิมานเมฆ เดิมเป็นที่ตั้งของกระทรวงเกษตราธิ การซึ่งมีเจ้าพระยาเทเวศบุรีรักษ์ ต้นตระกูลกุญชรณ อยุธยา เป็นเจ้ากระทรวงคนแรก สืบมาจนถึงยุคของท่านเจ้ากระทรวงคนต่อๆ มา เป็นพิพิธภัณฑ์กรมที่ดินซึ่งจัดตั้งขึ้นเมื่อวันที่ 17 กุมภาพันธ์ พ.ศ. 2544 ในโอกาสครบรอบ 100 ปี ของกรมที่ดิน จากการระดมความคิดจากส่วนที่เกี่ยวข้องหลายฝ่าย และผู้มีประสบการณ์ ร่วมกันประชุมเพื่อกำหนดทิศทางในการจัดตั้ง รวมทั้งมอบนโยบายและภารกิจต่างๆ ให้คณะทำงานได้ศึกษาและหาแนวทางในการดำเนินงาน ซึ่งถือเป็นจุดเริ่มต้นของพิพิธภัณฑ์ดังกล่าว โดยได้รวบรวมประวัติศาสตร์การทำงานของกรมที่ดินไว้ตั้งแต่ยุคเริ่มแรก จนถึงปัจจุบัน ซึ่งเปิดบริการอย่างเป็นทางการเมื่อวันที่ 20 กันยายน พ.ศ. 2544 ซึ่งเป็นวันคล้ายวันพระราชสมภพของรัชกาลที่ 5 และรัชกาลที่ 8