เทศบาลนครหาดใหญ่ มีประวัติและมีวิวัฒนาการมาอย่างน่าสนใจยิ่ง จากหมู่บ้านเล็ก ๆ ที่มีชื่อว่า โคกเสม็ดชุน ในปี พ.ศ. 2428 ในพื้นที่ป่ารกร้าง มีทั้งหนอง คลอง บึง ประชาชนตั้งบ้านเรือนอยู่ห่าง ๆ กัน บนที่ดอน หรือ โคก ในภาษาถิ่นใต้ และประชาชนส่วนใหญ่ประกอบอาชีพทางเก็บหาของป่าและเกษตรกรรม ต่อมาในรัชสมัยของพระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว (รัชกาลที่ 5) พระองค์ได้โปรด ฯ ให้กระทรวงคมนาคมประกาศเวนคืนที่ดินในบริเวณหมู่บ้านนี้ส่วนหนึ่งเพื่อก่อสร้างทางรถไฟผ่านไปยังบ้านปาดังเบซาร์ แหลมมาลายู เมื่อมีโครงการก่อสร้างทางรถไฟขึ้นมาแล้ว จึงได้มีประชาชนจากต่างถิ่นอพยพเข้ามารับจ้างก่อสร้างทางรถไฟและประกอบอาชีพอื่น ๆ ซึ่งต่อมาผู้รับเหมาก่อสร้างทางรถไฟรายหนึ่งเห็นความสำคัญของพื้นที่ที่ก่อสร้างเป็นชุมทางรถไฟ จึงได้จับจองที่ดินไว้เป็นจำนวนมาก และชักชวนชาวบ้านให้ร่วมกันหักร้างถางพงเพื่อสร้างเป็นชุมชนเมืองขึ้นมา และทางราชการก็ได้เข้าไปจัดให้มีหน่วยงานขึ้นในชุมชนนั้นเพื่อให้บริการและอำนวยความสะดวกในสิ่งที่เป็นความจำเป็นพื้นฐานของชุมชน รวมทั้งความต้องการพัฒนาและบำรุงท้องที่ให้เจริญก้าวหน้า ก่อนจะยกฐานะท้องถิ่น ต่อมาทางราชการได้ประกาศจัดตั้งขึ้นเป็นสุขาภิบาลหาดใหญ่ ตามประกาศใช้พระราชบัญญัติสุขาภิบาล เมื่อวันที่ 25 กรกฎาคม 2471 และประกาศในราชกิจจานุเบกษา ลงวันที่ 29 กรกฎาคม 2471 ปัจจุบัน....ได้ยกฐานะเทศบาลเมืองหาดใหญ่ ขึ้นเป็นเทศบาลนครหาดใหญ่ ตามพระราชกฤษฎีกา เล่ม 112 ตอนที่ 40 ก. ลงวันที่ 24 กันยายน 2538 และมีผลใช้บังคับตั้งแต่วันที่ 25 กันยายน 2538