ความเป็นมาของเมืองละงูนั้น ยังไม่มีหลักฐานทางประวัติศาสตร์ หรือพงศาวดารบอกไว้ชัดเจนว่า ชุมชนละงูหรือเมืองละงูตั้งขึ้นในสมัยใด แต่มีหลักฐานสำคัญ 2 อย่างที่เป็นร่องรอยให้เชื่อได้ว่าละงูมีความเจริญมาก่อนมูเก็ม โดยจนถึงขั้นตั้งเป็นเมืองมาแล้ว ดังนี้

1. ชื่อเมืองละงูปรากฏในตำนานเมืองนครศรีธรรมราช คือในปี พ.ศ. 1950 สมัยเจ้าผู้ครองเมืองนคร พระพนมวังนางสะเยงทอง ได้แต่งตั้งเจ้าเมืองให้เจสาวังกินเมืองละงู ให้ชื่อราชาจุราเจนาคาลายังเมีย เป็นผู้ปกครองเมืองละงู ซึ่งในสมัยราชาจุราเจนาคาลายังเมียปกครองเมืองละงูนั้น ก่อนเมืองสตูล หรือสโตยจะเกิดถึง 350 ปี (รวมเรื่องเมืองนครศรีธรรมราช 2505:56-57)

2. ชุมชนละงู และบาราเกต ปรากฏในแผนที่ของชาวตะวันตก โดยตามหลักฐานแผนที่วาด ชื่อ Map of Kingdom of siam and cochin china จัดทำขึ้นโดยชาวตะวันตก เมื่อปี พ.ศ. 2371 และได้ปรากฏชื่อเมืองหรือท่าเรือ Lungu ลูงู (ละงู) Meerahit เมราหิต (บาราเกต คือ ต.ท่าแพ) และ Cettool เซตตูล (สตูล) แสดงว่าละงูมีลักษณะเป็นท่าเรือ และชุมชนใหญ่ที่บรรดาพ่อค้าชาวตะวันตกแวะซื้อขายสินค้า

คำว่า “ละงู” เข้าใจว่าชื่อเดิมคงเป็น กรางู หรือ กะละงู หรือ กราละงู คำว่า กรา เป็นภาษาโบราณซึ่งแปลว่า ปาก ดังเช่น ปากบารา ปากน้ำ ปากละงู ปากปิง หรือ ปากพนัง ปากแพรก ปากพยูน เป็นต้น

ละงู หรือที่เรียกว่า “ลากู” อันหมายถึงการซื้อง่ายขายคล่อง ซึ่งสมัยนั้นการสัญจรไปมาระหว่างเมืองสตูล-ละงู ไม่สะดวกเหมือนปัจจุบัน (ถนนสายฉลุง-ละงู ไม่มี) ทุกอย่างต้องเดินทางด้วยเท้าหรือเรือ ท่าเรือปากบาราเป็นท่าเรือที่ใหญ่ที่สุดทางแถบฝั่งแหลมมาลายู เพราะเคยเป็นที่ทำการค้าขายระหว่างท่าเรือมำบัง ท่าเรือสุไหงอุเป (อำเภอทุ่งหว้าในปัจจุบัน) หรือท่าเรือปีนัง (เกาะหมาก) นอกจากนี้ก็ยังมีการค้าระหว่างประเทศเพื่อนบ้านอีกด้วย

ต่อมาเมื่อบ้านเมืองมีความเจริญ สุขาภิบาลกำแพงจึงเป็นจุดศูนย์กลางของการขนส่ง การค้าขาย แลกเปลี่ยนสินค้าของผู้คนในอดีต จนเกิดตลาดละงูมาจนถึงปัจจุบัน ซึ่งอยู่ในพื้นที่ของสุขาภิบาลตำบลกำแพง

ตามหลักฐานราชกิจจานุเบกษา เล่ม 72 ตอนที่ 74 ฉบับพิเศษหน้า 144 วันที่ 17 กันยายน 2498 ประกาศกระทรวงมหาดไทย เรื่องจัดตั้งสุขาภิบาลตำบลกำแพง อำเภอละงู จังหวัดสตูล โดยที่เห็นเป็นการสมควรให้ยกฐานะท้องถิ่นบางส่วนในตำบลกำแพง อำเภอละงู จังหวัดสตูล ขึ้นเป็นสุขาภิบาล ทำให้ท้องถิ่นแห่งนี้มีรูปแบบการบริหารแบบสุขาภิบาลมากระทั่งมีการเปลี่ยน แปลงอีกครั้ง โดยการเปลี่ยนฐานะเป็น “เทศบาลตำบลกำแพง” เมื่อวันที่ 25 พฤษภาคม 2542