ตำบลเกาะยาวน้อยมีลักษณะเป็นเกาะอยู่กลางทะเล อยู่บริเวณอ่าวพังงา ทางทิศใต้ของจังหวัดพังงา ประมาณ 43 กิโลเมตร พื้นที่ส่วนใหญ่เป็นภูเขาทอดยาวตามแนวเหนือใต้ ทางด้านตะวันออกมีที่ราบชายฝั่งทะเล ที่ราบตามหุบเขา ซึ่งประชาชนใช้ทำการเกษตร เช่น ทำสวนยางพารา,สวนมะพร้าว,สวนมะม่วงหิมพานต์ ชายฝั่งรอบเกาะเหมาะแก่การประกอบอาชีพประมงขนาดเล็ก ซึ่งทำรายได้ให้แก่ประชาชนในพื้นที่ และยังมีชายหาดที่สวยงามเป็นแหล่งท่องเที่ยวที่สำคัญของตำบลเกาะยาวน้อยที่ทำการองค์การบริหารส่วนตำบลเกาะยาวน้อย อยู่ห่างจากที่ตั้งที่ว่าการอำเภอเกาะยาว ประมาณ 2.5 กิโลเมตร

องค์การบริหารส่วนตำบลเกาะยาวน้อย มีเขตพื้นที่รับผิดชอบ ประมาณ 46.46 ตารางกิโลเมตร หรือประมาณ 28,021.03 ไร่

ทิศเหนือ ติดต่อกับอ่าวพังงาและทะเลอันดามันฝั่งจังหวัดกระบี่
ทิศใต้ ติดต่อกับตำบลเกาะยาวใหญ่
ทิศตะวันออก ติดต่อกับทะเลอันดามันด้านจังหวัดกระบี่
ทิศตะวันตก ติดต่อกับทะเลอันดามันด้านอำเภอตะกั่วทุ่ง

ตำบลเกาะยาวน้อย มีอากาศที่เย็นสบายเพราะได้รับอิทธิพลจากลมทะเล มีฝนตกในประมาณปานกลางตลอดทั้งปี มีลงมรสุมตะวันออกเฉียงใต้พัดผ่านช่วงเดือนพฤษภาคม-กันยายน ลมมรสุมตะวันออกเฉียงเหนือพัดผ่านช่วงเดือนตุลาคม-เมษายน ในช่วงมรสุมทำให้การเดินทางติดต่อกับภายนอกเกาะเป็นไปด้วยความยากลำบาก

ความเป็นมาในอดีต มีการเล่าสืบกันมาว่า การตั้งถิ่นฐานของชาวเกาะยาว ไม่ปรากฏหลักฐานที่ชัดเจนว่าเริ่มขึ้นเมื่อใด แต่มีการเล่าสืบกันมาว่า เป็นกลุ่มชาวมุสลิมที่อาศัยตั้งบ้านเรือนอยู่ตามชายฝั่งทะเลเมืองตรัง เมืองสตูล และตามเมืองอื่น กลัวภัยสงครามพม่ารบไทยเมื่อประมาณ ปี พ.ศ. ๒๓๒๘ ในสมัยพระบาทสมเด็จพระพุทธยอดฟ้าจุฬาโลกมหาราช โดยอพยพเลียบชายฝั่งทะเลไปจนกระทั่งได้พบเกาะยาวน้อย และเกาะยาวใหญ่ เห็นว่าเกาะทั้งสองนี้มีทำเลเหมาะสมที่จะหลบภัย จึงได้ยึดเอาเกาะเป็นที่หลบภัยและตั้งหลักแหล่งทำมาหากินประกอบอาชีพ ถือกันว่าประชาชนกลุ่มนี้เป็นบรรพบุรุษชนรุ่นแรกของชาวเกาะยาวมาตราบปัจจุบัน จากสำเนียงที่พูดคาดว่าบรรพบุรุษของชาวเกาะยาวน้อย มาจากจังหวัดตรัง ส่วนเกาะยาวใหญ่ มาจากจังหวัดสตูล

ต้นตระกูลหลักของคนเกาะยาวที่ย้ายถิ่นฐานมาจากตรัง มีตระกูล เริงสมุทร,ศรีสมุทร,กล้าสมุทร, นิลสมุทร และโรมินทร์ ต่อมามีกลุ่มคนจีนและอิสลามจากจังหวัดพังงาและภูเก็ตเข้าอยู่อาศัยเป็นจำนวนมาก

องค์การบริหารส่วนตำบลเกาะยาวน้อย จัดตั้งขึ้นเมื่อ พ.ศ. 2539 ตั้งอยู่เลขที่ 21/2 หมู่ที่ 3 ตำบลเกาะยาวน้อย อำเภอเกาะยาว จังหวัดพังงา