AI ไม่ได้คิดร้าย แต่ทำไมถึงโจมตีระบบได้?

วงการไซเบอร์ซีเคียวริตี้กำลังเผชิญกับสัญญาณเตือนครั้งใหม่ เมื่อ Meta ยืนยันว่าโมเดลปัญญาประดิษฐ์ (AI) ของบริษัทสามารถใช้ประโยชน์จากช่องโหว่ด้านความปลอดภัยของบริการจากบุคคลที่สามได้ระหว่างการทดสอบ

โดยพบว่าการตั้งค่าที่ผิดพลาดทำให้โมเดล AI ของ Meta สามารถเข้าถึงอินเทอร์เน็ตได้ เหตุการณ์นี้ยังมีลักษณะคล้ายคลึงกับเหตุการณ์ที่เกี่ยวข้องกับโมเดลของ OpenAI และ Anthropic ทำให้ประเด็นเรื่องความปลอดภัยของ AI Agent และการควบคุมความสามารถของโมเดลกลายเป็นเรื่องที่ภาคไซเบอร์ซีเคียวริตี้ให้ความสนใจอย่างมาก

เหตุการณ์ของ Meta เกิดขึ้นในช่วงเวลาเดียวกับที่ OpenAI เปิดเผยข้อมูลเกี่ยวกับเหตุการณ์ระหว่างการทดสอบอีกสองกรณี โดยกรณีหนึ่งการทดสอบมีลักษณะคล้าย Capture-the-Flag ซึ่งถูกออกแบบให้ทำงานภายในสภาพแวดล้อมที่ควรแยกออกจากอินเทอร์เน็ต

แต่ความผิดพลาดในการตั้งค่าทำให้โมเดลสามารถเข้าถึง Public Internet ได้ ส่วนอีกเหตุการณ์มีการตรวจพบการถ่ายโอนข้อมูลผิดปกติออกจากระบบวิจัยระหว่างการประเมินความปลอดภัยทางไซเบอร์ตามปกติ เมื่อรวมกับเหตุการณ์ที่เกี่ยวข้องกับโมเดลของ Anthropic และเหตุการณ์ล่าสุดของ Meta จึงเริ่มเห็นรูปแบบที่มีความคล้ายคลึงกัน

นั่นคือ AI ได้รับเป้าหมาย เครื่องมือ และช่องทางในการเข้าถึงระบบ แต่ขาดข้อจำกัดที่เพียงพอในการป้องกันไม่ให้การดำเนินการขยายออกไปนอกขอบเขตที่กำหนด

ประเด็นสำคัญจึงไม่ใช่ว่า AI "มีเจตนาร้าย" หรือกำลังตัดสินใจที่จะกลายเป็นอาชญากรไซเบอร์ด้วยตัวเอง แต่เป็นเรื่องของการออกแบบระบบและสิทธิ์ที่มนุษย์มอบให้กับ AI หากโมเดลได้รับ Internet Access, Tools และ Permissions มากเกินความจำเป็น รวมถึงได้รับภารกิจที่ต้องทำให้สำเร็จโดยไม่มีขอบเขตที่เหมาะสม AI อาจสร้างผลลัพธ์ที่ผู้พัฒนาไม่ได้คาดการณ์ไว้ล่วงหน้า

สิ่งที่สร้างความกังวลในอุตสาหกรรมคือเหตุการณ์เหล่านี้ไม่ได้เกิดขึ้นจาก AI เพียงตัวเดียว และไม่ได้เกิดขึ้นในบริบทที่แตกต่างกันอย่างสิ้นเชิง แต่เกิดกับบริษัท AI รายใหญ่หลายแห่งภายในช่วงเวลาไม่นาน ทำให้เกิดคำถามถึงแนวทางการทดสอบและการแข่งขันด้านความสามารถของโมเดล AI ว่าการพยายามผลักดันให้โมเดลทำงานได้มากขึ้นและมีความเป็นอิสระมากขึ้น กำลังดำเนินไปเร็วกว่าการพัฒนาระบบควบคุมหรือไม่

ผู้เชี่ยวชาญด้านความปลอดภัยบางรายยังตั้งข้อสังเกตว่า การลดข้อจำกัดของระบบระหว่างการทดสอบเพื่อดูว่า AI สามารถทำอะไรได้บ้าง อาจมีความเสี่ยงหากสภาพแวดล้อมของการทดสอบไม่ได้ถูกแยกออกจากระบบจริงอย่างสมบูรณ์

กรณีของ Meta จึงสะท้อนให้เห็นว่าโมเดล AI ไม่จำเป็นต้องมีความสามารถระดับสูงมากในการสร้างผลกระทบต่อระบบภายนอก เพียงได้รับ Access ที่เหมาะสม เครื่องมือที่เพียงพอ และเป้าหมายที่ชัดเจน ก็อาจสามารถดำเนินการต่อเนื่องจนพบหรือใช้ประโยชน์จากช่องโหว่ได้

ความเสี่ยงจึงไม่ได้อยู่ที่ Intelligence ของ AI เพียงอย่างเดียว แต่อยู่ที่ Autonomy + Access + Authority หรือระดับความเป็นอิสระ ช่องทางการเข้าถึง และสิทธิ์ในการดำเนินการที่องค์กรอนุญาตให้ AI ด้วย

บทเรียนสำคัญจากเหตุการณ์ Meta, OpenAI และ Anthropic จึงนำไปสู่เรื่อง AI Governance โดยตรง เมื่อองค์กรนำ AI Agent มาใช้งานจริงและเปิดให้สามารถเข้าถึงข้อมูล ระบบ แอปพลิเคชัน หรือบริการภายนอกได้ การกำหนดนโยบายและขอบเขตการใช้งานจะต้องถูกวางตั้งแต่ขั้นตอนการออกแบบ ไม่ใช่รอให้เกิดเหตุการณ์แล้วจึงค่อยตรวจสอบ

สิทธิ์ของ AI ควรอยู่ภายใต้หลัก Least Privilege คือให้เฉพาะสิทธิ์ที่จำเป็นต่อการทำงานเท่านั้น พร้อมกำหนดขอบเขตของ Internet Access, API, Credentials และข้อมูลที่สามารถเข้าถึงได้อย่างชัดเจน

นอกจากนี้ควรมี Human Oversight สำหรับกิจกรรมที่มีความเสี่ยงสูง รวมถึงระบบ Monitoring แบบ Real-Time ที่สามารถตรวจสอบได้ว่า AI กำลังดำเนินการอะไร ติดต่อกับระบบใด และมีการส่งหรือดึงข้อมูลประเภทใดออกจากระบบ

ขณะเดียวกัน แนวคิด Privacy by Design และ Security by Design ควรถูกนำมาใช้กับ AI Agent ตั้งแต่ต้น เพื่อให้ความปลอดภัยเป็นส่วนหนึ่งของสถาปัตยกรรม ไม่ใช่สิ่งที่นำมาติดตั้งเพิ่มเติมภายหลังครับ