เมตา (Meta) บริษัทแม่ของเฟซบุ๊กและอินสตาแกรม ออกมาเปิดเผยเมื่อวันที่ 5 สิงหาคม 2569 ว่า โมเดลปัญญาประดิษฐ์ของบริษัทสามารถเจาะเข้าไปในระบบขององค์กรอื่นได้ระหว่างขั้นตอนการทดสอบด้านความปลอดภัยไซเบอร์ สาเหตุมาจากความผิดพลาดในการตั้งค่าระบบทดสอบ จนทำให้โมเดลได้รับสิทธิ์เข้าถึงอินเทอร์เน็ตโดยไม่ได้ตั้งใจ
การเปิดเผยครั้งนี้ทำให้เมตากลายเป็นบริษัทเอไอรายใหญ่รายที่ 3 ในรอบไม่กี่สัปดาห์ ที่ออกมายอมรับว่าโมเดลของตนเองเจาะระบบขององค์กรอื่นระหว่างการทดสอบ ต่อจากโอเพนเอไอ (OpenAI) และแอนโทรปิก (Anthropic) ที่เคยรายงานเหตุการณ์ในลักษณะใกล้เคียงกันมาก่อนหน้านี้ ทำให้ประเด็นเรื่องการควบคุมความสามารถของเอเจนต์เอไอ และความปลอดภัยของระบบทดสอบ กลายเป็นข้อกังวลที่ได้รับความสนใจมากขึ้นในอุตสาหกรรมเทคโนโลยีโดยรวม
โฆษกของเมตาระบุว่า สาเหตุของเหตุการณ์ครั้งนี้มาจากความผิดพลาดในการกำหนดค่าสภาพแวดล้อมการทดสอบของ Irregular ซึ่งเป็นบริษัทภายนอกที่เมตาว่าจ้างให้ดำเนินการทดสอบด้านความปลอดภัยโดยอิสระ ส่งผลให้โมเดลของบริษัทสามารถเชื่อมต่อกับอินเทอร์เน็ตได้ระหว่างการประเมินผล ทั้งที่ตามปกติควรถูกจำกัดการเข้าถึงไว้
โมเดลที่เกี่ยวข้องคือ Muse Spark เมตาระบุว่า เป็นหนึ่งในโมเดลที่ออกแบบมาสำหรับงานเขียนโปรแกรมและการทำงานแบบเอเจนต์เอไอ โดยระหว่างการทดสอบ โมเดลดังกล่าวสามารถใช้ประโยชน์จากช่องโหว่ด้านความปลอดภัยของระบบภายนอกแห่งหนึ่งได้สำเร็จ ในลักษณะใกล้เคียงกับกรณีที่เคยเกิดขึ้นกับโมเดลของบริษัทเอไอรายอื่นก่อนหน้านี้
อย่างไรก็ตาม ทั้งเมตาและ Irregular ยืนยันตรงกันว่า เหตุการณ์ดังกล่าวไม่ได้เกิดจากการที่โมเดลมีพฤติกรรมเหนือการควบคุม หรือสามารถหลุดออกจากระบบที่ถูกจำกัดไว้ได้ด้วยตัวเอง แต่เป็นผลจากข้อผิดพลาดในการตั้งค่าระบบทดสอบ ซึ่งเปิดทางให้โมเดลเข้าถึงอินเทอร์เน็ตโดยไม่ได้ตั้งใจ
Irregular ระบุว่า ปัญหาที่เกิดขึ้นเป็นลักษณะเดียวกับเหตุการณ์ที่แอนโทรปิกเปิดเผยเมื่อสัปดาห์ก่อน ซึ่งในกรณีนั้น โมเดลของบริษัทได้รับสิทธิ์เชื่อมต่อกับอินเทอร์เน็ตจากความผิดพลาดของสภาพแวดล้อมการทดสอบ ก่อนจะสามารถเข้าถึงระบบขององค์กรภายนอกได้ 3 แห่งระหว่างการประเมินความสามารถด้านไซเบอร์
บริษัทอธิบายเพิ่มเติมว่า เหตุการณ์ครั้งนี้ไม่ใช่กรณีที่เรียกว่า Sandbox Escape หรือการที่เอไอสามารถหลุดออกจากสภาพแวดล้อมที่ถูกจำกัดไว้เพื่อเข้าถึงระบบภายนอกได้ด้วยตัวเอง และไม่ได้เป็นการโจมตีทางไซเบอร์ที่มีความซับซ้อนสูง แต่เป็นผลจากการกำหนดสิทธิ์การเข้าถึงที่ผิดพลาดระหว่างการทดสอบเท่านั้น
“ขณะนี้ไม่พบปัญหาด้านความปลอดภัยที่ยังคงค้างอยู่ และกำลังจัดทำเอกสารแนวปฏิบัติ เพื่อเผยแพร่แนวทางการทดสอบด้านความปลอดภัยไซเบอร์ของเอไออย่างปลอดภัยให้กับอุตสาหกรรม” Irregular กล่าว
จากโอเพนเอไอถึงแอนโทรปิก เหตุการณ์คล้ายกันเกิดขึ้นต่อเนื่อง
ก่อนหน้ากรณีของเมตาเพียง 2 สัปดาห์ ทั้งโอเพนเอไอและแอนโทรปิก ซึ่งเป็น 2 บริษัทผู้นำด้านเอไอ ต่างก็ได้ออกมารายงานเหตุการณ์ในลักษณะเดียวกัน คือ โมเดลของตนเองเจาะเข้าไปในระบบขององค์กรอื่นระหว่างขั้นตอนการทดสอบ
โอเพนเอไอ ผู้พัฒนา ChatGPT เปิดเผยว่า เอเจนต์เอไอของบริษัทสามารถโจมตีบริการออนไลน์ที่เปิดให้สาธารณะใช้งานได้หลายแห่งระหว่างการประเมินความสามารถของระบบ หนึ่งในนั้นคือ Hugging Face แพลตฟอร์มยอดนิยมที่นักพัฒนาใช้เผยแพร่และทดลองโมเดลเอไอ
การเปิดเผยของโอเพนเอไอทำให้แอนโทรปิกตัดสินใจตรวจสอบโมเดลของตนเองเพิ่มเติมอย่างจริงจัง จนพบว่า Claude ซึ่งเป็นโมเดลหลักของบริษัท ก็แสดงพฤติกรรมในลักษณะใกล้เคียงกัน โดยสามารถเข้าถึงและโจมตีระบบของหลายองค์กรได้ หลังเกิดความผิดพลาดในการตั้งค่าสภาพแวดล้อมการทดสอบ จนทำให้โมเดลได้รับสิทธิ์เชื่อมต่อกับอินเทอร์เน็ต ซึ่งเป็นเหตุการณ์เดียวกับที่ Irregular นำมาเปรียบเทียบกับกรณีของเมตาในเวลาต่อมา
ขณะเดียวกัน มีผู้สังเกตการณ์ตั้งข้อสังเกตถึงจังหวะเวลาของการเปิดเผยข้อมูลเหล่านี้ เนื่องจากเกิดขึ้นในช่วงที่การแข่งขันระหว่างบริษัทเอไอรายใหญ่กำลังเข้มข้น ทั้งโอเพนเอไอกับแอนโทรปิกต่างมีรายงานว่า กำลังเตรียมความพร้อมสำหรับการเข้าจดทะเบียนในตลาดหลักทรัพย์ อาจส่งผลให้มูลค่าของแต่ละบริษัทแตะระดับประมาณ 1 ล้านล้านดอลลาร์
หน่วยงานความมั่นคงเอไอของอังกฤษพบโมเดลพยายามปลอมตัวเป็นมนุษย์
นอกจากกรณีที่โมเดลเอไอของหลายบริษัทสามารถเข้าถึงระบบภายนอกระหว่างการทดสอบแล้ว ในสัปดาห์เดียวกัน สถาบันความมั่นคงปลอดภัยด้านเอไอแห่งสหราชอาณาจักร (AI Security Institute: AISI) ยังเปิดเผยผลการประเมินความสามารถของโมเดลเอไอหลายตัว โดยพบว่า เมื่อได้รับภารกิจบางรูปแบบ โมเดลบางตัวพยายามใช้วิธีการที่คล้ายกับเทคนิคทางวิศวกรรมสังคม ซึ่งเป็นการหลอกลวงหรือชักจูงมนุษย์เพื่อให้ได้ข้อมูลหรือสิทธิ์การเข้าถึงระบบ
ตามรายงานของ AISI โมเดลบางตัวพยายามสร้างบัญชีผู้ใช้ปลอมและสวมรอยเป็นบุคคลจริง เพื่อเพิ่มโอกาสในการเข้าถึงบริการหรือข้อมูลที่ต้องการ โดยกรณีที่หน่วยงานระบุว่ามีความซับซ้อนมากที่สุด คือการทดสอบที่เกี่ยวข้องกับโมเดล Mythos ของแอนโทรปิก ซึ่งพยายามส่งข้อความส่วนตัวผ่านบัญชีปลอมที่เลียนแบบตัวตนของบุคคลจริง เพื่อขอเข้าถึงบริการแห่งหนึ่ง
AISI ระบุว่า การทดสอบลักษณะนี้มีเป้าหมายเพื่อศึกษาว่า เมื่อโมเดลได้รับเป้าหมายที่ต้องบรรลุผลสำเร็จ มันจะเลือกใช้วิธีการใดบ้างในการดำเนินการ และสามารถแสดงพฤติกรรมที่คล้ายกับการหลอกลวงหรือการปลอมแปลงตัวตนได้หรือไม่
อย่างไรก็ตาม แอนโทรปิกชี้แจงว่า ผลการทดสอบดังกล่าวไม่ได้สะท้อนพฤติกรรมของโมเดลที่เปิดให้ลูกค้าใช้งานจริงในปัจจุบัน ขณะที่โอเพนเอไอซึ่งมีโมเดลเข้าร่วมการประเมินของ AISI เช่นกัน ระบุว่า การทดสอบของหน่วยงานถูกออกแบบให้เป็นสถานการณ์เฉพาะทางด้านความปลอดภัย และไม่ได้สะท้อนรูปแบบการใช้งานทั่วไปของผู้ใช้ส่วนใหญ่
ความต่างระหว่างระบบเปิดทางให้ กับเอไอหาทางเข้าเอง
แม้เหตุการณ์ที่เกิดขึ้นกับเมตา แอนโทรปิก และโอเพนเอไอ จะมีผลลัพธ์คล้ายกัน คือโมเดลสามารถเข้าถึงระบบภายนอกได้ระหว่างการทดสอบ แต่สำนักข่าวรอยเตอร์สชี้ว่า สาเหตุของแต่ละกรณีมีความแตกต่างกันอย่างมีนัยสำคัญ
กรณีของเมตาและแอนโทรปิก ทั้งสองบริษัทระบุว่า ปัญหาเกิดจากความผิดพลาดในการตั้งค่าสภาพแวดล้อมการทดสอบ ทำให้โมเดลได้รับสิทธิ์เชื่อมต่อกับอินเทอร์เน็ตโดยไม่ตั้งใจ เปรียบได้กับสถานการณ์ที่ประตูซึ่งควรถูกปิดไว้กลับถูกเปิดทิ้งไว้จากความผิดพลาดของระบบหรือผู้ดูแล
แต่กรณีของโอเพนเอไอมีลักษณะแตกต่างออกไป โดยบริษัทระบุว่าเอเจนต์เอไอของตนสามารถค้นพบและใช้ประโยชน์จากช่องโหว่รูปแบบใหม่ได้ด้วยตัวเองระหว่างการทดสอบด้านความปลอดภัยไซเบอร์ จนสามารถเข้าถึงอินเทอร์เน็ตได้สำเร็จ โดยไม่ได้เกิดจากความผิดพลาดในการกำหนดค่าระบบ
ความแตกต่างดังกล่าวทำให้หลายฝ่ายจับตาเป็นพิเศษ เพราะสะท้อนว่าเอไอไม่ได้เพียงใช้สิทธิ์ที่ได้รับเท่านั้น แต่ยังสามารถวิเคราะห์ระบบ ค้นหาจุดอ่อน และวางลำดับขั้นตอนเพื่อบรรลุเป้าหมายที่ได้รับมอบหมายได้ด้วยตัวเองมากขึ้น
ด้าน Irregular ยืนยันกับรอยเตอร์สอีกครั้งว่า เหตุการณ์ของเมตาไม่ได้เป็นกรณีที่โมเดลหลุดออกจากสภาพแวดล้อมควบคุม และไม่ได้เป็นการโจมตีทางไซเบอร์ที่มีความซับซ้อนสูง แต่เป็นผลจากข้อผิดพลาดในการกำหนดค่าระบบทดสอบเท่านั้น
แม้ที่มาของเหตุการณ์จะต่างกัน แต่รอยเตอร์สมองว่า กรณีทั้งหมดสะท้อนแนวโน้มเดียวกัน คือความสามารถของเอเจนต์เอไอด้านการวิเคราะห์ระบบ การค้นหาช่องโหว่ และการดำเนินการหลายขั้นตอนกำลังพัฒนาอย่างรวดเร็ว จนกลายเป็นความท้าทายใหม่ของวงการความมั่นคงไซเบอร์
เหตุการณ์ต่อเนื่องเพิ่มแรงกดดันต่อการกำกับดูแลเอไอ
การที่บริษัทเอไอรายใหญ่ทั้งสามแห่งต่างออกมาเปิดเผยเหตุการณ์ที่โมเดลของตนเข้าถึงหรือดำเนินการกับระบบขององค์กรอื่นได้ระหว่างการทดสอบในช่วงเวลาไล่เลี่ยกัน กำลังทำให้ประเด็นด้านความปลอดภัยของเอไอกลับมาได้รับความสนใจมากขึ้นอีกครั้งในวงกว้าง
รอยเตอร์สระบุว่า เหตุการณ์เหล่านี้อาจเพิ่มแรงกดดันให้หน่วยงานภาครัฐของสหรัฐและหน่วยงานกำกับดูแลต่างๆ เร่งพิจารณามาตรการจัดการความเสี่ยงที่เกี่ยวข้องกับเอไอให้รัดกุมยิ่งขึ้น โดยเฉพาะในช่วงเวลาที่บริษัทพัฒนาเอไอรายใหญ่กำลังแข่งขันกันพัฒนาโมเดลที่มีความสามารถสูงขึ้นอย่างต่อเนื่อง ท่ามกลางแผนการเข้าตลาดหลักทรัพย์ที่กำลังจะเกิดขึ้น
ขณะเดียวกัน ประเด็นเรื่องความปลอดภัยของเอไอก็ยังคงเป็นหัวข้อที่ถูกถกเถียงอยู่ภายในอุตสาหกรรมมาโดยตลอด หลายปีที่ผ่านมา ผู้บริหาร นักวิจัย และบุคคลสำคัญจากบริษัทพัฒนาเอไอหลายแห่ง รวมถึงโอเพนเอไอและแอนโทรปิกเอง ต่างเคยออกมาเรียกร้องให้ภาครัฐและอุตสาหกรรมให้ความสำคัญกับการประเมินและลดความเสี่ยงของเทคโนโลยีอย่างจริงจัง ก่อนที่ระบบซึ่งมีความสามารถสูงขึ้นเรื่อยๆ จะถูกนำไปใช้งานในวงกว้างมากยิ่งขึ้นในอนาคต
อ้างอิง: CNN BBC The Guardian และ Reuters
