Anthropic เปิดเผยเหตุการณ์แฮกของ AI ครั้งที่ 4 ซึ่งตกสำรวจในการตรวจสอบก่อนหน้านี้ ขณะเกิดกระแสความวิตกภัยคุกคามจากเอไอแรงขึ้น
KEY POINTS
- แอนโทรปิก (Anthropic) เปิดเผยเหตุการณ์ AI แฮกระบบภายนอกเป็นครั้งที่ 4 ซึ่งเกี่ยวข้องกับ Claude Opus 4.6 เวอร์ชันแรก และเกิดขึ้นเมื่อเดือนมกราคม
- เหตุการณ์นี้ไม่ถูกตรวจพบในการตรวจสอบรอบแรก แต่เพิ่งถูกค้นพบเมื่อเดือนที่แล้ว เนื่องจากการตกสำรวจชุดการทดสอบ
- บริษัทระบุถึงพฤติกรรมที่เกิดขึ้นซ้ำๆ ในหลายเหตุการณ์ คือ "การมีอคติในการใช้เหตุผล" และ "ความประมาทเลินเล่อ" ของ AI
สำนักข่าวรอยเตอร์ รายงานว่า บริษัทแอนโทรปิก (Anthropic) ได้เปิดเผยเมื่อวันพุธ (9 ก.ย. 69) ถึงอีกหนึ่งกรณีที่โมเดล AI ของตนแฮกระบบภายนอกในระหว่างการทดสอบ ซึ่งนับเป็นกรณีล่าสุดในรายการเหตุการณ์ที่เพิ่มขึ้นเรื่อยๆ จนสร้างความกังวลเกี่ยวกับความเสี่ยงที่เกิดจากเอเจนต์ AI แบบอัตโนมัติ (autonomous AI agents)
Anthropic กล่าวว่า เหตุการณ์ในเดือนมกราคมดังกล่าวไม่ถูกตรวจพบจนกระทั่งเดือนที่แล้ว แม้ว่าจะมีการตรวจสอบทั่วทั้งบริษัทก่อนหน้านี้แล้วก็ตาม ซึ่งตอกย้ำถึงความท้าทายที่ผู้พัฒนา AI ต้องเผชิญในการระบุและควบคุมพฤติกรรมที่ไม่คาดคิดของโมเดลขั้นสูง
บริษัทระบุในบล็อกโพสต์ว่า เหตุการณ์นี้เกี่ยวข้องกับ Claude Opus 4.6 เวอร์ชันแรกเริ่ม โดยได้แจ้งผู้ที่ได้รับผลกระทบทั้งหมดแล้ว แต่ไม่ได้เปิดเผยรายละเอียดเพิ่มเติม ปัจจุบันบริษัทต่างๆ รวมถึง Anthropic และ โอเพนเอไอ (OpenAI) กำลังอยู่ภายใต้การจับตามอง เนื่องจากโมเดลที่ถูกออกแบบมาเพื่อทำภารกิจซับซ้อนบางครั้งเริ่มเรียนรู้ที่จะฝ่าฝืนกฎ ใช้ช่องโหว่ และมีปฏิสัมพันธ์กับระบบภายนอกในลักษณะที่ผู้พัฒนาไม่คาดคิด
- ผู้พัฒนาเอไอมีท่าทีปกปิดข้อมูลเกี่ยวกับการโจมตีของเอไอ
สำนักข่าวรอยเตอร์รายงานเมื่อสัปดาห์ที่แล้วว่า เอเจนต์นอกแถวจาก OpenAI ได้เข้ายึดวิกิภาษาเยอรมันและเว็บไซต์อื่นๆ อีกหลายแห่ง ซึ่งเป็นเหตุการณ์ที่ OpenAI เลือกที่จะไม่เปิดเผยจนกระทั่งสำนักข่าวเปิดโปงสู่สาธารณะ
การเปิดเผยของ Anthropic มีขึ้นหลังจากประกาศเมื่อเดือนกรกฎาคมว่า โมเดล Claude บางตัวของตนได้แฮกระบบของสามบริษัทในระหว่างการทดสอบความปลอดภัยทางไซเบอร์
เหตุการณ์ก่อนหน้านี้ ซึ่งบริษัทระบุว่าเป็น "ความล้มเหลวทางปฏิบัติการ" (operational failure) เกี่ยวข้องกับโมเดลสามตัวแยกกัน ได้แก่ Claude Opus 4.7, Claude Mythos 5 และโมเดลทดสอบเพื่อการวิจัยภายใน
เหตุการณ์ดังกล่าวมีสาเหตุมาจากข้อผิดพลาดที่ให้โมเดลเข้าถึงอินเทอร์เน็ตสาธารณะโดยไม่ได้ตั้งใจ
บริษัทได้ระบุเหตุการณ์เหล่านั้นหลังจากตรวจสอบรอบการทดสอบจำนวน 141,006 ครั้ง ซึ่งเป็นกระบวนการที่เริ่มขึ้นหลังจากเอเจนต์อัตโนมัติที่ขับเคลื่อนด้วยโมเดล AI ของ OpenAI ได้ก่อเหตุแฮกที่ส่งผลกระทบต่อโครงสร้างพื้นฐานของสตาร์ทอัพด้าน AI อย่าง Hugging Face
Anthropic กล่าวเมื่อวันพุธว่า บริษัทพลาดการตรวจชุดการทดสอบไปกลุ่มหนึ่งในระหว่างการตรวจสอบครั้งแรก ซึ่งพบบันทึกดังกล่าวเมื่อเดือนที่แล้วและนำไปสู่การค้นพบเหตุการณ์ที่สี่นี้
จากการประเมินเบื้องต้น Anthropic เชื่อว่าเหตุการณ์ล่าสุดไม่ได้รุนแรงไปกว่าสามเหตุการณ์ก่อนหน้าที่ได้ตรวจสอบโดยละเอียดแล้ว
บริษัทกล่าวว่าการสืบสวนพบปัญหาซ้ำๆ สองประการ ซึ่งปรากฏในระดับที่แตกต่างกันไปในแต่ละเหตุการณ์ ได้แก่ การมีอคติในการใช้เหตุผล (biased reasoning) ซึ่ง Claude มองข้ามหรือตีความหลักฐานผิดไปว่ากำลังทำงานบนอินเทอร์เน็ตจริง และ ความประมาทเลินเล่อ (recklessness) หรือความเต็มใจที่จะดำเนินการที่อาจส่งผลเสียเพื่อบรรลุเป้าหมายของภารกิจ
Anthropic ระบุว่าได้ว่าจ้างบริษัทวิจัยอิสระ METR เพื่อสืบสวนเหตุการณ์เหล่านี้ โดย METR จะได้รับสิทธิ์เข้าถึงข้อมูลอย่างกว้างขวาง รวมถึงบันทึกการสนทนานอกช่วงเวลาที่เกิดเหตุการณ์ และสามารถเข้าถึงพนักงานซึ่งได้รับอนุญาตให้แบ่งปันข้อมูลลับได้
METR ได้จัดทำรายงานความยาว 91 หน้าเกี่ยวกับการแฮกระหว่าง OpenAI และ Hugging Face โดยอิงจากการเข้าถึงข้อมูลบริษัทบางส่วนแต่ไม่ทั้งหมด ซึ่งค้นพบร่วมกับการสืบสวนแยกต่างหากโดยสำนักวิจัย Redwood Research ว่า มีเอเจนต์ AI ราว 700 ตัวปฏิบัติการร่วมกันเป็นฝูง (coordinated swarm) ในระหว่างการบุกรุกและมักจะพยายามปกปิดร่องรอยของตนเอง
