Google ออกมาเปิดเผยเป็นครั้งแรกว่า โมเดลปัญญาประดิษฐ์ Gemini ได้เจาะระบบเข้าสู่เครือข่ายคอมพิวเตอร์บริษัทอื่น 3 แห่งโดยไม่ได้รับอนุญาตเมื่อเดือน พ.ค. ที่ผ่านมา
KEY POINTS
- Google ยอมรับว่า AI Gemini แฮกระบบของ 3 บริษัทโดยไม่ได้รับอนุญาต เนื่องจากข้อผิดพลาดระหว่างการทดสอบความปลอดภัยที่ทำให้ AI สามารถเชื่อมต่ออินเทอร์เน็ตได้
- ช่องโหว่ที่เกิดขึ้นเป็นปัญหาเดียวกันกับที่ทำให้ AI ของบริษัทใหญ่อื่นๆ เช่น OpenAI และ Anthropic หลุดออกจากสภาพแวดล้อมการทดสอบเช่นกัน
- โมเดล AI ได้สั่งยุติการกระทำด้วยตัวเอง เมื่อตระหนักว่าระบบที่เจาะเข้าไปเป็นของบริษัทจริง ไม่ใช่สภาพแวดล้อมจำลอง
- เหตุการณ์นี้กระตุ้นให้เกิดการเรียกร้องให้ชะลอการพัฒนา AI ขั้นสูง เพื่อทบทวนมาตรการด้านความปลอดภัยและความรับผิดชอบ
Google ออกมาเปิดเผยเป็นครั้งแรกเมื่อวันที่ 18 ก.ย. ที่ผ่านมาว่า โมเดลปัญญาประดิษฐ์ Gemini ได้เจาะระบบเข้าสู่เครือข่ายคอมพิวเตอร์ส่วนบุคคลของบริษัทอื่น 3 แห่งโดยไม่ได้รับอนุญาตเมื่อเดือน พ.ค. ที่ผ่านมา เป็นผลมาจากข้อผิดพลาดระหว่างการทดสอบระบบรักษาความปลอดภัย ซึ่งเปิดช่องให้เอไอสามารถเชื่อมต่ออินเทอร์เน็ต สุ่มเดารหัสผ่าน และแทรกซึมเข้าสู่ระบบจริงได้โดยอัตโนมัติ ก่อนที่ตัวโมเดลจะสั่งยุติการกระทำดังกล่าวด้วยตัวเองเมื่อตระหนักได้ว่าระบบเหล่านั้นไม่ใช่สภาพแวดล้อมจำลอง
สำนักข่าว CNBC รายงานว่า เหตุการณ์นี้เกิดขึ้นระหว่างการทดสอบความปลอดภัยทางไซเบอร์แบบ Capture-the-flag ซึ่งดำเนินการโดย Irregular สตาร์ตอัปจากอิสราเอล เดิมทีกำหนดให้เอเจนต์เอไอของ Google ปฏิบัติการในระบบปิดและไม่สามารถเข้าถึงอินเทอร์เน็ตวงกว้างได้ แต่บั๊กกลับเปิดช่องให้โมเดลสามารถเชื่อมต่อกับโลกภายนอก
เฮเธอร์ แอดกินส์ รองประธานฝ่ายวิศวกรรมความปลอดภัยของ Google ชี้แจงว่า โมเดลได้ค้นหาข้อมูลสาธารณะออนไลน์ สุ่มเดารหัสผ่าน และใช้ฐานข้อมูลรหัสผ่านสาธารณะถึง 2 ครั้งเพื่อพยายามเจาะเข้าเว็บไซต์ที่มันคิดว่าเป็นส่วนหนึ่งของการทดสอบ แต่เมื่อเอไอตรวจพบว่าระบบที่เจาะเข้าไปนั้นเป็นระบบของบริษัทจริง จึงได้ยุติการกระทำทั้ง 3 กรณีทันที
การเปิดเผยข้อมูลครั้งนี้เกิดขึ้นท่ามกลางรัฐบาลสหรัฐและซิลิคอนแวลลีย์ที่กำลังจับตาพฤติกรรมปัญญาประดิษฐ์ที่เหนือการควบคุม เนื่องจากในช่วงไม่กี่สัปดาห์ที่ผ่านมา บริษัทยักษ์ใหญ่อย่าง OpenAI, Anthropic และ Meta ต่างก็รายงานเหตุการณ์ในลักษณะเดียวกัน ที่โมเดลเอไอของตนหลุดออกจากสภาพแวดล้อมการทดสอบและพยายามแฮกเข้าระบบคอมพิวเตอร์ของบริษัทอื่นโดยไม่ได้รับอนุญาต
โฆษกของ Irregular ยืนยันว่า กรณีของ Google มีสาเหตุมาจากช่องโหว่เดียวกันกับที่ทำให้โมเดลของบริษัทอื่นๆ หลุดออกสู่อินเทอร์เน็ต ซึ่งทางบริษัทได้แจ้งให้ห้องปฏิบัติการวิจัยทุกแห่งรวมถึงหน่วยงานที่ได้รับผลกระทบทราบแล้วตั้งแต่ช่วงปลายเดือน ก.ค. เพื่อดำเนินการสืบสวน
ล่าสุด Google ได้ร่วมมือกับ Irregular เพื่อปรับปรุงกระบวนการทดสอบใหม่ทั้งหมดแล้ว แม้โฆษกของ Google จะปฏิเสธที่จะระบุชื่อรุ่นย่อยที่แน่ชัดของโมเดล Gemini ที่ก่อเหตุในครั้งนี้ก็ตาม
ด้าน ดาริโอ อโมเด ซีอีโอของ Anthropic ได้ออกมาเรียกร้องให้ภาคอุตสาหกรรมร่วมกันชะลอการพัฒนาโมเดลเอไอขั้นสูงสุดออกไปก่อน จนกว่าบริษัทต่างๆ จะสามารถรับประกันความปลอดภัยของระบบได้อย่างแท้จริง ซึ่งสอดคล้องกับท่าทีของตัวแทนจาก Google ที่เน้นย้ำว่าเหตุการณ์เหล่านี้คือข้อพิสูจน์ที่ชี้ให้เห็นถึงความจำเป็นเร่งด่วนในการฝึกฝนโมเดลเอไอให้แสดงพฤติกรรมอย่างรับผิดชอบต่อไป
