สำนักข่าว Reuters รายงานอ้างแหล่งข่าวว่า OpenAI ค้นพบเหตุระบบปัญญาประดิษฐ์ (AI agents) หลุดรอดออกจากการควบคุมของระบบจำกัดพื้นที่ ขณะบริษัทกำลังสอบสวนเหตุการณ์เจาะระบบบริษัทเทคโนโลยี Hugging Face เมื่อต้นเดือนที่ผ่านมา ซึ่งสร้างความกังวลเกี่ยวกับขีดความสามารถของห้องปฏิบัติการเทคโนโลยีชั้นนำ ที่อาจกำลังสูญเสียการควบคุมเอไอที่ตนเองสร้างขึ้น
แหล่งข่าว 2 รายระบุว่า บริษัท OpenAI พบเหตุดังกล่าวระหว่างการสอบสวนสาเหตุว่า เอไอของบริษัทหลุดออกจากการทดสอบที่จำกัดสภาพแวดล้อมไว้ได้อย่างไร โดยบริษัทยังเร่งสอบสวนต่อไป ทั้งยังประเมินว่าขอบเขตของการหลุดรอดดังกล่าวยังอยู่ในวงจำกัด และเชื่อว่ายังไม่มีเอไอตัวใดสามารถเล็ดลอดออกไปนอกเครือข่ายของ OpenAI ได้
การสอบสวนของ OpenAI เริ่มขึ้นหลังเกิดเหตุเอไอของ OpenAI ทำงานผิดพลาด พยายามเจาะเข้าไปในเครือข่ายของบริษัท Hugging Face เป็นเวลาหลายวัน ส่งผลให้บัญชีผู้ใช้งานในบริษัทอื่นอีก 4 แห่งถูกเจาะระบบด้วย
สำนักข่าว Reuters ยังไม่สามารถระบุได้แน่ชัดว่าทีมสืบสวนของ OpenAI พบเหตุการณ์เพิ่มเติมจำนวนเท่าใด เกิดขึ้นในช่วงเวลาหรือสถานการณ์ใด แหล่งข่าว 3 รายระบุเพียงว่า OpenAI และผู้เชี่ยวชาญภายนอกกำลังตรวจสอบข้อมูลบันทึกระบบ (Log data) ตั้งแต่ช่วงต้นปี เพื่อทำความเข้าใจถึงสิ่งที่เกิดขึ้นอย่างละเอียด
การขยายผลสอบสวนของ OpenAI เกิดขึ้นไม่นานก่อนที่บริษัทคู่แข่งสำคัญอย่าง Anthropic จะออกมายอมรับว่า โมเดลเอไอของ Anthropic ก็เจาะระบบบริษัทอื่น 3 แห่งตั้งแต่เดือนเมษายนเช่นกัน
ผู้เชี่ยวชาญด้านความปลอดภัยเอไอประเมินว่า รายงานนี้สะท้อนว่าเอไอพัฒนาจนมีศักยภาพในการเป็นแฮกเกอร์อัตโนมัติ กำลังเติบโตแซงหน้าขีดความสามารถในการควบคุมของห้องปฏิบัติการให้อยู่ในกรอบ
มัวริซ คิโอโด นักคณิตศาสตร์จากศูนย์วิจัยความเสี่ยงแห่งมหาวิทยาลัยเคมบริดจ์ ระบุว่า "เรามีอุตสาหกรรมทั้งระบบที่คนออกแบบ พัฒนา และปล่อยเครื่องมือเหล่านี้ออกมา กลับไม่สามารถก้าวตามทันในการพัฒนาอย่างรับผิดชอบและรักษาความปลอดภัยให้กับระบบได้"
คิโอโดแสดงความกังวลต่อสัญญาณที่บ่งชี้ว่าทั้ง OpenAI และ Anthropic ไม่ได้เฝ้าระวังระบบเอไอของตนแบบเรียลไทม์ โดยมีรายงานก่อนหน้านี้ว่า OpenAI เพิ่งรู้ตัวว่าเอไอของตนเจาะระบบ Hugging Face ก็ต่อเมื่อฝั่ง Hugging Face จัดการระงับเหตุ ติดต่อสำนักงานสอบสวนกลาง (FBI) และประกาศเรื่องนี้ต่อสาธารณะแล้ว แม้ OpenAI จะแย้งว่ารายงานของรอยเตอร์คลาดเคลื่อน แต่ก็ไม่ได้ระบุว่าคลาดเคลื่อนในจุดใด
ในขณะเดียวกัน Anthropic ก็ออกแถลงการณ์ยอมรับเช่นกันว่า หากบริษัทมีการตรวจสอบข้อมูลบันทึกประเมินผลแบบเรียลไทม์ ก็คงจะช่วยให้พบปัญหาได้เร็วกว่านี้ แม้บริษัทจะมีระบบตรวจสอบแบบเรียลไทม์ แต่ไม่ได้นำมาใช้สำหรับภัยคุกคามลักษณะนี้ ซึ่งคิโอโดวิจารณ์ประเด็นนี้ว่า "ดูเหมือนพวกเขาจะไม่ได้มองดูมันด้วยซ้ำ"
พฤติกรรมที่เอไอทำงานนอกเหนือการควบคุมแม้จะอยู่ในวงจำกัด แต่ก็กำลังส่งผลให้เกิดข้อเรียกร้องให้ฝ่ายนิติบัญญัติและเจ้าหน้าที่รัฐทั่วทั้งยุโรปและสหรัฐ ผลักดันมาตรการตรวจสอบ จัดระเบียบ และกำกับดูแลห้องปฏิบัติการและโมเดลเอไออย่างเร่งด่วน
เมื่อวันศุกร์ที่ผ่านมา คณะกรรมาธิการยุโรปเปิดเผยว่า ได้เริ่มต้นเจรจากับทั้ง OpenAI และ Anthropic เกี่ยวกับเหตุการณ์การแฮกที่เกิดขึ้นแล้ว ขณะที่ประธานาธิบดีโดนัลด์ ทรัมป์ ของสหรัฐ กล่าวกับผู้สื่อข่าวว่า เรากำลังพิจารณาเรื่องการควบคุม
ด้าน มาร์ก วอร์เนอร์ แกนนำพรรคเดโมแครตในคณะกรรมาธิการข่าวกรองวุฒิสภาสหรัฐ ระบุทิ้งท้ายอย่างชัดเจนว่า เหตุการณ์ที่เกิดขึ้นกับ Anthropic "เป็นเครื่องยืนยันว่า ในทางนิติบัญญัติ รัฐบาลเดินมาถูกทางที่จะกำหนดให้มีการบังคับทดสอบขีดความสามารถของโมเดลเอไอขั้นสูงเหล่านี้ตามกฎหมาย"
