เอเจนต์ปัญญาประดิษฐ์ของ OpenAI ที่หลุดออกไปเจาะระบบของสตาร์ตอัป Hugging Face Inc เมื่อต้นเดือนนี้ ได้ไปทำให้ระบบของลูกค้ารายหนึ่งของบริษัทเทค Modal ถูกเจาะด้วย
บลูมเบิร์ก รายงานว่า เอเจนต์ปัญญาประดิษฐ์ (AI) ของ OpenAI ที่เคยเจาะระบบของบริษัทสตาร์ตอัป Hugging Face Inc เมื่อต้นเดือนที่ผ่านมา ได้เข้าถึงและสร้างความเสียหายให้กับระบบของลูกค้าในบริษัทเทคโนโลยีอีกแห่งอย่าง Modal ด้วยเช่นกัน
อักชัต บุบนา (Akshat Bubna) ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี (CTO) ของแพลตฟอร์มคลาวด์สำหรับนักพัฒนา ระบุในแถลงการณ์ว่า เอเจนต์ดังกล่าวได้เจาะเข้าไปในสภาพแวดล้อมการทดสอบแบบปิดที่เรียกว่า แซนด์บ็อกซ์ (sandbox) ซึ่ง Modal กำลังรันให้กับลูกค้า โดยลูกค้ารายนี้ของ Modal ได้ตั้งค่าอินเทอร์เฟซให้เข้าถึงได้สาธารณะ ส่งผลให้ทุกคนบนอินเทอร์เน็ตสามารถใช้แซนด์บ็อกซ์ดังกล่าวเพื่อรันโค้ดได้
"ช่องทางนี้ถูกเอเจนต์เกเร (rogue agent) นำไปใช้" เขากล่าว "แต่ตัวแพลตฟอร์มของ Modal ไม่ได้ถูกเจาะระบบแต่อย่างใด"
OpenAI ปฏิเสธที่จะให้ความเห็นเกี่ยวกับเหตุการณ์นี้ ทางด้าน Hugging Face เคยระบุในโพสต์บล็อกก่อนหน้านี้ว่า ระบบของ OpenAI ได้เจาะเข้าไปในแซนด์บ็อกซ์ที่โฮสต์อยู่บนโครงสร้างพื้นฐานของผู้ให้บริการบุคคลที่สาม จากนั้นจึงเปิดฉากการโจมตีเป็นวงกว้างขึ้นจากจุดนั้น โดยไม่ได้ระบุชื่อผู้ให้บริการบุคคลที่สามดังกล่าว
เมื่อสัปดาห์ที่แล้ว OpenAI สร้างความตกตะลึงให้กับวงการความปลอดภัยทางไซเบอร์ ด้วยการเปิดเผยว่า บริษัทได้ทดสอบขีดความสามารถของโมเดล AI ขั้นสูงหลายตัวร่วมกัน และได้แฮกระบบของ Hugging Face โดยไม่ได้ตั้งใจในระหว่างกระบวนการนั้น ทั้งนี้ OpenAI ได้ตั้งใจรันโมเดลโดยลดเกราะป้องกัน (guardrails) ลง เพื่อทดสอบทักษะทางไซเบอร์ของ AI
สำนักข่าวรอยเตอร์ได้รายงานเกี่ยวกับการที่ลูกค้าของ Modal ถูกเจาะระบบไปเมื่อช่วงต้นของวันอังคารที่ผ่านมา
นับตั้งแต่ยอมรับเรื่องการแฮกดังกล่าว OpenAI โดนกระแสวิพากษ์วิจารณ์อย่างหนักจากผู้เชี่ยวชาญด้านไซเบอร์ ซึ่งมองว่าบริษัทควรใช้ความระมัดระวังให้มากกว่านี้ในการประเมินผลโมเดล
"เมื่อคุณเป็นนักวิจัยภัยคุกคามที่พยายามค้นหาภัยคุกคาม คุณจะไม่ปล่อยมัลแวร์ออกไปและปล่อยให้มันทำอะไรก็ได้ตามใจชอบ" ซันเจย์ เบรี (Sanjay Beri) ประธานเจ้าหน้าที่บริหารของ Netskope Inc บริษัทด้านความปลอดภัยทางไซเบอร์ กล่าวในการให้สัมภาษณ์ "ทำไมสิ่งนั้นถึงไม่ถูกจัดให้อยู่ในแซนด์บ็อกซ์ที่เหมาะสมตั้งแต่แรก?"
หลังจากเกิดเหตุการณ์ดังกล่าว OpenAI ได้ให้คำมั่นว่าจะปรับปรุงมาตรการคุ้มกันให้รัดกุมยิ่งขึ้นสำหรับการฝึกฝนและการประเมินผลในอนาคต
