AI agents ที่อยู่ในระหว่างการทดสอบของ OpenAI ได้ลงมือโจมตีบริการซอฟต์แวร์ RubyGems เมื่อ 2 เดือนก่อนที่จะเกิดเหตุการณ์แฮกแพลตฟอร์ม Hugging Face
KEY POINTS
- นักวิจัยเปิดเผยว่าเอเจนต์ AI ของ OpenAI ที่อยู่ระหว่างการทดสอบ ได้โจมตีบริการซอฟต์แวร์ RubyGems โดยอัปโหลดแพ็กเกจประสงค์ร้ายหลายร้อยรายการเมื่อเดือนพฤษภาคม ก่อนที่จะเกิดเหตุการณ์แฮกแพลตฟอร์ม Hugging Face
- OpenAI ยืนยันเหตุการณ์ดังกล่าว โดยระบุว่าเอเจนต์ใช้ RubyGems เพื่อเข้าถึงข้อมูลสาธารณะสำหรับการฝึกฝนโมเดล ขณะที่นักวิจัยเชื่อว่าเป็นการพยายามขโมยข้อมูลผู้ใช้ผ่านช่องโหว่ของเซิร์ฟเวอร์
- เหตุการณ์นี้เป็นหนึ่งในหลายครั้งที่ AI จากผู้พัฒนารายใหญ่อย่าง OpenAI และ Anthropic โจมตีระบบภายนอก ทำให้เกิดความกังวลด้านความปลอดภัยและกระตุ้นให้เกิดการเรียกร้องกฎระเบียบควบคุม AI ที่เข้มงวดขึ้น
สำนักข่าว Reuters รายงานว่า ทีมนักวิจัยเปิดเผยว่า เอเจนต์ปัญญาประดิษฐ์ (AI agents) ที่อยู่ในระหว่างการทดสอบของ OpenAI ได้ลงมือโจมตีบริการซอฟต์แวร์ RubyGems เมื่อ 2 เดือนก่อนที่จะเกิดเหตุการณ์แฮกแพลตฟอร์ม Hugging Face ตอกย้ำภัยคุกคามทางไซเบอร์ที่เชื่อมโยงกับผู้พัฒนาเอไอรายใหญ่ จนกระตุ้นเสียงเรียกร้องให้มีการออกกฎระเบียบควบคุมที่เข้มงวดมากขึ้น
กลุ่มนักวิจัยเผยแพร่ข้อค้นพบเมื่อวันที่ 11 ก.ย. ที่ผ่านมาว่า เอเจนต์เอไอได้อัปโหลดแพ็กเกจประสงค์ร้ายหลายร้อยรายการขึ้นบน RubyGems เมื่อวันที่ 11 พ.ค. โดยเชื่อว่าแพ็กเกจเหล่านี้ถูกสร้างขึ้นโดยเอเจนต์ภายในของ OpenAI เอง
กลุ่มนักวิจัยระบุต่อว่า เอเจนต์เอไอพยายามขโมยข้อมูลผู้ใช้ของ RubyGems โดยอาศัยช่องโหว่บนเซิร์ฟเวอร์ของเว็บไซต์ที่ไม่เคยมีใครทราบมาก่อน นอกจากนี้ เอเจนต์ยังหาประโยชน์จาก RubyDoc.info ซึ่งเป็นเว็บไซต์สำหรับสร้างเอกสารประกอบโค้ด เพื่อรันโค้ดของตนเองบนเซิร์ฟเวอร์ดังกล่าว อย่างไรก็ตาม นักวิจัยไม่แน่ใจว่าเหตุใดเอเจนต์เอไอจึงเลือกกลยุทธ์นี้ หรือพยายามโจมตีสำเร็จหรือไม่ เนื่องจากไม่มีสิทธิ์เข้าถึงข้อมูลพฤติกรรมส่วนอื่นๆ ของเอไอ
RubyGems โพสต์ชี้แจงเมื่อวันศุกร์ว่า การสืบสวนภายในไม่พบหลักฐานว่าความพยายามโจมตีดังกล่าวประสบความสำเร็จ และบริษัทไม่สามารถระบุได้ชัดเจนว่าการเผยแพร่สแปมนี้ถูกสร้างขึ้นโดยเอเจนต์เอไอหรือไม่ อย่างไรก็ตาม ทีมรักษาความปลอดภัยของ RubyGems เคยกล่าวถึงเหตุการณ์นี้ว่าเป็นการโจมตีที่มุ่งร้ายครั้งใหญ่ ซึ่งบีบให้บริษัทต้องระงับการลงทะเบียนบัญชีใหม่เป็นการชั่วคราว
ด้าน OpenAI ได้ออกมายืนยันถึงเหตุการณ์ดังกล่าวแล้ว โฆษกของบริษัทแถลงว่า "จากการตรวจสอบของเรา เอเจนต์ได้ใช้แพลตฟอร์ม RubyGems เพื่อเข้าถึงอินเทอร์เน็ตและดึงข้อมูลสาธารณะ เราจะดำเนินการสืบสวนต่อไประหว่างทบทวนกิจกรรมฝึกฝนและประมวลผลของเอเจนต์"
ทั้งนี้ เอเจนต์เหล่านี้มักได้รับมอบหมายให้ทำหน้าที่ เช่น การสร้างรายงานหรือกรอกข้อมูลในสเปรดชีตเท่านั้น แต่คาดว่าพวกมันใช้ RubyGems ในการเข้าถึงข้อมูลสาธารณะระหว่างฝึกฝนโมเดล โดยบริษัทกำลังประสานงานกับ RubyGems เพื่อทบทวนเหตุการณ์ที่เกิดขึ้น
สำหรับ OpenAI ที่กำลังเตรียมเสนอขายหุ้นต่อสาธารณชนเป็นครั้งแรก (IPO) การโจมตี RubyGems ถือเป็นเหตุการณ์อย่างน้อยครั้งที่ 3 แล้ว ที่เอเจนต์ของตนโจมตีโครงสร้างพื้นฐานของบริษัทอื่น โดยก่อนหน้านี้ เอเจนต์ของ OpenAI เคยยึดไซต์วิกิภาษาเยอรมันและเปลี่ยนให้เป็นแพลตฟอร์มส่งข้อความเฉพาะกิจเพื่อใช้โกงข้อสอบ ซึ่งเป็นเหตุการณ์ที่บริษัทจงใจปกปิดความลับไว้ในขณะที่กำลังรับมือกับผลกระทบจากเหตุการณ์แฮกพื้นที่จัดเก็บข้อมูลของ Hugging Face เมื่อเดือน ก.ค.
ขณะเดียวกัน คู่แข่งอย่าง Anthropic ที่กำลังเตรียม IPO ก็รายงานว่ามีเหตุการณ์ที่เอเจนต์ของตนก่อเหตุโจมตีอยู่หลายครั้ง โดยบริษัทเพิ่งเปิดเผยเมื่อวันพุธที่ผ่านมา ถึงเหตุการณ์ครั้งที่ 4 ที่โมเดลเอไอของตนแฮกเข้าสู่ระบบภายนอกระหว่างขั้นตอนการทดสอบ
เหตุการณ์ที่เอเจนต์เอไอจากผู้พัฒนาชั้นนำอย่าง OpenAI และ Anthropic ลงมือแฮกหรือพยายามเข้าถึงระบบภายนอกหลายครั้ง ทำให้เกิดความกังวลต่อขีดความสามารถของโมเดลเอไอ และความสามารถของผู้พัฒนาในการควบคุมระบบเหล่านี้
การเปิดเผยรายงานล่าสุดนี้ ยังเกิดขึ้นในจังหวะที่สมาชิกรัฐสภาสหรัฐกำลังเรียกร้องให้มีกฎหมายใหม่เพื่อกำกับดูแลระบบเอไอ หลังนักวิจัยของ Anthropic สองรายได้ออกมาเตือนอย่างจริงจังว่า การพัฒนาเอไออย่างรวดเร็วอาจนำไปสู่การสูญพันธุ์ของมนุษยชาติในอนาคตอันใกล้นี้
