เอไออันธพาลคือ 'สัญญาณเตือนภัยครั้งใหญ่' บริษัทที่ถูกแฮกเตือน

 บีบีซี รายงานว่า ผู้ร่วมก่อตั้ง Hugging Face สตาร์ตอัปด้านเทคโนโลยีที่ถูกแฮกหลังจากโมเดลปัญญาประดิษฐ์ (AI) รุ่นก้าวหน้าที่สุดบางตัวของ OpenAI ทำงานนอกเหนือการควบคุม (Rogue) กล่าวเมื่อวันพฤหัสบดี (23 ก.ค.69) ว่า เหตุการณ์นี้ถือเป็น "สัญญาณเตือนภัยครั้งใหญ่" (wake-up call) สำหรับอุตสาหกรรมนี้

 

โทมัส วูล์ฟ Thomas Wolf เปิดเผยกับรายการวิทยุ Newsday ของสำนักข่าวบีบีซี ว่า "นี่จะเป็นหนึ่งในรูปแบบการโจมตีทางไซเบอร์ที่จะพบได้บ่อยที่สุดในอนาคต" แต่บริษัทส่วนใหญ่ยังไม่ตระหนักว่า "เกมได้เปลี่ยนไปแล้ว"

ผู้สร้าง ChatGPT กล่าวเมื่อวันอังคาร 21ก.ค.69) ว่า โมเดล AI ของตนได้ทำการแหกระบบทดสอบที่มีความปลอดภัยระหว่างการทดลอง และเปิดฉากโจมตีทางไซเบอร์ โดยบริษัทระบุว่าเหตุการณ์นี้ "ไม่เคยเกิดขึ้นมาก่อน" และกำลังดำเนินการสืบสวนร่วมกับ Hugging Face

ทั้งนี้ AI Agent สามารถทำงานได้ด้วยตนเองเพื่อบรรลุเป้าหมายหลังจากได้รับคำสั่งจากมนุษย์

 

วูล์ฟ กล่าวว่า ในช่วงแรก Hugging Face ไม่ทราบเลยว่าการโจมตีมาจากไหนเมื่อเริ่มพบสัญญาณในช่วงกลางเดือนกรกฎาคม แต่บริษัทสามารถควบคุมและจำกัดการรั่วไหลของข้อมูลได้ในที่สุด

 

Hugging Face เป็นหนึ่งในศูนย์กลางโอเพ่นซอร์ส (Open-source hub) ที่ใหญ่ที่สุดในโลกสำหรับแบ่งปันโมเดล AI และมักถูกใช้อย่างแพร่หลายโดยนักพัฒนาเทคโนโลยีและนักวิจัย

 

วูล์ฟ ระบุว่าการละเมิดระบบครั้งนี้ "แตกต่างอย่างมาก" จากการโจมตีทางไซเบอร์ทั่วไปที่ Hugging Face มักจะเผชิญ และ OpenAI ก็ได้แจ้งเตือนบริษัทอย่างรวดเร็วว่าโมเดลของพวกเขาอยู่เบื้องหลังการแฮกครั้งนี้

• การโจมตี 17,000 ครั้งในเวลาอันสั้น

 

ในระยะเวลาที่ "สั้นมาก" มีการโจมตีเกิดขึ้นถึง 17,000 ครั้งบนเครือข่ายของ Hugging Face จากหมายเลข IP ที่หลากหลาย วูล์ฟ ซึ่งดำรงตำแหน่งประธานเจ้าหน้าที่ฝ่ายวิทยาศาสตร์ของบริษัทกล่าวเสริม

วูล์ฟ กล่าวว่านี่คือคำเตือนไปยังบริษัทอื่นๆ ว่าต้องยกระดับการป้องกันทางไซเบอร์เพื่อรับมือกับการโจมตีในลักษณะนี้

 

การแฮกครั้งนี้ถือเป็นเรื่องที่ "น่ากังวล" เพราะมันสะท้อนว่าโมเดลของ OpenAI เพิกเฉยต่อระบบมาตรการคุ้มครองความปลอดภัยขั้นพื้นฐานที่จะป้องกันไม่ให้โปรแกรม AI ก่อการโจมตีทางไซเบอร์ เนต โซอาเรส (Nate Soares) จากสถาบันวิจัยปัญญาประดิษฐ์ (Machine Intelligence Research Institute) กล่าว

 

"ในแง่หนึ่ง มันรู้ว่านี่ไม่ใช่สิ่งที่ผู้สร้างตั้งใจให้ทำ แต่มันไม่สนใจ" เขากล่าวเสริม

 

องค์กรอื่นๆ ก็ได้ให้ความสนใจกับเหตุการณ์นี้เช่นกัน

 

โฆษกรัฐบาลสหราชอาณาจักรกล่าวว่า สถาบันความปลอดภัย AI ของประเทศกำลังศึกษาพฤติกรรมของระบบ AI ในเหตุการณ์นี้ และกำลังทำงานร่วมกับ OpenAI รวมถึงห้องปฏิบัติการอื่นๆ เพื่อเสริมสร้างมาตรการคุ้มครองให้แข็งแกร่งยิ่งขึ้น

 

พร้อมกันนี้ ได้กระตุ้นให้องค์กรต่างๆ เร่งยกระดับมาตรการความปลอดภัยทางไซเบอร์ โดยทำตามขั้นตอนต่างๆ เช่น การเข้าร่วมโครงการรับรอง Cyber Essentials ที่ได้รับการสนับสนุนจากรัฐบาล

 

• ความกังวลในระดับโลกและความตึงเครียดเรื่อง AI

 

เหตุการณ์นี้เกิดขึ้นในช่วงเวลาสำคัญของอุตสาหกรรม หลังจากเมื่อเดือนที่แล้ว รัฐบาลสหรัฐ ได้สั่งให้บริษัทเทคโนโลยี Anthropic จำกัดการเข้าถึงโมเดล AI ของตนเนื่องจากความกังวลด้านความมั่นคงแห่งชาติ ก่อนที่กระทรวงพาณิชย์จะยกเลิกข้อจำกัดดังกล่าวในอีกไม่กี่สัปดาห์ต่อมา

 

ผู้คนในอุตสาหกรรมยังได้หยิบยกประเด็นความกังวลด้านความปลอดภัยเกี่ยวกับการใช้โมเดลโอเพ่นซอร์สอย่างแพร่หลายในจีน ซึ่งเปิดโอกาสให้ใครก็ได้สามารถติดตั้งและปรับแต่งเครื่องมือ AI ที่ปล่อยออกมาโดยนักพัฒนารายใหญ่

 

Moonshot AI สตาร์ตอัปสัญชาติจีน มีกำหนดจะเปิดตัวโมเดลโอเพ่นซอร์ส Kimi K3 ในวันที่ 27 กรกฎาคม ซึ่งนับตั้งแต่เปิดตัวครั้งแรกเมื่อสัปดาห์ที่แล้ว ก็ได้รับความสนใจอย่างมากจากคนในวงการ โดยหลายคนมองว่าเป็นคู่แข่งสำคัญของระบบ AI ชั้นนำจากฝั่งตะวันตก

 

อย่างไรก็ตาม เมื่อวันพุธที่ผ่านมา ที่ปรึกษาทำเนียบขาวได้กล่าวหา Moonshot ว่ามีความพยายาม "ครั้งใหญ่" ในการขโมยเทคโนโลยีโมเดล AI ชั้นนำของบริษัทสหรัฐ