Nvidia เปิดตัวแพลตฟอร์มซอฟต์แวร์ป้องกัน AI เอเจนต์ทำงานผิดพลาด

ซีเอ็นบีซี รายงานว่า บริษัท Nvidia กำลังเปิดตัวแพลตฟอร์มซอฟต์แวร์ใหม่ที่ช่วยให้นักพัฒนา AI กำหนดมาตรการป้องกันสำหรับ AI เอเจนต์ ( AI Agents)  และป้องกันไม่ให้เอเจนต์หลุดออกจากขอบเขตควบคุม

 

“เราไม่สามารถปล่อยให้เอเจนต์เคลื่อนที่ไปมาอย่างอิสระภายในบริษัทได้ ดังนั้นเราจึงต้องหาวิธีควบคุมและจำกัดขอบเขตของมัน” เจนเซ่น หวง ซีอีโอของ Nvidia กล่าวกับรายการ “Squawk Box” ของ ซีเอ็นบีซี เมื่อวันจันทร์ (28 ก.ย. 69)

 

หวงกล่าวว่า แพลตฟอร์มใหม่นี้มีลักษณะเหมือน “เบราว์เซอร์สำหรับเอเจนต์” โดยทำหน้าที่เป็นระบบควบคุมที่อนุญาตให้เอเจนต์เข้าถึงเฉพาะสิ่งที่จำเป็นต่อการทำงานของตนเท่านั้น

 

Nvidia เปิดตัว Open Agent Safety Platform เมื่อวันจันทร์ หลังจากบริษัทต่าง ๆ ได้แก่ OpenAI, Anthropic, Meta และ Google เปิดเผยเหตุการณ์ล่าสุดที่โมเดลปัญญาประดิษฐ์ของตนสามารถหลุดออกจากแซนด์บ็อกซ์ หรือขอบเขตการทดสอบ และพยายามเจาะระบบของบริษัทอื่นหรือเข้าถึงระบบคอมพิวเตอร์ของบริษัทเหล่านั้น

 

ตัวแทนของ Nvidia กล่าวกับผู้สื่อข่าวในการประชุมทางโทรศัพท์เมื่อวันอาทิตย์ว่า แพลตฟอร์มของบริษัทอาจช่วยป้องกันเหตุการณ์ที่เกิดขึ้นกับ Hugging Face และ OpenAI ในเดือนกรกฎาคมได้ เหตุการณ์ดังกล่าวเกิดขึ้นเมื่อโมเดลของ OpenAI หลุดออกจากระบบควบคุม เข้าถึงอินเทอร์เน็ตแบบเปิด และเจาะระบบของ Hugging Face ซึ่งให้บริการแพลตฟอร์มสำหรับนักพัฒนาโอเพนซอร์ส

 

“เหตุการณ์ด้านความปลอดภัยแต่ละครั้งมีลักษณะเฉพาะ และเราต้องตรวจสอบรายละเอียดของแต่ละกรณี” จัสติน บอยตาโน รองประธานฝ่าย AI สำหรับองค์กรของ Nvidia ซึ่งเป็นบริษัทที่มีมูลค่าสูงที่สุดในโลกกล่าว “จากข้อมูลที่เราทราบ Hugging Face รายงานว่ามีเอเจนต์มากกว่า 17,000 รายโจมตีโครงสร้างพื้นฐานของบริษัท เหตุการณ์ดังกล่าวดำเนินต่อเนื่องเป็นเวลาหลายวันหรือหลายสัปดาห์”

• กระแสความกังวลเอไอล้างโลก

 

Nvidia อยู่ใจกลางกระแสการเติบโตของ AI เชิงสร้างสรรค์นับตั้งแต่การเปิดตัว ChatGPT เมื่อเกือบสี่ปีที่แล้ว เนื่องจากหน่วยประมวลผลกราฟิกของบริษัทมีความสำคัญต่อการพัฒนาโมเดลภาษาขนาดใหญ่ รวมถึงบริการ AI ที่ให้บริการโดยบริษัทคลาวด์ขนาดใหญ่  

 

อย่างไรก็ตาม ช่วงหลังมานี้ หวงได้กลายเป็นหนึ่งในผู้มีบทบาทสำคัญในการถกเถียงเรื่องความปลอดภัยของ AI โดยเขาให้เหตุผลว่า ความกังวลด้านความปลอดภัยหลายประการเป็นปัญหาทางวิศวกรรม ซึ่งสามารถแก้ไขได้ด้วยวิทยาการคอมพิวเตอร์และการพัฒนาผลิตภัณฑ์

 

“เราต้องคิดว่าเราน่าจะทำอะไรได้บ้าง และทางออกของปัญหานั้นคืออะไร” หวงกล่าวในพอดแคสต์กับเอซรา ไคลน์ แห่งหนังสือพิมพ์ The New York Times ซึ่งเผยแพร่เมื่อสัปดาห์ที่แล้ว โดยอ้างถึงเหตุการณ์ล่าสุด “ในอนาคต เราต้องปรับปรุงกระบวนการของเราเพื่อหลีกเลี่ยงไม่ให้เรื่องแบบนี้เกิดขึ้นอีก”  

 

ดาริโอ อโมเดอี ซีอีโอของ Anthropic จุดกระแสถกเถียงครั้งใหญ่ในอุตสาหกรรมเมื่อสองสัปดาห์ก่อน ด้วยการเรียกร้องให้นักพัฒนาโมเดล AI ชะลอความเร็วในการพัฒนา เนื่องจากกังวลว่าโมเดลอาจควบคุมไม่ได้ โดยข้อโต้แย้งของเขาได้รับการสนับสนุนจากแซม อัลต์แมน ซีอีโอของ OpenAI และอีลอน มัสก์ แห่ง SpaceX  บอยตาโนกล่าวว่า ผลิตภัณฑ์ใหม่ของ Nvidia เป็นทางออกเชิงวิศวกรรมสำหรับประเด็นความปลอดภัยของ AI เอเจนต์  

 

“เหตุการณ์ล่าสุดทำให้เห็นอุปสรรคพื้นฐานของ AI เอเจนต์  อย่างหนึ่ง นั่นคือ มาตรการป้องกันในระดับโมเดลเพียงอย่างเดียวไม่สามารถกำกับได้ว่าเอเจนต์เข้าถึงอะไรได้หรือทำอะไรได้บ้าง” บอยตาโน กล่าว  

 

หนึ่งในองค์ประกอบของแพลตฟอร์มนี้เรียกว่า Nvidia OpenShell ซึ่งทำงานบนซีพียู และใช้กำหนดขอบเขตความสามารถของเอเจนต์ ขณะเดียวกัน Nvidia ยังประกาศเปิดตัว Sentry ซึ่งทำหน้าที่เฝ้าระวังเอเจนต์และทำงานบนชิปเครือข่าย ไม่ใช่บน CPU หรือ GPU  

 

ซอฟต์แวร์บางส่วนเป็นโอเพนซอร์ส และ Nvidia ระบุว่าแพลตฟอร์มนี้เป็น “reference design” ซึ่งหมายความว่าพาร์ตเนอร์จะนำไปต่อยอดพัฒนาเป็นผลิตภัณฑ์เพื่อออกสู่ตลาด  

 

Nvidia ระบุชื่อพันธมิตรได้แก่ Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM และ Intel นอกจากนี้ Nvidia ยังร่วมมือกับ Anthropic เพื่อนำเอเจนต์แบบคลาวด์มาบริหารจัดการร่วมกับ OpenShell  

 

“เราไม่อาจมีอุตสาหกรรม AI ที่ประสบความสำเร็จได้ หากผู้คนในโลกไม่เชื่อ หรือไม่มั่นใจว่าเทคโนโลยีนี้ถูกสร้างและนำไปใช้อย่างปลอดภัย” หวงกล่าวกับ ซีเอ็นบีซี เมื่อวันจันทร์