คนสร้างเอไอกว่าพันคน เรียกร้องสหรัฐเตรียม ‘ปุ่มเบรกเอไอ’ หลังโมเดลเจาะระบบภายนอกสำเร็จ

พนักงาน และผู้บริหารจากบริษัทเอไอของโลกมากกว่า 1,000 คน ร่วมลงนามในจดหมายเปิดผนึกชื่อ Pacing the Frontier เรียกร้องให้รัฐบาลสหรัฐสนับสนุนความร่วมมือระหว่างประเทศ เพื่อสร้างเครื่องมือ และกลไกที่จะช่วยควบคุมความเร็วของการพัฒนาเอไอ หากวันหนึ่งเทคโนโลยีก้าวหน้าเร็วจนมาตรการด้านความปลอดภัย และการกำกับดูแลตามไม่ทัน

จดหมายฉบับนี้มีผู้ร่วมลงชื่อจากบริษัทเอไอหลายแห่ง โดยในจำนวนนี้มีทั้ง ดาริโอ อาโมเดอี (Dario Amodei) ประธานเจ้าหน้าที่บริหารของแอนโทรปิก (Anthropic), หัวหน้าฝ่ายวิจัยของโอเพนเอไอ (OpenAI), หัวหน้านักวิทยาศาสตร์ของโอเพนเอไอ, ผู้ร่วมก่อตั้งบางคนของแอนโทรปิก, หัวหน้าฝ่ายยุทธศาสตร์ของดีปมายด์ (DeepMind) ซึ่งเป็นบริษัทลูกด้านเอไอของกูเกิล, หัวหน้านักวิทยาศาสตร์ของเมตาเอไอ (Meta) รวมถึงรองประธานอีกหลายคนจากทั้งเมตา และกูเกิล เช่น รองประธานฝ่ายวิจัยเอไอของเมตา และรองประธานฝ่ายความปลอดภัย และการปรับแนวเอไอของกูเกิล ดีปมายด์

สาระสำคัญของจดหมายไม่ได้เรียกร้องให้หยุดพัฒนาเอไอ แต่เสนอว่ารัฐบาลควรเตรียมเครื่องมือเอาไว้ล่วงหน้า เผื่อในอนาคตจำเป็นต้องชะลอความเร็วของการพัฒนา เพื่อให้สังคมมีเวลารับมือกับผลกระทบ และความเสี่ยงที่อาจเกิดขึ้น

“เอไออาจฉลาดขึ้นเร็วมาก จนมนุษย์ตามไม่ทันทั้งในแง่ความเข้าใจ การกำกับดูแล และการควบคุมความเสี่ยงที่อาจเกิดขึ้น” ผู้ลงนามเขียนไว้ในจดหมาย

พร้อมระบุว่า หากต้องการให้สังคมใช้ประโยชน์จากเอไอได้อย่างเต็มที่ รัฐบาล ภาคธุรกิจ และหน่วยงานที่เกี่ยวข้อง จำเป็นต้องมีเวลาเตรียมความพร้อม ทั้งการประเมินความเสี่ยงที่อาจเกิดขึ้น การพัฒนามาตรการด้านความปลอดภัย และการวางระบบกำกับดูแลให้ทันกับเทคโนโลยีที่กำลังก้าวหน้าอย่างรวดเร็ว

โมเดลเอไอทำงานเกินขอบเขตที่ผู้พัฒนาวางไว้

จดหมายฉบับนี้เผยแพร่ออกมาไม่นานหลังจากโอเพนเอไอเปิดเผยผลการทดสอบภายในของโมเดลเอไอรุ่นทดลอง ซึ่งสร้างความกังวลในแวดวงเทคโนโลยีอยู่ไม่น้อย

เหตุการณ์ดังกล่าวเกิดขึ้นเมื่อวันที่ 21 กรกฎาคม 2569 เมื่อโอเพนเอไอเปิดเผยว่า ระหว่างการทดสอบความสามารถด้านความปลอดภัยไซเบอร์ภายในบริษัท ซึ่งใช้ชื่อการทดสอบว่า ExploitGym ออกแบบมาเพื่อวัดว่าโมเดลสามารถค้นหา และใช้ประโยชน์จากช่องโหว่ของซอฟต์แวร์ได้ดีเพียงใด

ปรากฏว่าโมเดลสองตัว ได้แก่ GPT-5.6 Sol และโมเดลอีกตัวหนึ่งที่มีความสามารถสูงกว่า และยังไม่ได้เปิดตัวต่อสาธารณะ ได้ทำสิ่งที่บริษัทไม่ได้ตั้งใจให้เกิดขึ้น โอเพนเอไอนิยามเหตุการณ์นี้ว่าเป็นเหตุการณ์ไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อน

ตามข้อมูลที่บริษัทเปิดเผย ในการทดสอบบางกรณี โมเดลสามารถหลบเลี่ยงข้อจำกัดของสภาพแวดล้อมทดสอบ หรือแซนด์บ็อกซ์ ซึ่งเป็นพื้นที่ปิดสำหรับทดลองระบบอย่างปลอดภัย ก่อนจะเข้าถึงอินเทอร์เน็ตภายนอกและเจาะเข้าสู่ระบบขององค์กรอื่นได้สำเร็จ

อีกกรณีหนึ่งที่ถูกพูดถึงอย่างกว้างขวางคือ การทดสอบที่โมเดลเอไอดำเนินการโจมตีทางไซเบอร์แบบอัตโนมัติ และสามารถเข้าถึงเซิร์ฟเวอร์ของ ฮักกิงเฟซ (Hugging Face) แพลตฟอร์มสำหรับแบ่งปันโมเดลเอไอและโคดที่ได้รับความนิยมในหมู่นักพัฒนา

เคลม เดอล็องก์ (Clem Delangue) ประธานเจ้าหน้าที่บริหารของฮักกิงเฟซ ให้ความเห็นต่อกรณีนี้ว่า เหตุการณ์นี้อาจเป็นครั้งแรกในลักษณะนี้ และตอกย้ำความเชื่อที่บริษัทของเขายึดถือมาตลอดว่า ความปลอดภัยของเอไอจะไม่มีทางแก้ไขได้ด้วยบริษัทใดบริษัทหนึ่งที่ทำงานอย่างปิดลับเพียงลำพัง แต่ต้องอาศัยความร่วมมืออย่างเปิดเผยจากทุกฝ่าย

ทั้งนี้ ไม่ใช่ครั้งแรกที่โมเดลเอไอทำงานเกินขอบเขตที่ผู้พัฒนาวางไว้ แต่เหตุการณ์ครั้งนี้ถูกมองว่าน่ากังวลเป็นพิเศษ เพราะถือเป็นหนึ่งในกรณีแรกที่มีการยืนยันต่อสาธารณะว่าโมเดลเอไอระดับแนวหน้าดำเนินการโจมตีทางไซเบอร์ต่อบริษัทอื่นด้วยตัวเอง ไม่ใช่แค่การจำลองสถานการณ์ในห้องทดลอง

แม้เหตุการณ์เหล่านี้จะเกิดขึ้นภายใต้การทดสอบของนักวิจัย ไม่ใช่การใช้งานจริงในวงกว้าง แต่ก็ทำให้เกิดคำถามตามมาว่า ความสามารถของระบบเอไอกำลังก้าวหน้าเร็วเพียงใด และมนุษย์ยังสามารถติดตาม และควบคุมพฤติกรรมของระบบเหล่านี้ได้มากน้อยแค่ไหน

ท่าทีของแต่ละบริษัทเทคโนโลยี

โอเพนเอไอระบุในแถลงการณ์ต่อซีเอ็นเอ็นว่า บริษัทเห็นด้วยกับแนวคิดที่ว่าอาจมีบางช่วงเวลาที่จำเป็นต้องชะลอความเร็วของการพัฒนาเอไอ และหวังว่าจะได้มีส่วนร่วมกับรัฐบาลสหรัฐ และห้องปฏิบัติการเอไออื่นๆ ในการหารือประเด็นนี้ต่อไป

แซม อัลท์แมน (Sam Altman) ประธานเจ้าหน้าที่บริหารของโอเพนเอไอ แม้ไม่ได้ร่วมลงนามในจดหมาย แต่ได้กล่าวในรายการพอดแคสต์ Invest Like the Best ว่า เหตุการณ์ที่เกิดขึ้นกับโมเดลทดลองของบริษัทกำลังนำไปสู่คำถามสำคัญเกี่ยวกับวิธีที่อุตสาหกรรมควรรับมือกับความก้าวหน้าของเทคโนโลยีในระยะยาว

“เราอาจจำเป็นต้องกำหนดจังหวะการพัฒนาเอไอ เพื่อให้สังคมมีเวลามากพอที่จะปรับตัวต่อความสามารถใหม่ๆ ของเทคโนโลยี” เขากล่าว อัลท์แมน ยอมรับว่า เหตุการณ์ด้านความปลอดภัยครั้งล่าสุดเป็นหนึ่งในกรณีแรกๆ ที่ทำให้เขารู้สึกถึงความเสี่ยงของเทคโนโลยีอย่างชัดเจน

“นี่เป็นเหตุการณ์ด้านความปลอดภัยครั้งแรกที่ผมรู้สึกได้อย่างจริงจังมาก” พร้อมยอมรับว่าเขาแปลกใจที่ยังมีผู้คนจำนวนไม่น้อยที่ไม่ได้มีปฏิกิริยาต่อเหตุการณ์ดังกล่าวในระดับเดียวกัน

ขณะที่แอนโทรปิกก็แสดงจุดยืนสนับสนุนแนวคิดดังกล่าว โดยระบุว่า บริษัทเห็นด้วยกับการพัฒนาเครื่องมือทั้งด้านเทคนิค และการกำกับดูแล เพื่อให้สามารถชะลอการพัฒนาเอไอได้หากจำเป็น และเปิดโอกาสให้สังคมมีเวลาเตรียมความพร้อม

“เรายินดีที่ได้เห็นความเห็นพ้องในวงกว้างเกี่ยวกับความจำเป็นของเครื่องมือทั้งด้านเทคนิค และการกำกับดูแล เพื่อกำหนดจังหวะการพัฒนาเอไอ รวมถึงความสามารถในการชะลอการพัฒนา เพื่อให้สังคมมีเวลาเตรียมความพร้อม” แอนโทรปิก ระบุ

ขณะที่เมตาปฏิเสธที่จะแสดงความเห็นเกี่ยวกับจดหมายฉบับดังกล่าว ส่วนกูเกิลยังไม่ได้ตอบคำถามจากสื่อในช่วงเวลาที่มีการเผยแพร่รายงาน

ข้อเสนอเรื่องมาตรฐานสากลสำหรับเอไอ

นอกจากข้อเสนอเรื่องการควบคุมความเร็วของการพัฒนาเอไอแล้ว วงการเทคโนโลยียังเริ่มพูดถึงแนวคิดเรื่องมาตรฐานสากลสำหรับเอไอมากขึ้น

เดมิส ฮัสซาบิส (Demis Hassabis) ประธานเจ้าหน้าที่บริหารของกูเกิลดีปมายด์ ได้เสนอให้มีองค์กรระหว่างประเทศที่ทำหน้าที่กำหนดมาตรฐานและแนวปฏิบัติร่วมกันสำหรับโมเดลเอไอรุ่นใหม่

แนวคิดดังกล่าวได้รับการสนับสนุนจากบุคคลสำคัญหลายคนในอุตสาหกรรม รวมถึงอัลท์แมน, ผู้ก่อตั้งสเปซเอ็กซ์ (SpaceX) และ สัตยา นาเดลลา (Satya Nadella) ประธานเจ้าหน้าที่บริหารของไมโครซอฟท์ (Microsoft)

อีกหนึ่งผู้ลงนามในจดหมายคือ จอห์น ชูลแมน (John Schulman) ผู้ร่วมก่อตั้งโอเพนเอไอ ซึ่งต่อมาได้ก่อตั้งห้องปฏิบัติการเอไอแห่งใหม่ชื่อ ธิงกิง แมชชีนส์ (Thinking Machines)

ชูลแมน ระบุว่า จดหมายฉบับนี้มีเป้าหมายเพื่อทำให้วงการเริ่มพูดคุยอย่างจริงจังเกี่ยวกับกลไกความร่วมมือที่อาจจำเป็นในอนาคต หากการวิจัยเอไอแบบอัตโนมัติทำให้ความก้าวหน้าของเทคโนโลยีเร่งตัวขึ้นมากกว่าที่คาด

ในอีกด้านหนึ่ง อัลท์แมนยังกล่าวในการให้สัมภาษณ์ผ่านพอดแคสต์ Relentless ว่า โลกอาจกำลังเข้าใกล้สิ่งที่วงการเทคโนโลยีเรียกว่า “ภาวะเอกฐานทางเทคโนโลยี” หรือ Singularity ซึ่งหมายถึงช่วงเวลาที่ปัญญาประดิษฐ์มีความสามารถก้าวล้ำมนุษย์ในหลายด้าน และพัฒนาตัวเองต่อไปได้เร็วจนมนุษย์ไม่สามารถคาดการณ์ทิศทางของความก้าวหน้าได้อย่างแม่นยำ

เขาเล่าว่า เมื่อประมาณ 10 ปีก่อน แนวคิดนี้ยังเป็นเพียงหัวข้อสนทนาเชิงทฤษฎีในหมู่นักวิจัย แต่ปัจจุบันกลายเป็นเรื่องที่ถูกพูดถึงอย่างจริงจังมากขึ้น

อย่างไรก็ตาม อัลท์แมนยังระบุว่า เขาไม่เห็นด้วยกับการมองอนาคตของเอไอในแง่ร้ายจนเกินไป และตั้งใจจะโต้แย้งภาพอนาคตที่เขาเรียกว่าเป็นวิสัยทัศน์ที่ “น่าหวาดกลัว” เกี่ยวกับเทคโนโลยีดังกล่าว

 

 

อ้างอิง: CNN Euro News และ Reuters

พิสูจน์อักษร....สุรีย์  ศิลาวงษ์