จีนมองไปถึงวันที่เอไอหลุดการควบคุม เริ่มวางกฎตั้งแต่ปี 2567

คำเตือนจากนักวิจัยของแอนโทรปิก (Anthropic) บริษัทเอไอรายใหญ่ของสหรัฐที่ระบุว่า โมเดลเอไอที่มีความสามารถเพิ่มขึ้นเรื่อยๆ อาจหลุดจากการควบคุมของมนุษย์ และในกรณีร้ายแรงอาจนำไปสู่การสูญพันธุ์ของมนุษยชาติ กำลังได้รับความสนใจในจีน หลังรอยเตอร์สรายงานว่า รัฐบาลจีนมีการเตรียมรับมือกับความเสี่ยงในลักษณะเดียวกันไว้แล้ว

จีนเริ่มพูดถึงความเป็นไปได้ที่เอไอจะหลุดจากการควบคุมอย่างชัดเจนตั้งแต่ปี 2567 และปรับรายละเอียดของกรอบความปลอดภัยเพิ่มเติมในปี 2568 ก่อนจะออกแนวทางเฉพาะสำหรับเอเจนต์เอไอในปี 2569 ซึ่งเป็นระบบที่สามารถทำงานและตัดสินใจได้ด้วยตัวเองมากกว่าแชตบอตทั่วไป

เรื่องนี้เกิดขึ้นในช่วงที่จีนและสหรัฐกำลังแข่งขันกันอย่างหนักในการพัฒนาเอไอระดับแนวหน้า ทั้งสองประเทศเป็นกำลังสำคัญในการพัฒนาเทคโนโลยีและการนำเอไอไปใช้งานทั่วโลก ขณะเดียวกันก็มีความขัดแย้งกันมากขึ้นเกี่ยวกับนโยบายเอไอและแนวทางการดำเนินงานของอุตสาหกรรม โดยประเด็นเหล่านี้มีกำหนดจะถูกหยิบยกขึ้นหารือในการเจรจาระหว่างสองประเทศช่วงปลายเดือนกันยายน 2569

สำหรับจีน ความเสี่ยงของเอไอไม่ได้จำกัดอยู่แค่กรณีที่ระบบให้ข้อมูลผิดพลาดหรือนำไปใช้ในทางที่ไม่เหมาะสม แต่ยังรวมถึงความเป็นไปได้ในอนาคตที่เอไอจะมีความสามารถมากขึ้นจนสามารถทำบางอย่างได้โดยที่มนุษย์ไม่สามารถควบคุมได้อย่างมีประสิทธิภาพ

กรอบความปลอดภัยด้านเอไอของจีนที่เผยแพร่เมื่อเดือนกันยายน 2567 ภายใต้การกำกับของสำนักงานบริหารไซเบอร์สเปซแห่งประเทศจีน (CAC) ระบุว่า ไม่สามารถตัดความเป็นไปได้ที่เอไอในอนาคตจะสามารถจัดหาทรัพยากรจากภายนอกได้ด้วยตัวเอง ทำสำเนาตัวเอง พัฒนาความตระหนักรู้ในตัวเอง และแสวงหาอำนาจจากภายนอก หากเอไอสามารถทำสิ่งเหล่านี้ได้ ระบบอาจเข้าสู่สถานการณ์ที่ต้องแข่งขันกับมนุษย์เพื่อควบคุมทรัพยากรหรืออำนาจ ซึ่งเป็นความเสี่ยงจากการที่มนุษย์อาจไม่สามารถควบคุมเอไอได้อีกต่อไป

หนึ่งปีต่อมา CAC เผยแพร่กรอบเพิ่มเติม โดยขยายรายละเอียดให้เห็นภาพมากขึ้นว่า เอไออาจเกิดการก้าวกระโดดด้านความฉลาดอย่างรวดเร็วและคาดไม่ถึง ก่อนที่จะสามารถจัดหาทรัพยากร ทำสำเนาตัวเอง และแสวงหาอำนาจได้

กรอบปี 2568 ยังเพิ่มหลักการการใช้งานที่เชื่อถือได้ การป้องกันการสูญเสียการควบคุม หรือ trusted application, preventing loss of control เข้าไปด้วย

ต่อมา เว็บไซต์ของหน่วยงานกำกับดูแลไซเบอร์สเปซจีนเผยแพร่คำอธิบายจากผู้เชี่ยวชาญว่า หลักการนี้มีขึ้นเพื่อป้องกันความเสี่ยงจากการที่มนุษย์สูญเสียการควบคุมเอไอ ซึ่งอาจกระทบต่อการอยู่รอดและการพัฒนาของมนุษย์ โดยยกถึงสถานการณ์ที่เอไออาจหลุดออกมาจากข้อจำกัดที่มนุษย์กำหนดไว้

แนวคิดเรื่องการควบคุมเอไอยังปรากฏในระดับนโยบายของจีน โดยในการประชุมปัญญาประดิษฐ์โลกที่นครเซี่ยงไฮ้เมื่อเดือนกรกฎาคม 2569 สี จิ้นผิง ประธานาธิบดีจีน กล่าวว่า หน่วยงานที่เกี่ยวข้องควรให้ความสนใจกับทั้งความเสี่ยงที่เกิดจากตัวเอไอเอง และความเสี่ยงที่เกิดขึ้นจากการนำเอไอไปใช้ พร้อมระบุว่า เอไอควรอยู่ภายใต้การควบคุมของมนุษย์เสมอ

ซุน เสี่ยวโป (Sun Xiaobo) เจ้าหน้าที่ระดับสูงของกระทรวงการต่างประเทศจีนที่รับผิดชอบกิจการด้านเอไอ กล่าวในการประชุมของสหประชาชาติเมื่อเดือนสิงหาคม 2569 ว่า จีนกำลังเร่งศึกษากฎหมายที่ครอบคลุมมากขึ้นสำหรับเอไอ

ส่วนซุน เหล่ย (Sun Lei) รองผู้แทนถาวรจีนประจำสหประชาชาติ เรียกร้องในเดือนกันยายน 2569 ให้รัฐบาลต่างๆ ใช้ความระมัดระวังในการนำเอไอไปใช้ด้านการทหาร เพื่อหลีกเลี่ยงการประเมินสถานการณ์ทางยุทธศาสตร์ผิดพลาดและการแข่งขันด้านอาวุธ

นอกจากวางกรอบในระดับนโยบายแล้ว จีนยังเริ่มกำหนดกฎสำหรับเอไอประเภทที่มีความสามารถในการทำงานด้วยตัวเองมากขึ้น นั่นคือ เอเจนต์เอไอ ซึ่งแตกต่างจากแชตบอตทั่วไปตรงที่ไม่ได้เพียงตอบคำถามหรือสร้างเนื้อหาตามคำสั่ง แต่สามารถดำเนินงานที่ซับซ้อนขึ้นได้ด้วยตัวเอง ทำให้ระบบมีโอกาสตัดสินใจและลงมือทำมากกว่าเดิม

เดือนพฤษภาคม 2569 หน่วยงานกำกับดูแลไซเบอร์สเปซของจีนออกแนวทางร่วมสำหรับระบบประเภทนี้ โดยกำหนดให้ผู้พัฒนาต้องสามารถตรวจพบพฤติกรรมที่ไม่เหมาะสมของเอเจนต์ เข้าไปแทรกแซงหรือหยุดการทำงาน และกู้คืนระบบเมื่อเกิดปัญหา

แนวทางดังกล่าวระบุความเสี่ยงด้านความปลอดภัยที่ต้องระวังไว้หลายด้าน ได้แก่ การปนเปื้อนข้อมูล ซึ่งหมายถึงการทำให้ข้อมูลที่ระบบใช้มีข้อมูลที่ถูกบิดเบือน การดัดแปลงอัลกอริทึม ช่องโหว่ของระบบ และการสูญเสียการควบคุมในการปฏิบัติงาน

อีกข้อกำหนดสำคัญคือ ผู้ใช้ต้องมีอำนาจตัดสินใจขั้นสุดท้ายเหนือการตัดสินใจแบบอัตโนมัติของเอเจนต์ หมายความว่า แม้ระบบจะสามารถทำงานเองได้ แต่การตัดสินใจขั้นสุดท้ายยังต้องอยู่กับมนุษย์

ขณะเดียวกัน จีนยังไม่ได้เสนอให้มีผู้ตรวจสอบอิสระที่ฝังอยู่ภายในบริษัทเอไอในลักษณะที่แอนโทรปิกเสนอ แต่แนวทางของจีนเปิดให้บริษัทผู้พัฒนาว่าจ้างหน่วยงานภายนอกเข้ามาประเมินความปลอดภัยของระบบ รวมถึงเปิดทางให้หน่วยงานประเมินภายนอกและนักวิจัยด้านความปลอดภัยเข้ามาทดสอบและตรวจสอบโมเดลแบบเปิดได้

ความกังวลของจีนยังครอบคลุมถึงโมเดลเอไอจากสหรัฐโดยเฉพาะโมเดลแบบปิดที่บริษัทเป็นผู้ควบคุมการเข้าถึง

เฉิน อี้ซิน (Chen Yixin) รัฐมนตรีกระทรวงความมั่นคงแห่งรัฐของจีน ระบุในบทความที่เผยแพร่ผ่านสื่อของรัฐบาลจีนเมื่อวันอาทิตย์ว่า โมเดลเอไอขั้นสูงของสหรัฐ เช่น Mythos ของแอนโทรปิก และ GPT-5.5-Cyber ของโอเพนเอไอ (OpenAI) อาจก่อให้เกิดความเสี่ยงร้ายแรงต่อโครงสร้างพื้นฐานสารสนเทศที่สำคัญของจีน พร้อมเรียกร้องให้เสริมความมั่นคงด้านเอไออย่างครอบคลุม

อย่างไรก็ตาม แอนโทรปิกและโอเพนเอไอยังไม่ได้ตอบคำขอความเห็นจากสำนักข่าวรอยเตอร์สในทันที ในอีกด้านหนึ่ง บริษัทเอไอของจีนผลักดันโมเดลแบบเปิดน้ำหนัก (Open-weight) โดยให้เหตุผลส่วนหนึ่งว่า ทีมรักษาความปลอดภัยทางไซเบอร์สามารถตรวจสอบ ปรับเปลี่ยน และนำโมเดลไปใช้งานด้านการป้องกันภัยได้

ฮักกิง เฟซ (Hugging Face) แพลตฟอร์มรวบรวมโมเดลเอไอ ระบุว่า บริษัทใช้ GLM-5.2 ซึ่งเป็นโมเดลแบบเปิดน้ำหนักของบริษัท Z.AI จากจีน เพื่อวิเคราะห์เหตุการณ์การบุกรุกที่เกิดขึ้นในเดือนกรกฎาคม 2569 และเกี่ยวข้องกับเอเจนต์ของโอเพนเอไอที่สามารถหลุดออกจากข้อจำกัดที่กำหนดไว้

ฮักกิงเฟซระบุว่า โมเดลของสหรัฐที่มีข้อจำกัดในการเข้าถึงมากกว่า กลับมีประโยชน์น้อยกว่าในการตรวจสอบเหตุการณ์ดังกล่าว จึงนำ GLM-5.2 มาใช้ในการวิเคราะห์ อย่างไรก็ตาม โมเดลแบบเปิดน้ำหนักก็มีความเสี่ยงอีกด้าน เพราะเมื่อมีการเปิดให้เข้าถึงโมเดล ผู้ใช้สามารถนำไปปรับเปลี่ยนและเผยแพร่ต่อได้ โดยมีการควบคุมจากผู้พัฒนาเดิมไม่มากนัก

กรณี Kimi K3 ของ มูนช็อต เอไอ (Moonshot AI) ของจีนก็แสดงให้เห็นความเสี่ยงดังกล่าว สิงหาคม 2569 นักวิจัยพบว่า Kimi K3 สามารถหลุดออกจากพื้นที่ทดสอบของสถาบันความมั่นคงด้านเอไอของสหราชอาณาจักรได้ เหตุการณ์นี้แสดงให้เห็นว่า โมเดลเอไอของจีนเองก็อาจหลีกเลี่ยงข้อจำกัดที่ออกแบบมาเพื่อควบคุมการเข้าถึง และการทำงานของระบบได้เช่นเดียวกับโมเดลจากสหรัฐ

อ้างอิง: Reuters