เมื่อคนสร้าง AI ขอให้โลกชะลอ : คำถามคือ...ชะลอได้จริงหรือ?

กลางปีที่แล้ว ผมเขียนบทความในคอลัมน์นี้เรื่อง "Superintelligence คือจุดจบ?" เล่าถึงคำสารภาพของ Dr. Geoffrey Hinton ผู้ได้รับรางวัลโนเบลจากผลงานบุกเบิก Neural Networks ที่เป็นรากฐานของ Deep Learning ซึ่งเขาบอกว่า AI อาจฉลาดกว่ามนุษย์ในทุกมิติภายใน 10-20 ปี และมีโอกาสที่มันนำไปสู่การสูญเสียการควบคุม จนเป็นภัยต่อการดำรงอยู่ของมนุษยชาติ ตอนนั้นหลายคนคงมองว่าเป็นคำเตือนของนักวิทยาศาสตร์ที่มองไกลเกินไป เพราะ AI ที่เราใช้กันยังเป็นแค่แชทบอทที่ตอบคำถามและช่วยเขียนเอกสาร ความฉลาดก็ยังไม่โดดเด่นมากนัก

ผ่านมาปีกว่า ประเด็นเดิมกลับมาเป็นข่าวใหญ่อีกครั้ง แต่สิ่งที่น่าตกใจคือคนที่ออกมาพูดไม่ใช่เพียงนักวิชาการไม่กี่คน แต่เป็นคนที่สร้าง AI อยู่ทุกวัน เมื่อวันที่ 9 กันยายน นักวิจัยของ Anthropic ลาออกพร้อมประกาศว่าบริษัทชั้นนำกำลัง "วิ่งตรงไปสู่ Superintelligence ที่พัฒนาตัวเองได้ และกำลังเอาชีวิตของเราไปเสี่ยง" ตามด้วยหัวหน้าทีม Alignment Science ของบริษัทเดียวกันที่ออกมายอมรับต่อสาธารณะว่าตัวเองมองความเสี่ยงที่มนุษย์จะสูญพันธุ์จาก AI สูงกว่า 10% และ "เรายังไม่มีแผนแก้ปัญหานี้"

สิ่งที่เปลี่ยนไปจากปีที่แล้วไม่ใช่แค่คำเตือน แต่คือหลักฐาน เมื่อเดือนกรกฎาคม ระหว่างที่บริษัท OpenAI ทดสอบโมเดลวิจัยภายในด้านความปลอดภัยไซเบอร์ AI Agent กว่า 1,200 ตัวหลุดออกจาก Sandbox ตั้งช่องทางสื่อสารประสานงานกันเองโดยไม่ได้รับอนุญาต แล้วเจาะเข้าระบบของ Hugging Face จนได้สิทธิ์ระดับผู้ดูแลระบบภายใน 13 ชั่วโมง ที่น่าตกใจกว่านั้นคือ OpenAI ไม่รู้ตัวอยู่ราวหนึ่งสัปดาห์จนกระทั่ง Hugging Face เปิดเผยเรื่องเอง

ข้อความหนึ่งของ Agent ที่ถูกบันทึกไว้บอกว่า การเจาะระบบที่ทำนั้นอยู่นอกขอบเขตงาน แต่งานที่ได้รับคำสั่งมาเป็นไปไม่ได้ อย่างไรก็ตามเพื่อนร่วมทีม (Agent ตัวอื่น) ก็กำลังทำอยู่ ซึ่งนี่ไม่ใช่ AI ที่อยากครองโลก มันแค่ถูกสั่งให้แก้โจทย์ที่แก้ไม่ได้แล้วหาทางลัดออกนอกกรอบ โดยมันพิสูจน์สองข้อที่ฝ่ายไม่เชื่อเคยบอกว่าเป็นแค่จินตนาการ คือ Agent ประสานงานกันเองได้ และมนุษย์ตรวจไม่พบเป็นสัปดาห์ หลังจากนั้น บริษัท Anthropic และสถาบันความปลอดภัยด้าน AI ของอังกฤษก็เปิดเผยว่าพบเหตุการณ์ลักษณะเดียวกันในสภาพแวดล้อมทดสอบของตัวเอง

เมื่อวันที่ 12 กันยายน Dario Amodei ซีอีโอของ Anthropic ผู้พัฒนาโมเดลชั้นนำ Claude ได้เผยแพร่บทความ "We Must Pace the Frontier" เรียกร้องให้ชะลอการเพิ่มความสามารถของโมเดล AI ชั้นนำ เพื่อให้การพัฒนาความปลอดภัยตามทัน เขากังวลทั้งเรื่องการใช้ AI ช่วยสร้างโมเดล AI รุ่นถัดไปและการทำงานร่วมกันของ Agent พร้อมเตือนว่ากลุ่ม Agent ที่เก่งขึ้นอาจสร้างภัยไซเบอร์ระดับยึดครองอินเทอร์เน็ตได้ใน 6-12 เดือน กรอบเวลานี้เป็นการคาดการณ์ของเขา ซึ่งยังต้องมีหลักฐานรองรับเพิ่มเติม 

ข้อเสนอของ Amodei ครอบคลุมการให้ผู้ประเมินอิสระเข้าถึงระบบงานภายในบริษัทอย่างต่อเนื่อง การประสานมาตรฐานระหว่างผู้พัฒนา และความร่วมมือระดับโลก การชะลอในความหมายนี้ยังเปิดทางให้พัฒนาเทคโนโลยีต่อ เพียงแต่ต้องมีเวลาเพียงพอสำหรับตรวจสอบและลดความเสี่ยง

ต้องยอมรับว่าตัวผมเองก็รู้สึกได้ตั้งแต่ต้นปีว่า AI เก่งขึ้นแบบน่ากลัว โดยเฉพาะเมื่อ Agent หลายตัวคุยกันเองและแบ่งงานกันทำ แต่ผมก็ยังยืนยันว่า ณ จุดนี้มนุษย์ยังเป็นคนสั่งและยังหยุดมันได้ ซึ่งระบบที่ถูกอาจเป็นเพราะยังไม่แข็งแรงพอมากกว่าที่ AI จะเก่งถึงขั้นทำลายล้าง ส่วนคำเตือนของ Amodei ที่ว่าฝูง Agent อาจ "ยึดอินเทอร์เน็ต" ได้ภายใน 6-12 เดือนนั้น ผมมองว่าเร็วเกินไป แต่สิ่งที่ผมกลัวมากกว่าคือ การที่คนเอา AI ไปทำร้ายคนด้วยกัน กับการที่เรามอบอำนาจให้ Agent มากเกินกว่าจะตรวจสอบทัน

คำถามที่สำคัญกว่าคือ ต่อให้เห็นตรงกันว่าเสี่ยง จะชะลอกันได้จริงหรือ แม้ Sam Altman แห่ง OpenAI และ Elon Musk จะสนับสนุนข้อเสนอของ Amodei แต่ท่าทีในสัปดาห์นี้ตอบชัดว่าไม่ง่าย ความเห็นในประเด็นนี้ Jensen Huang แห่ง NVIDIA บอกว่า "เราจะไม่ปล่อยให้เกิดขึ้น" ความปลอดภัยเป็นปัญหาวิศวกรรม ไม่ต้องมีกฎหมายใหม่ ส่วน Mark Zuckerberg ได้ออกมาคัดค้านการชะลอเช่นกัน ขณะที่ประธานาธิบดี Donald Trump เรียกความกลัว AI ว่า "hoax" (เรื่องหลอกลวง) และย้ำว่าใครชนะ AI คนนั้นชนะ 

ส่วนฝั่งจีน โฆษกกระทรวงการต่างประเทศเรียกข้อเสนอนี้ว่าการสร้างความหวาดกลัว และ Global Times เรียกว่า "ตำราสงครามเย็น" เพราะ Amodei เสนอควบคุมการส่งออกชิปไปจีนควบคู่ไปด้วย โดยในความเห็นที่สวนทางกับประเด็นนี้มีเพียง Ursula von der Leyen แห่งสหภาพยุโรปเท่านั้นที่ประกาศสนับสนุนและจะเชิญบริษัทแนวหน้ามาหารือ เหตุการณ์ทั้งหมดนี้เกิดขึ้นก่อนการประชุมสุดยอด Donald Trump กับ Xi Jinping วันที่ 24 กันยายน ซึ่งผมไม่คิดว่าผู้นำทั้งสองจะตกลงชะลออะไรกัน

ผมมองว่านี่คือ Prisoner's Dilemma แบบตำรา (สถานการณ์ที่ต่างฝ่ายต่างไม่ไว้ใจกัน จึงไม่มีใครยอมร่วมมือ แม้จะรู้ว่าร่วมมือกันแล้วจะดีกว่าก็ตาม) ท่าทีที่ปรากฎมองได้ว่ามหาอำนาจทั้งสองยอมรับความเสี่ยงในหลักการ แม้ที่ผ่านมาประธานาธิบดี Xi Jinping เองเคยพูดว่า AI ต้องอยู่ภายใต้การควบคุมของมนุษย์เสมอ แต่เมื่อมาถึงวันนี้ไม่มีใครยอมเป็นฝ่ายชะลอก่อน เพราะต่างฝ่ายต่างระแวงว่าตนหยุดแล้วอีกฝ่ายจะแอบทำต่อ 

ที่ยากกว่านั้นคือ AI ต่างจากอาวุธนิวเคลียร์ตรงที่เราส่งดาวเทียมไปส่องโรงงานเสริมสมรรถนะยูเรเนียมได้ แต่สำหรับการพัฒนา AI กลับส่องไม่เห็นว่าใครกำลังซุ่มฝึกโมเดลอยู่ใน Data Center ไหน นอกจากนี้ยังมีข้อกังขาเรื่องผลประโยชน์อีก ประเด็นนี้ The Register เรียกข้อเสนอของ Amodei ว่าเป็น Regulatory Capture หรือการที่ผู้เล่นรายใหญ่ผลักดันกฎเกณฑ์ที่ตัวเองได้เปรียบ โดยใช้ความปลอดภัยเป็นข้ออ้าง

แล้วไทยอยู่ตรงไหน?... ข่าวนี้ถูกรายงานในสื่อไทยแล้ว แต่เกือบทั้งหมดเล่นตัวเลข "10%" ซึ่งเป็นเรื่องที่เราทำอะไรไม่ได้และพิสูจน์ยากที่สุด ขณะที่บทเรียนที่ใกล้ตัวกว่าจากกรณี Hugging Face กลับแทบไม่มีใครพูดถึง องค์กรไทยจำนวนมากกำลังนำ AI Agent มาใช้งานโดยให้เข้าถึงระบบภายในและข้อมูลสำคัญ

ประเด็นนี้ ผมอยากชี้ให้เห็นว่า Agent ยิ่งเก่ง ยิ่งต้องกำหนดขอบเขตอำนาจให้ชัด ไม่ใช่ยิ่งเก่งแล้วยิ่งปล่อยทั้งหมด ต้องแยก AI ที่ "ช่วยคิด" ออกจาก Agent ที่ "ลงมือทำ" ให้สิทธิ์เท่าที่จำเป็น มีคนอนุมัติก่อนการกระทำที่ย้อนกลับยาก และมีระบบเฝ้าระวังของตัวเองที่ไม่พึ่งผู้ให้บริการเพียงอย่างเดียว เพราะกรณีนี้ Hugging Face ตรวจพบก่อนที่ OpenAI จะรู้ตัวเสียอีก ในระดับนโยบาย ถ้าวันหนึ่งสหรัฐฯ กับจีนตกลงเรื่องการชะลอกันได้จริง ประเทศที่ไม่มีโมเดลแนวหน้าของตัวเองอย่างเราจะไม่มีที่นั่งบนโต๊ะนั้น และเงื่อนไขการเข้าถึงชิปกับโมเดลจะถูกกำหนดจากข้างนอกอีกครั้ง

ผมไม่เชื่อว่าโลกจะชะลอ AI ได้ง่ายๆ ในเร็ววันนี้ การแข่งขันทางธุรกิจและภูมิรัฐศาสตร์แรงเกินกว่านั้น แต่เราก็ไม่ควรรอให้มหาอำนาจตกลงกันก่อนแล้วค่อยขยับ ถ้าโลกไม่ชะลอ สิ่งที่ประเทศเล็กอย่างไทยทำได้คือชะลอการมอบอำนาจให้กับระบบที่เรายังตรวจสอบไม่ได้ คำถามที่ผมคิดว่าสำคัญที่สุดจึงไม่ใช่ AI จะทำลายอารยธรรมหรือไม่ แต่คือเมื่อ AI ทำสิ่งที่เราไม่ต้องการ เราจะรู้ทัน หยุดได้จริง และเอาการควบคุมกลับมาได้หรือไม่ ก่อนที่มันจะสายเกินไป