เหตุการณ์แรกเกิดเมื่อวันที่ 4 มิถุนายน บริษัท Anthropic ออกบทความชื่อ “เมื่อ AI สร้างตัวมันเอง (When AI builds itself)” โดยนำเสนอหลักฐานว่า AI กำลังเร่งการพัฒนา AI ด้วยตัวเองในอัตราที่เร็วขึ้นเรื่อยๆ ทั้งนี้แนวโน้มนี้ชี้ไปสู่จุดที่เรียกว่า “recursive self-improvement” หรือการที่ AI สามารถออกแบบและสร้างรุ่นถัดไปของตัวเองได้โดยไม่ต้องพึ่งมนุษย์ แม้ Anthropic ยืนยันว่ายังไม่ถึงจุดนั้น และไม่ใช่สิ่งที่หลีกเลี่ยงไม่ได้ แต่อาจมาเร็วกว่าที่หลายองค์กรเตรียมรับมือไว้ บริษัทจึงเรียกร้องให้สร้างกลไกระดับโลกที่ทุกฝ่ายสามารถตรวจสอบได้ว่ามีการชะลอหรือหยุดพัฒนา AI แนวหน้าจริง พร้อมประกาศว่าหากบริษัทชั้นนำอื่นๆ หยุดภายใต้เงื่อนไขที่ตรวจสอบได้ Anthropic ก็พร้อมหยุดด้วยเช่นกัน
แต่แล้ววันที่ 9 มิถุนายน บริษัท Anthropic ก็เปิดตัว Claude Fable 5 ซึ่งเป็นโมเดล AI ระดับสูงสุดของบริษัทตัวแรกที่เปิดให้สาธารณะใช้งาน โดยใช้ฐานโมเดลเดียวกับ Mythos 5 ที่เคยมีข่าวเรื่องความสามารถที่น่าตกใจก่อนหน้านี้โดยเฉพาะการเจาะระบบความปลอดภัยทางไซเบอร์ แต่ Fable 5 ที่เปิดออกมาจะมีกลไกคัดกรองเนื้อหาครอบอยู่ ส่วนด้านความสามารถนั้น Fable 5 ทำคะแนนสูงสุดในกลุ่มโมเดลชั้นนำบนชุดทดสอบด้านการเขียนโค้ดหลายชุด ทั้ง SWE-bench Verified ที่ 95% และ SWE-bench Pro ที่ 80% รวมถึงได้อันดับหนึ่งด้านคุณภาพการเขียนโค้ดเชิงลึก และนำหน้า GPT-5.5 กับ Gemini 3.1 Pro ในงานด้านความรู้และการทำงานอัตโนมัติที่ซับซ้อน การเปิดตัวโมเดลนี้ทำให้สื่ออย่าง TechCrunch ถึงกับพาดหัวว่า “Anthropic ออกโมเดลที่แรงที่สุดเพียงไม่กี่วันหลังเตือนว่า AI กำลังอันตรายเกินไป”
สิ่งที่ทำให้ผมต้องมาพิจารณาอย่างจริงจังคือข้อมูลที่ Anthropic เปิดเผยออกมาเอง บริษัทบอกว่า ณ เดือนพฤษภาคมที่ผ่านมา โค้ดกว่า 80% ที่ถูกนำเข้าระบบของบริษัทเขียนโดย Claude ไม่ใช่มนุษย์ และในไตรมาสสองของปี 2569 วิศวกรทั่วไปผลิตโค้ดต่อวันได้มากกว่าปี 2567 ราว 8 เท่า ขณะเดียวกัน benchmark ของ METR ชี้ว่าความยาวของงานเชิงเทคนิคที่ AI ทำได้เองกำลังเพิ่มเป็นสองเท่าทุกๆ ราว 4 เดือน จนถึงระดับงานต่อเนื่อง 12 ชั่วโมงในวันนี้ พูดง่ายๆ คือ AI กำลังเร่งการพัฒนา AI ด้วยตัวมันเอง
Jack Clark ผู้ร่วมก่อตั้ง Anthropic ได้ให้สัมภาษณ์ในรายการ BBC Newsnight ว่า ตอนนี้วงการ AI มีแต่คันเร่ง ไม่มีคันเบรก และเราควรมีตัวเลือกที่จะถอนเท้าจากคันเร่งมาแตะเบรกได้ แต่จริงๆ แล้วข้อเรียกร้องลักษณะนี้ไม่ใช่เรื่องใหม่ ย้อนไปปี 2566 มีจดหมายเปิดผนึกที่คนมากกว่า 30,000 คนรวมถึง Elon Musk ลงชื่อเรียกร้องให้หยุดฝึกระบบ AI ที่ทรงพลังที่สุดอย่างน้อย 6 เดือน ผลคือไม่มีใครหยุดเลยแม้แต่รายเดียว
Geoffrey Hinton นักวิทยาศาสตร์ผู้ได้รับการยกย่องว่าเป็นหนึ่งในบิดาแห่ง AI สมัยใหม่ ก็เคยออกมาเตือนเรื่องอันตรายของ AI โดยพูดไว้อย่างตรงไปตรงมาว่า การหยุดพัฒนา AI อาจเป็นเรื่องที่มีเหตุผล แต่ไม่น่าจะเกิดขึ้นได้จริง เพราะการแข่งขันระหว่างบริษัทและระหว่างประเทศ และเมื่อต้นสัปดาห์นี้เอง Hinton ยังให้สัมภาษณ์วิจารณ์ Anthropic ตรงๆ ว่ากำลังเขวออกจากภารกิจด้านความปลอดภัย เพราะแรงกดดันจากการแข่งขันและการเงิน
คำถามที่สำคัญกว่าคือ ทำไมการหยุดถึงทำได้ยากนัก ผมมองว่ามีกำแพงอยู่อย่างน้อย 4 ชั้น ชั้นแรกคือ สภาวะที่นักเศรษฐศาสตร์เรียกว่ากับดักนักโทษ (prisoner's dilemma) ใครหยุดก่อนคือคนเสียเปรียบ เพราะคู่แข่งที่วิ่งต่อจะแซงขึ้นเป็นผู้นำทันที Anthropic เองก็ยอมรับในบทความว่าการหยุดฝ่ายเดียวแทบไม่มีความหมาย
ชั้นที่สองคือการตรวจสอบทำได้ยาก เพราะการฝึกโมเดล AI ซ่อนได้ง่ายกว่าการพัฒนาขีปนาวุธมาก เพราะวัตถุดิบอย่างชิปและไฟฟ้าเป็นของใช้งานทั่วไป ต่างจากอาวุธนิวเคลียร์ที่ดาวเทียมตรวจจับได้
ชั้นที่สามคือภูมิรัฐศาสตร์ ตราบใดที่จีนไม่หยุด สหรัฐก็ไม่มีทางหยุด ตัวอย่างที่ชัดที่สุดคือ DeepSeek ของจีนที่เปิดตัวโมเดล V4 Pro ขนาด 1.6 ล้านล้านพารามิเตอร์แบบเปิดสาธารณะไปเมื่อปลายเดือนเมษายนที่ผ่านมา แข่งขันได้ในหลายด้านแม้จะยังตามหลังโมเดลแบบปิดของอเมริกาอยู่บ้าง ทั้งที่จีนถูกควบคุมการส่งออกชิป AI ชั้นนำจากสหรัฐมาตลอด
ชั้นสุดท้ายคือ เวลา Anthropic เปรียบเทียบกับสนธิสัญญาควบคุมอาวุธนิวเคลียร์ที่โลกเคยสร้างกลไกตรวจสอบสำเร็จ แต่ใช้เวลาหลายสิบปีกว่าจะสร้างทั้งโครงสร้างและความไว้ใจ ซึ่งครั้งนี้เราไม่มีเวลามากขนาดนั้น
แล้วเราควรมอง Fable 5 ที่ออกมาในสัปดาห์เดียวกันอย่างไร? ผมมองว่าบริษัท Anthropic อาจเห็นความเสี่ยงจริง แต่ก็ติดอยู่ในกับดักการแข่งขันที่ตัวเองพูดถึง ถ้า Anthropic ถอนตัวบริษัทเดียว OpenAI และ Google ก็วิ่งต่ออยู่ดี ยิ่งบริษัทกำลังเตรียมเข้าตลาดหลักทรัพย์ด้วยมูลค่าประเมินเกือบหนึ่งล้านล้านดอลลาร์ นักวิจารณ์บางคนจึงตั้งข้อสังเกตว่าการเรียกร้องให้ทั้งวงการชะลอพร้อมกัน อาจเป็นการล็อกสนามแข่งไม่ให้รายเล็กตามทันพอๆ กับเป็นความห่วงใยต่อมนุษยชาติ
ที่น่าสนใจคือวิธีจัดการความเสี่ยงของ Fable 5 เอง โมเดลนี้จะปฏิเสธคำตอบในพื้นที่เสี่ยงสูงอย่างความมั่นคงไซเบอร์ ชีววิทยา และเคมี ส่วนเวอร์ชันเต็มที่ชื่อ Mythos 5 เริ่มต้นเปิดให้เฉพาะพันธมิตรในโครงการ Glasswing ซึ่งเป็นกลุ่มผู้พิทักษ์ระบบไซเบอร์และผู้ดูแลโครงสร้างพื้นฐานสำคัญ พร้อมเตรียมเปิดการเข้าถึงแบบจำกัดสำหรับนักวิจัยชีววิทยาบางส่วนด้วย นี่คือภาพของการกำกับดูแลตนเองที่บริษัทออกแบบเอง ตรวจสอบเอง และเปลี่ยนกติกาเองได้ทุกเมื่อ
แล้วไทยอยู่ตรงไหนในเรื่องนี้? หลายคนอาจมองว่านี่เป็นการถกเถียงของมหาอำนาจที่ไกลตัวเรา แต่ถ้ากลไกการกำกับ AI ระดับแนวหน้าของโลกเกิดขึ้นจริง โต๊ะเจรจานั้นจะมีแต่สหรัฐ จีน และยุโรป ขณะที่ประเทศอย่างเราจะเป็นเพียงผู้รับผลของกติกาที่คนอื่นเขียน เหมือนที่เคยเกิดกับกติกาการค้าและทรัพย์สินทางปัญญามาแล้ว ในขณะเดียวกันผลกระทบกลับมาถึงเราเต็มๆ ทั้งเรื่องแรงงานที่ AI Agent กำลังทำงานแทนคนได้เพิ่มขึ้นเรื่อยๆ ทั้งเรื่องศูนย์ข้อมูลที่ไทยกำลังเป็นสมรภูมิลงทุนของทั้งสองขั้ว ผมจึงคิดว่าโจทย์ของเราไม่ใช่การไปร่วมถกว่าควรหยุด AI หรือไม่ แต่คือการเตรียมบ้านตัวเองให้พร้อมรับทุกสถานการณ์ ตั้งแต่การเร่งพัฒนาทักษะคนทำงาน การวางกรอบธรรมาภิบาล AI ของเราเอง ไปจนถึงการสร้างขีดความสามารถให้เข้าใจเทคโนโลยีนี้ลึกพอที่จะไม่ต้องพึ่งประเทศมหาอำนาจด้าน AI เพียงข้างใดข้างหนึ่ง
บทความของ Anthropic ครั้งนี้มีคุณค่าตรงที่มันบังคับให้โลกต้องคุยเรื่องที่เคยถูกมองว่าเป็นนิยายวิทยาศาสตร์อย่างจริงจัง แต่บทเรียนจากจดหมายปี 2566 ก็สอนเราแล้วว่าคำเตือนเพียงอย่างเดียวหยุดอะไรไม่ได้ ตราบใดที่แรงจูงใจทางธุรกิจและภูมิรัฐศาสตร์ยังชี้ไปทางเดียวกันคือเร่งให้เร็วขึ้น คันเบรกที่ทุกคนพูดถึงก็จะยังเป็นแค่ภาพร่างบนกระดาษ
คำถามที่อยากฝากทิ้งท้ายไว้คือ ถ้าคนสร้างเทคโนโลยีบอกเราเองว่าเขาอยากมีเบรกแต่หยุดเหยียบคันเร่งไม่ได้ แล้วสังคมจะฝากอนาคตไว้กับความสมัครใจของพวกเขาต่อไป หรือถึงเวลาที่ต้องช่วยกันสร้างเบรกนั้นขึ้นมาเอง
