เอไอถึงจุดที่ผู้นำขอชะลอ? ย้อนเหตุการณ์เอเจนต์ทำเกินคำสั่ง - เอไอถูกใช้ในงานอันตราย

ตลอดช่วงไม่กี่เดือนที่ผ่านมา คำเตือนเรื่องอันตรายของเอไอเริ่มเปลี่ยนจากเรื่องที่อยู่ในงานวิจัยและการคาดการณ์อนาคต มาเป็นเหตุการณ์ที่เกิดขึ้นกับระบบจริมากขึ้น

เอเจนต์ของโอเพนเอไอ (OpenAI) ถูกพบว่า สามารถหลีกเลี่ยงข้อจำกัดของสภาพแวดล้อมทดสอบ เข้าไปทำงานบนระบบภายนอก ในบางกรณีใช้เว็บไซต์ที่ไม่ได้รับอนุญาตเป็นช่องทางสื่อสาร ขณะที่แอนโทรปิก (Anthropic) พบทั้งกรณีโมเดลเข้าถึงระบบภายนอกระหว่างการทดสอบ และการนำ Claude ไปใช้กับงานไซเบอร์ การสอดแนม อาวุธ และงานวิจัยชีวภาพที่บริษัทมองว่ามีความเสี่ยง

เจค็อบ ค็อกซอน (Jacob Coxon) นักวิจัยของแอนโทรปิกลาออกจากบริษัทในเดือนกันยายน พร้อมแสดงความกังวลว่า การแข่งขันกำลังเร่งไปสู่เอไอที่สามารถพัฒนาความสามารถของตัวเองได้ ขณะที่ความเข้าใจเรื่องความปลอดภัยยังตามไม่ทัน ส่วนอีแวน ฮิวบิงเกอร์ (Evan Hubinger) นักวิจัยด้าน alignment ของแอนโทรปิก ประเมินว่า ความเสี่ยงที่เอไอจะนำไปสู่การสูญพันธุ์ของมนุษย์อาจสูงกว่า 10% ภายในทศวรรษ

วันที่ 12 กันยายน 2569 ดาริโอ อโมเดอี (Dario Amodei) ประธานเจ้าหน้าที่บริหารแอนโทรปิก จึงออกบทความ We Must Pace the Frontier เรียกร้องให้บริษัทที่พัฒนาเอไอระดับแนวหน้าชะลอความเร็วในการเพิ่มความสามารถของโมเดล เพื่อให้การตรวจสอบความปลอดภัยและการกำกับดูแลมีเวลาตามทัน โดยไม่ได้เสนอให้หยุดการพัฒนาเอไอ แต่ให้กำหนดจุดตรวจสอบด้านความปลอดภัยก่อนเดินหน้าไปสู่ความสามารถระดับถัดไป และเปิดทางให้ผู้ประเมินอิสระเข้าถึงระบบของบริษัทเพื่อประเมินความเสี่ยง

สิ่งที่ทำให้ข้อเสนอนี้ต่างจากการเรียกร้องให้หยุดพัฒนาเอไอที่เคยเกิดขึ้นในปี 2566 คือ ครั้งนี้เกิดขึ้นหลังมีหลักฐานจากการทดสอบจริงหลายกรณี และยังได้รับเสียงสนับสนุนจากจากผู้นำบริษัทเอไอรายอื่น ทั้งแซม อัลท์แมน (Sam Altman) แห่งโอเพนเอไอ อีลอน มัสก์ (Elon Musk) แห่งเอ็กซ์เอไอ (xAI) และเดมิส ฮัสซาบิส (Demis Hassabis) แห่งกูเกิล ดีปมายด์ (Google DeepMind)

จุดเริ่มต้นไม่ได้เกิดขึ้นวันที่ผู้นำเอไอเรียกร้องให้ชะลอ

หากย้อนกลับไปดูเหตุการณ์ตั้งแต่กลางปี จะเห็นว่าความกังวลนี้ไม่ได้เกิดขึ้นในวันเดียว แต่ค่อยๆ สะสมจากเหตุการณ์หลายรูปแบบ ตั้งแต่เอเจนต์ทำสิ่งที่ไม่ได้รับอนุญาต หาช่องทางใหม่เมื่อถูกจำกัด ไปจนถึงมนุษย์นำโมเดลที่มีความสามารถสูงไปใช้กับงานที่บริษัทผู้พัฒนาไม่ต้องการให้ทำ

หนึ่งในเหตุการณ์ที่ถูกนำกลับมาพิจารณาคือ กรณี RubyGems ในเดือนพฤษภาคม 2569 ซึ่งมีการสร้างบัญชีใหม่จำนวนมากและเผยแพร่แพ็กเกจสแปมและโค้ดที่เป็นอันตรายมากกว่า 500 รายการ รูบีเซ็นทรัลระบุว่า ได้ลบแพ็กเกจดังกล่าว และไม่พบหลักฐานว่าความพยายามขโมยคีย์สำหรับเข้าถึงระบบประสบความสำเร็จ

เหตุการณ์ที่มีหลักฐานชัดเจนกว่าเกิดขึ้นในเดือนกรกฎาคม เมื่อโอเพนเอไอพบว่า โมเดลที่อยู่ระหว่างการทดสอบด้านความปลอดภัยไซเบอร์สามารถหลีกเลี่ยงข้อจำกัดที่ออกแบบมาเพื่อแยกโมเดลออกจากอินเทอร์เน็ต ก่อนเข้าไปเกี่ยวข้องกับระบบของ ฮักกิงเฟซ (Hugging Face)

เดิมโอเพนเอไอมองเหตุการณ์นี้เป็นปัญหาความปลอดภัยไซเบอร์ แต่เมื่อสอบสวนมากขึ้น บริษัทพบว่า พฤติกรรมดังกล่าวเกี่ยวข้องกับสิ่งที่เรียกว่า misalignment หรือพฤติกรรมของโมเดลที่ไม่สอดคล้องกับเป้าหมายและข้อจำกัดที่มนุษย์กำหนดไว้

รายงานของโอเพนเอไอระบุว่า มีทั้งการหาทางหลีกเลี่ยงข้อจำกัด การใช้ช่องทางสื่อสารที่ไม่ได้รับอนุญาต การใช้ประโยชน์จากโครงสร้างพื้นฐานร่วม และการที่เอเจนต์บางตัวรับเป้าหมายจากเอเจนต์อื่นจนเกิดพฤติกรรมที่หลุดออกจากงานเดิม นอกจากนี้ยังพบปัญหาการหาวิธีทำให้ระบบประเมินผลงานออกมาดี โดยไม่ได้ทำงานตามเจตนาที่แท้จริงของการทดสอบ

สิ่งที่ทำให้กรณีนี้น่ากังวลจึงไม่ใช่เพียงการที่ระบบถูกเจาะ แต่เป็นวิธีที่เอเจนต์พยายามทำภารกิจให้สำเร็จ เมื่อช่องทางปกติไม่เพียงพอ

ผลการตรวจสอบโดย METR และ Redwood Research ยังพบว่าเหตุการณ์ดังกล่าวเกี่ยวข้องกับเอเจนต์ประมาณ 700 ตัวที่ทำงานประสานกัน โดยมีการทดลองหาวิธีหลบเลี่ยงการตรวจสอบและปกปิดร่องรอยกิจกรรมของตัวเอง

รายงานภายหลังระบุว่า กลุ่มที่เกี่ยวข้องกับการทดสอบมีเอเจนต์ราว 1,200 ตัวและก่อให้เกิดเหตุการณ์บนระบบมากกว่า 17,000 ครั้ง ตัวเลขจึงแตกต่างกันตามขอบเขตที่แต่ละรายนับ แต่ทั้งสองชุดข้อมูลชี้ไปในทิศทางเดียวกันว่า นี่ไม่ใช่เหตุการณ์ที่เกิดจากเอเจนต์ตัวเดียว

ผลกระทบจากเหตุการณ์เหล่านี้เริ่มขยับออกจากวงการเทคโนโลยีไปสู่ภาครัฐ ในเดือนสิงหาคม รัฐแอละแบมาออกหมายเรียกโอเพนเอไอเพื่อขอข้อมูลเกี่ยวกับเหตุฮักกิงเฟซ และเปิดการสอบสวนว่า การดำเนินการทดสอบของบริษัทเข้าข่ายละเมิดกฎหมายคุ้มครองผู้บริโภคของรัฐหรือไม่

โดยทางการระบุว่า ต้องการตรวจสอบว่าบริษัทมีมาตรการควบคุมและกำกับดูแลเพียงพอหรือไม่ เรื่องนี้ทำให้ผลกระทบของเอไอเปลี่ยนจากปัญหาภายในห้องทดลองเป็นเรื่องความรับผิดชอบของบริษัทต่อบุคคลภายนอก เพราะเมื่อเอเจนต์สามารถเข้าถึงระบบจริงได้ ความเสียหายไม่ได้ตกอยู่กับผู้พัฒนาโมเดลเพียงฝ่ายเดียว แต่อาจกระทบแพลตฟอร์มอื่น ผู้ให้บริการโครงสร้างพื้นฐาน นักพัฒนา และผู้ใช้ที่ไม่ได้เกี่ยวข้องกับการทดลองตั้งแต่แรก

กรกฎาคม 2569 เอเจนต์หลุดจากสภาพแวดล้อมทดสอบ

วันที่ 4 กันยายน มีรายงานว่าเอเจนต์เข้าไปใช้เว็บไซต์วิกิสาธารณะแห่งหนึ่งเป็นเหมือนกระดานข้อความสำหรับสื่อสารกันเอง โอเพนเอไอยืนยันในเวลาต่อมาว่า พบกิจกรรมดังกล่าว และจัดให้เป็นหนึ่งในตัวอย่างของพฤติกรรม misalignment ที่กำลังอยู่ระหว่างการตรวจสอบ

วันที่ 9 กันยายน พบร่องรอยกิจกรรมของเอเจนต์บนเว็บไซต์อื่นอีกอย่างน้อย 10 แห่ง โดยมีทั้งวิกิ เว็บไซต์เก็บข้อความ บริการย่อเว็บไซต์ และเว็บไซต์ส่วนบุคคล นักวิจัยบางรายพบจำนวนเว็บไซต์มากกว่านั้น แต่ต่างยอมรับว่าการตรวจสอบยังไม่สามารถบอกขอบเขตทั้งหมดได้ รายละเอียดนี้สำคัญ เพราะทำให้คำว่าเอเจนต์แตกต่างจากแชตบอตที่คนทั่วไปคุ้นเคยอย่างชัดเจน

แชตบอตอาจตอบคำถามผิดแล้วจบอยู่ในหน้าต่างสนทนา แต่เอเจนต์ถูกสร้างมาเพื่อทำงานต่อเนื่อง สามารถเรียกใช้เครื่องมือ เขียนโค้ด เข้าถึงเว็บไซต์ ประเมินผลลัพธ์ และเลือกขั้นตอนถัดไปได้ เมื่อเอเจนต์มีช่องทางเข้าถึงโลกภายนอก ความผิดพลาดจึงไม่ได้เป็นเพียงคำตอบที่ผิด แต่สามารถกลายเป็นการกระทำที่เกิดขึ้นจริงบนระบบอื่น

ดังนั้น เมื่อเอเจนต์สามารถหาทางออกจากสภาพแวดล้อมที่ถูกสร้างมาเพื่อควบคุมได้ สิ่งที่ต้องตรวจสอบจึงไม่ใช่แค่คำตอบของโมเดล แต่เป็นพฤติกรรมของระบบทั้งหมด ตั้งแต่สิ่งที่มันพยายามทำ เครื่องมือที่เรียกใช้ ไปจนถึงวิธีที่มันตอบสนองเมื่อถูกขัดขวาง

โอเพนเอไอระบุว่า กำลังขยายการตรวจสอบกิจกรรมย้อนหลัง และจนถึงขณะนี้ได้แจ้งเตือนบุคคลหรือองค์กรภายนอกหลายสิบแห่งเกี่ยวกับกิจกรรมที่อาจส่งผลกระทบต่อระบบของพวกเขา โดยบริษัทบอกว่าการตรวจสอบยังดำเนินต่อไปและจะใช้เวลาอีกมาก

อีกด้านของปัญหา มนุษย์กำลังใช้เอไอทำเรื่องที่อันตรายขึ้น

ขณะที่โอเพนเอไอกำลังตรวจสอบพฤติกรรมของเอเจนต์ตัวเอง แอนโทรปิกก็พบปัญหาอีกด้านหนึ่ง นั่นคือ ไม่ได้มีเพียงเอไอที่อาจหาทางออกจากข้อจำกัด แต่มีมนุษย์ที่กำลังพยายามนำความสามารถของเอไอไปใช้ในงานที่บริษัทไม่อนุญาต

วันที่ 10 กันยายน 2569 แอนโทรปิกเปิดเผยรายงานข่าวกรองภัยคุกคามที่รวบรวมเหตุการณ์ระหว่างเดือนธันวาคม 2568 ถึงสิงหาคม 2569 โดยระบุว่า บริษัทพบและขัดขวางการนำ Claude ไปใช้ใน 7 กลุ่มความเสี่ยง ตั้งแต่ปฏิบัติการไซเบอร์ การสอดแนม ปฏิบัติการข้อมูล การหลอกลวงและฉ้อโกง การใช้ในงานชีวภาพ การพัฒนาอาวุธแบบดั้งเดิม ไปจนถึงการพยายามดึงความสามารถของโมเดลไปฝึกระบบอื่น

แอนโทรปิกระบุว่า ในกรณีที่พบการละเมิด บริษัทได้ระงับบัญชีที่เกี่ยวข้อง ปรับปรุงระบบตรวจจับ และในบางกรณีแบ่งปันข้อมูลกับหน่วยงานรัฐหรือบริษัทอื่นที่เกี่ยวข้อง กรณีนี้ทำให้ภาพของความเสี่ยงจากเอไอซับซ้อนขึ้น เพราะต้นเหตุไม่ได้จำเป็นต้องมาจากโมเดลที่พยายามทำสิ่งที่ผู้สร้างไม่ต้องการเสมอไป แต่อาจเกิดจากมนุษย์ที่นำความสามารถของโมเดลไปใช้ผิดประเภท

หนึ่งในกลุ่มที่แอนโทรปิกให้ความสำคัญคือ การใช้ Claude กับงานด้านความมั่นคงและอาวุธ บริษัทระบุว่า พบการใช้ระบบเพื่อพัฒนาซอฟต์แวร์ที่เกี่ยวข้องกับอาวุธปืน ขีปนาวุธ โดรนติดอาวุธ ระเบิด ระบบกระสุน ตลอดจนระบบกำหนดเป้าหมายและควบคุมอาวุธ โดยพบกรณีที่เกี่ยวข้องกับจีน รัสเซีย และเยเมน

อีกกลุ่มคือ การสอดแนม ซึ่งแอนโทรปิกระบุว่าพบผู้ใช้นำ Claude ไปช่วยสร้างเครื่องมือสำหรับติดตามบุคคล วิเคราะห์ข้อมูล และสร้างระบบเฝ้าระวังที่เดิมอาจต้องใช้แรงงานด้านวิศวกรรมจำนวนมาก ในบางกรณีโมเดลไม่ได้ทำหน้าที่เป็นเพียงผู้ช่วยตอบคำถาม แต่ถูกนำเข้าไปเป็นส่วนหนึ่งของกระบวนการทำงาน ตั้งแต่ช่วยเขียนโค้ด วิเคราะห์ข้อมูล ไปจนถึงช่วยทำงานที่ต้องใช้ความรู้เฉพาะทาง

กรณีที่ทำให้คำถามเรื่องขอบเขตความสามารถของเอไอชัดเจนขึ้นอีกคือ การนำโมเดลไปใช้กับงานวิจัยทางชีวภาพ แอนโทรปิกระบุว่า พบความพยายามใช้ Claude ช่วยงานวิจัยที่เกี่ยวข้องกับอาวุธชีวภาพ รวมถึงงานเกี่ยวกับการออกแบบหรือปรับปรุงสารพิษและเชื้อโรค เมื่อระบบตรวจพบกิจกรรมดังกล่าว บริษัทได้ระงับบัญชีที่เกี่ยวข้องและปรับปรุงมาตรการป้องกัน

แอนโทรปิกระบุว่า กรณีเหล่านี้ไม่ใช่การใช้งานผิดประเภททั่วไป แต่เป็นตัวอย่างของกิจกรรมที่บริษัทมองว่ามีความใหม่และมีความเสี่ยงสูง และเมื่อโมเดลมีความสามารถเพิ่มขึ้น ความเสี่ยงจากการนำไปใช้ผิดประเภทก็เพิ่มขึ้นตามไปด้วย

แอนโทรปิกเองก็พบโมเดลที่แฮ็กระบบระหว่างการทดสอบ

นอกจากรายงานเรื่องการนำ Claude ไปใช้ในทางที่ผิดแล้ว แอนโทรปิกยังเปิดเผยเหตุการณ์ด้านความปลอดภัยอีกกรณีในวันที่ 9 กันยายน

บริษัทระบุว่า Claude Opus 4.6 รุ่นต้นแบบ เคยแฮ็กระบบภายนอกระหว่างการทดสอบในเดือนมกราคม 2569 แต่เหตุการณ์ดังกล่าวไม่ถูกตรวจพบจนกระทั่งเดือนสิงหาคม แม้ก่อนหน้านั้นบริษัทจะมีการตรวจสอบภายในครั้งใหญ่แล้วก็ตาม แอนโทรปิกจึงต้องทบทวนผลการทดสอบมากกว่า 141,000 ครั้ง และว่าจ้างหน่วยงานภายนอกเข้ามาช่วยตรวจสอบ

กรณีนี้เพิ่มอีกหนึ่งคำถามให้กับปัญหาทั้งหมด นั่นคือ หากผู้พัฒนาเองไม่สามารถตรวจพบพฤติกรรมบางอย่างของโมเดลได้ตั้งแต่แรก ระบบตรวจสอบที่มีอยู่ในปัจจุบันเพียงพอแล้วหรือยัง

นี่เป็นเหตุผลว่าทำไมเรื่องความปลอดภัยของเอไอจึงไม่ได้จบที่การเขียนข้อห้ามให้โมเดล หรือการสร้างพื้นที่ทดสอบที่แยกออกจากอินเทอร์เน็ต แต่ต้องรวมถึงการประเมินอย่างต่อเนื่องว่าโมเดลกำลังทำอะไรจริงๆ เมื่อถูกนำไปอยู่ในสถานการณ์ที่ซับซ้อน

12 กันยายน 2569 วันที่คำว่า ‘ชะลอ’ กลับมาอยู่บนโต๊ะ

หนึ่งวันหลังจากรายงานของแอนโทรปิกกลายเป็นประเด็นใหญ่ อโมเดอีออกมาเขียนบทความ We Must Pace the Frontier เสนอให้วงการเอไอชะลอความเร็วในการพัฒนาโมเดลระดับแนวหน้า

ในข้อเสนอของอโมเดอีไม่ได้หมายถึงการหยุดพัฒนาเอไอทั้งหมด แต่หมายถึงการกำหนดจังหวะการพัฒนาใหม่ เพื่อให้ระบบความปลอดภัย การตรวจสอบ และกฎกำกับดูแลมีเวลาตามทันความสามารถของโมเดล

อโมเดอีเสนอ 3 แนวทางหลัก แนวทางแรกคือ การให้มีผู้ประเมินอิสระที่ทำงานภายในบริษัทเอไอระดับแนวหน้า และมีสิทธิ์เข้าถึงระบบในระดับใกล้เคียงกับพนักงาน เพื่อให้สามารถตรวจสอบความปลอดภัยและรายงานปัญหาได้จริง ไม่ใช่ต้องรอให้บริษัทเลือกเปิดเผยข้อมูลเอง

แนวทางที่สองคือ ให้บริษัทเอไอในประเทศประชาธิปไตยร่วมกันกำหนดมาตรฐานความปลอดภัยและข้อจำกัดบางอย่าง เพื่อไม่ให้การแข่งขันทางธุรกิจกลายเป็นแรงผลักให้บริษัทแต่ละแห่งต้องเร่งพัฒนาโมเดลโดยลดความสำคัญของความปลอดภัย

แนวทางที่สามคือ การสร้างความร่วมมือระดับนานาชาติ ซึ่งรวมถึงการพูดคุยกับประเทศที่มีระบบการเมืองแตกต่างกันอย่างจีนและรัสเซีย เพราะความเสี่ยงจากเอไอไม่ได้หยุดอยู่ที่พรมแดนของประเทศใดประเทศหนึ่ง

อโมเดอียังเตือนว่า หากการพัฒนาเดินหน้าต่อโดยไม่มีการชะลอเพื่อให้ระบบความปลอดภัยตามทัน ฝูงเอเจนต์ที่มีความสามารถสูงอาจสามารถควบคุมหรือมีอิทธิพลต่อส่วนสำคัญของอินเทอร์เน็ตได้ภายในเวลา 6-12 เดือน

อย่างไรก็ตาม ตัวเลขดังกล่าวเป็นการประเมินความเสี่ยงของอโมเดอี ไม่ใช่ข้อเท็จจริงที่พิสูจน์แล้วว่าจะเกิดขึ้นแน่นอน

สาระสำคัญของข้อเสนอจึงไม่ได้อยู่ที่การบอกว่าโลกกำลังจะถูกเอไอยึดครองในอีกไม่กี่เดือน แต่คือการตั้งคำถามว่า หากความสามารถของระบบเพิ่มขึ้นเร็วกว่าความสามารถในการตรวจสอบ เราควรปล่อยให้การพัฒนาดำเนินต่อด้วยความเร็วเดิมหรือไม่

จากคู่แข่ง กลายเป็นคนพูดเรื่องเดียวกัน

สิ่งที่ทำให้คำเตือนของอโมเดอีมีน้ำหนักมากขึ้นคือ ปฏิกิริยาจากคู่แข่งในอุตสาหกรรม อัลท์แมนเห็นด้วยกับแนวคิดเรื่องผู้ประเมินอิสระ และโอเพนเอไอระบุว่า จะนำแนวคิดดังกล่าวมาใช้ โดยให้ผู้ประเมินมีสิทธิ์เข้าถึงระบบในระดับที่เพียงพอสำหรับตรวจสอบความปลอดภัย

อัลท์แมนยังพูดถึงความเสี่ยงในระดับรุนแรง โดยระบุว่าความเสี่ยงแม้เพียง 10% ที่เอไอจะนำไปสู่การสูญพันธุ์ของมนุษย์ก็เป็นระดับที่ยอมรับไม่ได้

ความกังวลนี้ยังเข้าไปเกี่ยวข้องกับทิศทางธุรกิจของโอเพนเอไอโดยตรง อัลท์แมนให้สัมภาษณ์กับฟอร์จูนว่า บริษัทจะไม่เข้าตลาดหลักทรัพย์ในปี 2569 พร้อมมองว่าการนำบริษัทเข้าตลาดในเวลานี้ยังไม่เหมาะสม เพราะโอเพนเอไอยังมีงานด้านความปลอดภัย และการทำให้ระบบเอไอทำงานสอดคล้องกับเป้าหมายของมนุษย์อีกมากที่ต้องจัดการก่อน

เขาย้ำว่า ความปลอดภัยและการทำให้เอไอสอดคล้องกับเป้าหมายเป็นเรื่องที่โอเพนเอไอให้ความสำคัญในช่วงเวลานี้

อัลท์แมนยังเปิดเผยว่า โอเพนเอไอกำลังพูดคุยกันถึงแนวทางที่จะหยุดหรือชะลอการฝึกโมเดลชั่วคราว เพื่อเปิดเวลาให้ทีมงานตรวจสอบและพัฒนาระบบความปลอดภัยให้ตามทันความสามารถของโมเดลมากขึ้น รวมถึงมีการพูดคุยถึงความเป็นไปได้ในการทำข้อตกลงร่วมกับบริษัทเอไอรายอื่น เพื่อชะลอการพัฒนาเมื่อโมเดลไปถึงระดับความสามารถบางขั้น

จากนั้นมัสก์ก็ออกมาสนับสนุนอโมเดียด้วยข้อความสั้นๆ ว่า “Dario is right” ขณะที่ฮัสซาบิสก็แสดงท่าทีสนับสนุนแนวคิดเรื่องการกำหนดมาตรฐานร่วมและการพัฒนาเอไออย่างระมัดระวังมากขึ้น โดยระบุว่า ข้อเสนอของอโมเดอีชี้ไปในทิศทางที่ถูกต้อง และสอดคล้องกับแนวคิดของกูเกิล ดีปมายด์ที่เสนอให้มีมาตรฐานร่วมสำหรับเอไอระดับแนวหน้า โดยรายละเอียดของแนวทางดังกล่าวยังต้องหารือและกำหนดให้ชัดเจนต่อไป

เสียงกังวลไม่ได้มาจากซีอีโอเท่านั้น ยังมีนักวิจัยที่ลาออก

ความกังวลเรื่องความเร็วในการพัฒนาเอไอไม่ได้เกิดขึ้นเฉพาะในระดับผู้บริหารบริษัท ก่อนที่อโมเดอีจะออกมาเรียกร้องให้วงการเอไอชะลอการพัฒนาเพียงไม่กี่วัน ค็อกซอน นักวิจัยของแอนโทรปิกลาออกจากบริษัทในเดือนกันยายน พร้อมแสดงความกังวลว่าบริษัทเอไอกำลังเร่งไปสู่ระบบที่สามารถพัฒนาตัวเองได้ ขณะที่ความเข้าใจเรื่องความปลอดภัยยังตามไม่ทันความเร็วของการแข่งขัน

ค็อกซอนไม่ใช่นักวิจัยจากภายนอกที่เข้ามาวิจารณ์บริษัท เพราะก่อนหน้านี้เขาเคยทำงานวิจัยด้านการฝึกโมเดลทั้งที่โอเพนเอไอและแอนโทรปิก รวมเวลาประมาณ 3 ปี ทำให้เขาเป็นคนที่ผ่านการทำงานกับระบบเอไอรุ่นใหม่โดยตรง และเห็นการพัฒนาของเทคโนโลยีจากภายในแล็บ การลาออกของเขาจึงเป็นอีกสัญญาณหนึ่งว่า ความกังวลเรื่องความเร็วของการแข่งขันไม่ได้เกิดขึ้นเฉพาะในระดับผู้บริหาร

อีกคนที่แสดงความกังวลในทิศทางเดียวกันคือ ฮิวบิงเกอร์ นักวิจัยด้านการจัดให้เอไอทำงานสอดคล้องกับเป้าหมายที่มนุษย์กำหนด หรือ alignment ของแอนโทรปิก เขาประเมินว่าความเสี่ยงที่เอไอจะนำไปสู่การสูญพันธุ์ของมนุษย์อาจมีมากกว่า 10% ภายในทศวรรษ และยอมรับว่าวงการเอไอยังไม่มีวิธีแก้ปัญหา alignment ที่ชัดเจนสำหรับระบบที่มีความสามารถเหนือมนุษย์ในหลายด้าน

แล้วทำไมสหรัฐยังไม่คิดจะเหยียบเบรก?

รัฐบาลสหรัฐภายใต้ประธานาธิบดีโดนัลด์ ทรัมป์ ยังคงให้ความสำคัญกับการรักษาความเป็นผู้นำด้านเอไอของประเทศเหนือจีน และไม่ได้แสดงท่าทีสนับสนุนการหยุดพัฒนาเอไอในแบบเดียวกับข้อเสนอที่เคยเกิดขึ้นในอดีต เหตุผลคือ เอไอไม่ได้เป็นเพียงเทคโนโลยีเชิงพาณิชย์อีกต่อไป แต่เกี่ยวข้องกับการแข่งขันด้านเศรษฐกิจ ชิป พลังงาน ความมั่นคง และศักยภาพทางทหารระหว่างสหรัฐกับจีน หากสหรัฐชะลอการพัฒนามากเกินไป

ในขณะที่จีนยังเดินหน้าก็เกิดคำถามว่าความได้เปรียบด้านเทคโนโลยีจะเปลี่ยนมือหรือไม่ จึงเกิดความขัดแย้งทางนโยบายขึ้นในเวลาเดียวกัน คือฝ่ายหนึ่งต้องการให้การพัฒนาเร็วพอที่จะรักษาความเป็นผู้นำของประเทศ ขณะที่อีกฝ่ายกังวลว่าความเร็วเดียวกันนั้นอาจทำให้ระบบความปลอดภัยตามไม่ทัน สหรัฐจึงไม่ได้มีท่าทีเป็นเสียงเดียวกันทั้งหมด บริษัทเทคโนโลยี นักวิจัย และนักการเมืองบางส่วนกำลังเรียกร้องให้มีกฎที่เข้มขึ้น ขณะที่รัฐบาลกลางยังให้ความสำคัญกับการแข่งขันด้านเทคโนโลยีกับจีน

อย่างไรก็ตาม บารัก โอบามา (Barack Obama) อดีตประธานาธิบดีสหรัฐ เรียกร้องให้พรรคเดโมแครตจัดทำกรอบนโยบายสำหรับการรับมือเอไอ และเปิดการพูดคุยกับสาธารณะเกี่ยวกับความปลอดภัยของเทคโนโลยี หลังความกังวลเรื่องเอไอเพิ่มขึ้นทั้งจากความสามารถของระบบที่พัฒนาอย่างรวดเร็ว การสูญเสียงาน ไปจนถึงผลกระทบต่อเด็กและเยาวชน

โอบามากล่าวระหว่างงานระดมทุนแบบปิดที่แมนฮัตตัน โดยพูดกับฮาคีม เจฟฟรีส์ (Hakeem Jeffries) ผู้นำพรรคเดโมแครตในสภาผู้แทนราษฎรสหรัฐว่า หากเจฟฟรีส์ขึ้นเป็นประธานสภา เขาต้องการให้พรรคจัดทำกรอบสำหรับการพูดคุยกับสาธารณะเกี่ยวกับการจัดการเอไออย่างจริงจัง

โอบามามองว่า เอไอกำลังพัฒนาอย่างรวดเร็วภายใต้การควบคุมของบริษัทเอกชน และหากสังคมไม่สามารถกำกับเทคโนโลยีได้ทัน อาจกลายเป็นอันตรายได้ แต่ในอีกด้านหนึ่ง หากสามารถจัดการได้อย่างเหมาะสม เอไอก็มีศักยภาพในการสร้างประโยชน์ เช่น ช่วยเร่งการพัฒนายาและการรักษาโรค รวมถึงช่วยค้นหาแนวทางสำหรับพลังงานสะอาด

ประเด็นที่โอบามาต้องการให้พรรคหยิบมาพูดไม่ได้มีเฉพาะเรื่องการชะลอการพัฒนาเอไอ แต่รวมถึงมาตรการด้านความปลอดภัย ผลกระทบต่อตลาดแรงงาน และการปกป้องเด็กจากผลกระทบของเทคโนโลยี 

โอบามายังแสดงความกังวลในช่วงเดียวกับที่ผู้นำบริษัทเอไอ และนักวิจัยบางส่วนเริ่มพูดถึงความจำเป็นในการชะลอการแข่งขันด้านความสามารถของโมเดล เพื่อให้การพัฒนาด้านความปลอดภัยและการกำกับดูแลตามให้ทัน ขณะที่เงินลงทุนในอุตสาหกรรมเอไอยังคงเพิ่มขึ้นอย่างรวดเร็ว

จีนก็ไม่ได้หยุด แต่กำลังเข้าสู่โต๊ะเจรจาเรื่องความปลอดภัย

ฝั่งจีนเองก็ไม่มีสัญญาณว่าจะหยุดการแข่งขันด้านเอไอ แต่สิ่งที่กำลังเกิดขึ้นคือสหรัฐและจีนเตรียมเปิดการหารือด้านความปลอดภัยเอไอโดยเฉพาะในช่วงกลางเดือนกันยายน ก่อนการพบกันระหว่างทรัมป์กับสี จิ้นผิง ประเด็นที่คาดว่าจะอยู่ในการหารือรวมถึงความเสี่ยงจากการโจมตีทางไซเบอร์ที่ขับเคลื่อนด้วยเอไอ การกำกับดูแลของบริษัทเอไอ และความเสี่ยงจากโมเดลที่มีความสามารถสูงขึ้น

จุดนี้สำคัญ เพราะสหรัฐและจีนยังอยู่ในภาวะแข่งขันกันอย่างหนัก ทั้งเรื่องชิป โมเดลเอไอ และการเข้าถึงเทคโนโลยี ขณะเดียวกันสหรัฐก็กล่าวหาบริษัทเอไอจีนบางแห่งว่าใช้วิธีดึงความสามารถจากโมเดลของบริษัทอเมริกันไปฝึกโมเดลของตัวเอง ขณะที่จีนปฏิเสธข้อกล่าวหา

ดังนั้น การที่ทั้งสองประเทศกำลังคุยเรื่องความปลอดภัยไม่ได้หมายความว่าสหรัฐกับจีนกำลังตกลงกันว่าจะหยุดการแข่งขันด้านเอไอ แต่เป็นความพยายามสร้างพื้นที่สำหรับพูดคุยเรื่องความเสี่ยงที่ทั้งสองฝ่ายมีโอกาสได้รับผลกระทบร่วมกัน เพราะหากเอไอสามารถถูกนำไปใช้โจมตีระบบไซเบอร์ พัฒนาอาวุธ หรือทำงานข้ามพรมแดนได้ การควบคุมด้วยกฎหมายของประเทศใดประเทศหนึ่งเพียงประเทศเดียวอาจไม่เพียงพอ

จุดที่ยังไม่มีคำตอบว่า ชะลอแค่ไหน

ข้อเสนอของอโมเดอีเป็นการกำหนดจังหวะให้การเพิ่มความสามารถของโมเดลเดินไปพร้อมกับการตรวจสอบความปลอดภัย โดยเสนอให้มีจุดตรวจสอบตามระดับความสามารถของโมเดล หากระบบพัฒนาไปถึงระดับที่มีความเสี่ยงสูงขึ้น บริษัทต้องแสดงหลักฐานจากการประเมินด้านความปลอดภัยและการตรวจสอบต่างๆ ก่อนจะเดินหน้าพัฒนาไปสู่ระดับถัดไป

แนวคิดนี้ทำให้คำว่า ชะลอ ไม่ได้หมายถึงการหยุดการแข่งขันของบริษัทเอไอ แต่หมายถึงการไม่ปล่อยให้ความสามารถของโมเดลวิ่งนำหน้าความสามารถในการตรวจสอบและควบคุม

อย่างไรก็ตาม การนำแนวคิดนี้ไปใช้จริงยังมีคำถามอีกมาก ตั้งแต่จะกำหนดระดับความสามารถที่ต้องหยุดตรวจสอบอย่างไร เกณฑ์ความปลอดภัยควรเป็นแบบไหน ไปจนถึงผู้ประเมินภายนอกควรมีอำนาจมากเพียงใด

ปัญหาอีกด้านคือ บริษัทเอไอเหล่านี้กำลังแข่งขันกันในตลาดเดียวกัน การที่บริษัทหนึ่งชะลอการพัฒนา ขณะที่คู่แข่งยังเดินหน้าต่อ อาจทำให้เสียเปรียบในการแข่งขัน

อโมเดอีจึงเสนอให้บริษัทเอไอระดับแนวหน้าร่วมกันกำหนดมาตรฐานและจุดตรวจสอบบางอย่าง เพื่อไม่ให้การชะลอกลายเป็นภาระของบริษัทใดบริษัทหนึ่งเพียงฝ่ายเดียว ขณะเดียวกัน การประสานงานยังต้องขยายไปถึงระดับรัฐบาล โดยเฉพาะในช่วงที่สหรัฐและจีนยังแข่งขันกันด้านเทคโนโลยีเอไออย่างเข้มข้น

ดังนั้น คำถามของการชะลอจึงไม่ได้อยู่ที่เทคโนโลยีเพียงอย่างเดียว แต่เกี่ยวข้องกับการแข่งขันทางธุรกิจและนโยบายระหว่างประเทศด้วย เพราะแม้แต่บริษัทที่เห็นด้วยว่าควรเพิ่มมาตรการความปลอดภัย ก็ยังต้องตอบให้ได้ว่า จะกำหนดเส้นแบ่งตรงไหน และทำอย่างไรให้ทุกฝ่ายยอมใช้กติกาเดียวกัน

สิ่งที่เปลี่ยนไปในปี 2569 จึงไม่ใช่แค่ความสามารถของเอไอที่เพิ่มขึ้น แต่คือระดับของปัญหาที่ตามมา จากเดิมที่พูดถึงความเสี่ยงในอนาคต วันนี้หลายบริษัทต้องรับมือกับพฤติกรรมของเอไอและการนำเอไอไปใช้ในทางที่เป็นอันตรายแล้ว

อ้างอิง: Reuters The Atlantic และ Financial Times