Anthropic เตือน เอไออาจคร่าชีวิตมนุษย์ใน 10 ปี หากพัฒนาเร็วจนควบคุมไม่ทัน

“ผมและเพื่อนร่วมงานเชื่ออย่างจริงจังว่า เอไออาจฆ่ามนุษย์ทั้งหมดได้”

ประโยคนี้มาจาก อีแวน ฮูบิงเกอร์ (Evan Hubinger) หัวหน้าทีมวิทยาศาสตร์ด้านการจัดแนวเอไอของ แอนโทรปิก (Anthropic) บริษัทผู้พัฒนา Claude และไม่ได้เป็นคำเตือนจากนักวิจารณ์ภายนอกบริษัท แต่เป็นคำพูดของนักวิจัยที่ทำงานโดยตรงกับปัญหาว่า ทำอย่างไรให้เอไอที่มีความสามารถสูงยังคงทำงานไปในทิศทางที่มนุษย์ต้องการ

ฮูบิงเกอร์ประเมินว่า โอกาสที่เอไอจะคร่าชีวิตมนุษย์ทั้งหมดภายใน 10 ปีข้างหน้ามีมากกว่า 10% ขณะเดียวกัน เขายอมรับว่า แม้แอนโทรปิกจะพยายามรับมือกับความเสี่ยงดังกล่าวอย่างเต็มที่ แต่บริษัทยังไม่มีแนวทางที่ชัดเจนในการทำให้เอไอระดับเหนือมนุษย์ (Superintelligence) มีเป้าหมายและพฤติกรรมที่สอดคล้องกับสิ่งที่มนุษย์ต้องการได้อย่างมั่นใจ และยังไม่อาจบอกได้ว่าบริษัทกำลังเดินหน้าไปถึงจุดที่จะแก้ปัญหานี้ได้สำเร็จ

อย่างไรก็ตาม คำเตือนนี้เกิดขึ้นในเวลาเดียวกับที่ เจคอบ ค็อกซอน (Jacob Coxon) นักวิจัยของแอนโทรปิกประกาศลาออกจากบริษัท โดยให้เหตุผลเกี่ยวกับความกังวลด้านความปลอดภัยของเอไอ

ค็อกซอนระบุว่า ก่อนหน้านี้เขาเคยทำงานด้านการฝึกเอไอขั้นต้นที่ทั้งโอเพนเอไอ (OpenAI) และแอนโทรปิก โดยมองว่า บริษัทเอไอชั้นนำกำลังเร่งแข่งขันกันพัฒนาเอไอที่สามารถพัฒนาความสามารถของตัวเองได้ โดยที่มาตรการด้านความปลอดภัยยังตามไม่ทันกับความเร็วในการพัฒนา

เขาเตือนว่า บริษัทเหล่านี้กำลัง “เดินหน้าไปสู่เอไอระดับเหนือมนุษย์ที่สามารถพัฒนาตัวเองได้ และกำลังเสี่ยงเอาชีวิตของพวกเราทุกคนเป็นเดิมพัน” พร้อมระบุว่า คนจำนวนหนึ่งที่ทำงานอยู่ในวงการพัฒนาเอไอเชื่อว่า เทคโนโลยีนี้อาจฆ่าพวกเราทั้งหมดภายในสิ้นทศวรรษ และย้ำว่า คำเตือนดังกล่าวไม่ใช่การสร้างกระแสหรือกลยุทธ์ทางการตลาดของบริษัท

หลังจากโพสต์คำเตือนดังกล่าว ฮูบิงเกอร์ออกมาอธิบายเพิ่มเติมว่า ความเสี่ยงจากโมเดลเอไอที่มีอยู่ในปัจจุบันยังอยู่ในระดับต่ำ สิ่งที่เขากังวลมากกว่าคือ การเกิดขึ้นของเอไอที่มีความฉลาดเหนือมนุษย์จากกระบวนการที่เรียกว่า recursive self-improvement หรือการที่เอไอสามารถพัฒนาตัวเองซ้ำแล้วซ้ำอีก

“สิ่งที่ผมกังวลคือ superintelligence ที่เกิดขึ้นจากการพัฒนาตัวเองแบบวนซ้ำ ซึ่งเราเคยบอกว่าเรื่องนี้กำลังเกิดขึ้นเร็วกว่าที่เราคิด” ฮูบิงเกอร์ กล่าว

แนวคิดนี้หมายถึงสถานการณ์ที่เอไอไม่ได้เพียงทำตามคำสั่งหรือช่วยมนุษย์ทำงาน แต่สามารถนำความสามารถของตัวเองไปใช้ปรับปรุงระบบ สร้างเอไอรุ่นใหม่ที่เก่งขึ้น และให้เอไอรุ่นใหม่พัฒนาตัวเองต่อไปอีกทอดหนึ่ง หากกระบวนการนี้เกิดขึ้นต่อเนื่อง ความสามารถของระบบก็อาจเพิ่มขึ้นอย่างรวดเร็ว

ประเด็นที่นักวิจัยด้านความปลอดภัยกังวลคือ หากเอไอพัฒนาไปถึงจุดที่มีความสามารถเหนือมนุษย์อย่างมาก มนุษย์อาจไม่สามารถเข้าใจ หรือคาดการณ์ได้ว่าระบบกำลังทำอะไร รวมถึงอาจไม่สามารถควบคุมระบบได้ทัน หากความสามารถของเอไอเพิ่มขึ้นเร็วกว่าความสามารถของมนุษย์ในการตรวจสอบและกำกับดูแล

นักวิจัยที่ลาออกมองว่าโลกอาจเข้าสู่จุดควบคุมไม่ได้

The Wall Street Journal เป็นสำนักข่าวแรกที่รายงานเรื่องการลาออกของค็อกซอน โดยระบุว่า เขากังวลต่อการผลักดันให้เกิดเอไอที่สามารถพัฒนาตัวเองได้ และมองว่าระบบดังกล่าวอาจกลายเป็นภัยคุกคามต่อมนุษยชาติ

ค็อกซอนบอกกับวอลล์สตรีทเจอร์นัลว่า เขาเชื่อว่า โลกกำลังมุ่งหน้าไปสู่สถานการณ์ที่รุนแรงที่สุดหลายรูปแบบ และอาจเป็นไปได้ว่า “ภายในสิ้นปีหน้า สิ่งต่างๆ อาจหลุดออกจากการควบคุมไปแล้ว”

ในโพสต์บน X ค็อกซอนยังเปรียบเทียบประสบการณ์การทำงานระหว่างโอเพนเอไอกับแอนโทรปิก โดยระบุว่า พนักงานของโอเพนเอไอซึ่งเป็นบริษัทผู้พัฒนา ChatGPT ยังไม่ได้ตระหนักอย่างลึกซึ้งถึงเดิมพันในระดับอารยธรรมที่เกิดขึ้นจากการพัฒนาเอไอ

สำหรับแอนโทรปิก เขากล่าวว่า คนในบริษัทเข้าใจความสำคัญ และความเสี่ยงในระดับนี้เป็นอย่างดี แต่ปัญหาคือ บริษัทยังคงอยู่ในการแข่งขันเพื่อพัฒนาเทคโนโลยีให้ไปถึงเป้าหมายก่อนบริษัทอื่น ค็อกซอนอีกอธิบายว่า เหตุผลหนึ่งที่ทำให้การแข่งขันเดินหน้าต่อคือ แต่ละบริษัทอาจมองว่า หากไม่มีใครรับประกันว่าคู่แข่งจะพัฒนาเอไออย่างมีความรับผิดชอบ บริษัทของตัวเองก็จำเป็นต้องเป็นฝ่ายพัฒนาให้ได้ก่อน แม้จะรู้ว่าการทำเช่นนั้นมีความเสี่ยงก็ตาม

เสียงเรียกร้องให้ชะลอการพัฒนาเอไอ

คำเตือนครั้งนี้เกิดขึ้นในช่วงที่นักวิจัย และผู้บริหารระดับสูงในวงการเอไอบางส่วนออกมาเรียกร้องให้ชะลอการพัฒนาเอไอขั้นสูง เพื่อให้มีเวลาเตรียมมาตรการด้านความปลอดภัยและการกำกับดูแล

เมื่อเดือนกรกฎาคม 2569 บุคคลสำคัญในวงการเอไอหลายคนร่วมลงนามในแถลงการณ์ชื่อ Pacing the Frontier ซึ่งเสนอแนวคิดว่าการพัฒนาเอไอระดับแนวหน้าอาจจำเป็นต้องมีการกำหนดจังหวะ ไม่ปล่อยให้การแข่งขันเป็นตัวกำหนดความเร็วเพียงอย่างเดียว

ผู้ลงนามประกอบด้วย ดาริโอ อโมเดอี (Dario Amodei) และจาเร็ด แคปแลน (Jared Kaplan) ผู้ร่วมก่อตั้งแอนโทรปิก, ยาคุบ ปาโชคกี (Jakub Pachocki) หัวหน้านักวิทยาศาสตร์ของโอเพนเอไอ, เซิงเจีย จ้าว (Shengjia Zhao) หัวหน้านักวิทยาศาสตร์ด้านเอไอของเมตา (Meta) รวมถึงบุคคลสำคัญคนอื่นๆ ในวงการ

แถลงการณ์ระบุว่า หากต้องการให้มนุษย์สามารถใช้ประโยชน์จากเอไอได้อย่างเต็มที่ อุตสาหกรรม รัฐบาล และสังคมอาจจำเป็นต้องมีทางเลือกในการซื้อเวลา เพื่อรับมือกับความเสี่ยงใหม่ๆ ที่กำลังเกิดขึ้น พัฒนามาตรการรักษาความปลอดภัย และเพิ่มความเข้มแข็งให้กับระบบกำกับดูแล แต่แถลงการณ์ก็ยอมรับว่า การให้บริษัทใดบริษัทหนึ่งชะลอการพัฒนาเพียงลำพังเป็นเรื่องยาก เพราะบริษัทเหล่านี้ต้องแข่งขันกันอย่างเข้มข้น หากบริษัทหนึ่งหยุดหรือชะลอ ขณะที่คู่แข่งยังเดินหน้าต่อ ก็อาจทำให้บริษัทนั้นเสียเปรียบทางเทคโนโลยี

ด้วยเหตุนี้ ผู้ลงนามจึงเรียกร้องให้รัฐบาลสหรัฐสนับสนุนความร่วมมือระหว่างประเทศ เพื่อพัฒนาเครื่องมือทั้งด้านเทคนิคและกฎระเบียบสำหรับกำหนดความเร็วของการพัฒนาเอไอขั้นสูงอย่างรอบคอบ

โอเพนเอไอเตือนว่า โจทย์สำคัญยังไม่มีใครแก้ได้

ความกังวลเรื่องการควบคุมเอไอไม่ได้เกิดขึ้นเฉพาะภายในโอเพนเอไอเท่านั้น ปาโชคกี หัวหน้านักวิทยาศาสตร์ของโอเพนเอไอ เพิ่งเขียนบทความเกี่ยวกับความเสี่ยงของเอไอขั้นสูง และระบุว่า เขาเชื่อว่าในเวลานี้ยังไม่มีห้องปฏิบัติการเอไอแห่งใดที่สามารถแก้ปัญหาเรื่องการทำให้เอไอทำงานสอดคล้องกับเป้าหมายของมนุษย์ และการตรวจสอบพฤติกรรมของเอไอได้ดีเพียงพอ

ปาโชคกีมองว่า ระบบและมาตรการด้านความปลอดภัยของเอไอในปัจจุบันยังไม่เพียงพอที่จะทำให้บริษัทต่างๆ สามารถเร่งพัฒนา และเพิ่มความสามารถของโมเดลด้วยความเร็วสูงสุดต่อไปได้อีกนาน โดยยังสามารถดำเนินการได้อย่างมีความรับผิดชอบ

คำเตือนเหล่านี้จึงสะท้อนคำถามต่อทิศทางการพัฒนาเอไอขั้นสูง เพราะในด้านหนึ่ง บริษัทต่างๆ กำลังลงทุนและเร่งพัฒนาโมเดลให้มีความสามารถมากขึ้น แต่อีกด้านหนึ่ง นักวิจัยที่ทำงานกับเทคโนโลยีเหล่านี้โดยตรงกลับยอมรับว่า ยังไม่มีคำตอบที่ชัดเจนว่า หากวันหนึ่งเอไอมีความสามารถเหนือมนุษย์อย่างมาก มนุษย์จะสามารถทำให้ระบบยังคงทำงานอยู่ภายใต้เป้าหมายและการควบคุมของมนุษย์ได้อย่างไร

สำหรับฮูบิงเกอร์ ความเสี่ยงที่เขากังวลจึงไม่ได้อยู่ที่โมเดลเอไอที่ผู้คนกำลังใช้งานในปัจจุบัน แต่เป็นสิ่งที่อาจเกิดขึ้นเมื่อเอไอในอนาคตสามารถพัฒนาความสามารถของตัวเองได้ หากกระบวนการดังกล่าวเกิดขึ้นต่อเนื่องจนเร็วเกินกว่าที่มนุษย์จะติดตาม ทำความเข้าใจ หรือประเมินการเปลี่ยนแปลงของระบบได้ ก็อาจทำให้มนุษย์ไม่สามารถควบคุมเอไอได้อย่างมีประสิทธิภาพอีกต่อไป

ปัญหาอีกด้านคือ สหรัฐยังไม่มีกฎระเบียบเอไอระดับรัฐบาลกลาง ขณะที่รัฐบาลโดนัลด์ ทรัมป์ให้ความสำคัญกับแนวทางกำกับดูแลที่ไม่เข้มงวด เพื่อเปิดทางให้เกิดประโยชน์ทางเศรษฐกิจจากเอไอ

ฝ่ายที่วิพากษ์แนวทางดังกล่าวกังวลว่า หากการพัฒนาเดินหน้าเร็วเกินไปโดยไม่มีมาตรการกำกับดูแลที่เพียงพอ อาจนำไปสู่การโจมตีทางไซเบอร์ขนาดใหญ่หรือความเสียหายในรูปแบบอื่น

เบอร์นี แซนเดอร์ส (Bernie Sanders) สมาชิกวุฒิสภาจากรัฐเวอร์มอนต์ และเกร็ก คาซาร์ (Greg Casar) สมาชิกสภาผู้แทนราษฎรจากรัฐเท็กซัส ซึ่งเป็นนักการเมืองฝ่ายก้าวหน้าสองคนที่เสนอแนวทางกำกับดูแลเอไอ ได้เสนอร่างกฎหมายที่จะห้ามการพัฒนา superintelligence อย่างถาวร และให้ชะลอการพัฒนาโมเดลเอไอไว้ก่อน จนกว่าจะมีหน่วยงานกำกับดูแลอุตสาหกรรมเข้ามากำหนดกฎใหม่

ขณะที่ในภาคอุตสาหกรรม นักวิจัยจำนวนหนึ่งยังคงตั้งคำถามว่าการพัฒนาเอไอจะเดินหน้าไปได้ไกลเพียงใด ก่อนที่มนุษย์จะต้องหยุดเพื่อสร้างระบบควบคุมให้ทันกับความสามารถของเทคโนโลยี

ค็อกซอนบอกว่า แอนโทรปิกมีช่อง Slack ภายในสำหรับให้พนักงานพูดคุยเกี่ยวกับความสามารถอันทรงพลังของโมเดลเอไอ เขามองว่าช่องทางดังกล่าวสะท้อนว่า บริษัทเอไอมีอิทธิพลต่อทิศทางของอุตสาหกรรมมากเพียงใด

สิ่งที่เกิดขึ้นในวงการเอไอขณะนี้น่ากังวล เพราะเทคโนโลยีที่อาจมีผลกระทบต่อมนุษยชาติในระดับสูงมาก ยังคงถูกพัฒนาขึ้นในสภาพแวดล้อมการทำงานทั่วไป เขาเปรียบเปรยว่า เป็นเรื่อง “ค่อนข้างบ้า” ที่การวิจัยเกี่ยวกับระบบเอไอที่อาจทรงพลังถึงระดับนี้ ยังเกิดขึ้นบนแล็ปท็อปของวิศวกรในซานฟรานซิสโก แทนที่จะเป็นสถานที่ที่มีการรักษาความปลอดภัยอย่างเข้มงวด เช่น บังเกอร์กลางทะเลทรายที่เขานำไปเปรียบกับสถานที่ในโครงการแมนฮัตตัน ซึ่งเป็นโครงการพัฒนาอาวุธนิวเคลียร์ของสหรัฐในช่วงสงครามโลกครั้งที่สอง

คำเปรียบเทียบดังกล่าวสะท้อนความกังวลของค็อกซอน ว่า อุตสาหกรรมอาจกำลังสร้างเทคโนโลยีที่มีความเสี่ยงในระดับที่ไม่สอดคล้องกับมาตรการป้องกันที่มีอยู่ เขาจึงตั้งคำถามว่า เมื่อเอไอมีความสามารถเพิ่มขึ้นอย่างรวดเร็ว การดูแลความปลอดภัยในรูปแบบที่ใช้อยู่ในปัจจุบันจะเพียงพอหรือไม่

การลาออกของค็อกซอนถือเป็นหนึ่งในกรณีแรกๆ ของพนักงานแอนโทรปิกที่ออกจากบริษัทโดยตรงจากความกังวลเรื่องความปลอดภัยของเอไอ ขณะที่ก่อนหน้านี้ก็มีนักวิจัยด้านความปลอดภัยของบริษัทลาออกเพื่อไปศึกษาด้านกวีนิพนธ์ และเคยเตือนว่า “โลกกำลังตกอยู่ในอันตราย”

อย่างไรก็ตาม นักวิจัยจากโอเพนเอไอ และบริษัทเอไออื่นๆ ก็เคยลาออกในช่วงที่ผ่านมาและในหลายปีก่อนหน้า โดยให้เหตุผลเกี่ยวกับความกังวลในลักษณะเดียวกัน

อ้างอิง: The Wall Street Journal และ Forbes