นักวิจัย เตือน AI อาจเป็นเหตุให้มนุษย์สูญพันธุ์ภายในปี 2030

เว็บไซต์ข่าวเดอะการ์เดียน รายงานว่า ปัญญาประดิษฐ์ (AI) อาจทำลายล้างมนุษยชาติได้ภายในทศวรรษนี้ ตามความเห็นของนักวิจัย 3 คนจาก Anthropic ยักษ์ใหญ่แห่งอุตสาหกรรม ซึ่งหนึ่งในนั้นได้ยื่นใบลาออกเพื่อเป็นการประท้วง

 

คำทำนายอันน่าสิ้นหวังล่าสุดนี้ปรากฏในโพสต์บนโซเชียลมีเดียเมื่อวันอังคาร (8 ก.ย. 69) โดยนักวิจัยคนดังกล่าวระบุว่าเขาลาออกเพราะ Anthropic และอดีตนายจ้างอย่าง OpenAI กำลังเพิกเฉย หรืออย่างดีที่สุดก็จัดการกับการรับมือภัยคุกคามนี้อย่างผิดพลาด

 

"ไม่มีบริษัทไหนที่ทำหน้าที่อย่างรับผิดชอบ พวกเขากำลังเร่งรีบมุ่งสู่ 'ปัญญาประดิษฐ์ขั้นสูงที่พัฒนาตัวเองได้' (Self-improving Superintelligence) และกำลังเอาชีวิตของพวกเราไปเสี่ยง" เจคอบ ค็อกซอน (Jacob Coxon) ระบุ

 

"คนที่สร้าง AI เชื่ออย่างจริงจังว่ามันสามารถฆ่าพวกเราทุกคนได้ภายในสิ้นทศวรรษนี้ นี่ไม่ใช่กลอุบายทางการตลาด หากจะมีอะไรสักอย่าง ผู้บริหารและนักวิจัยระดับสูงหลายคนมักจะใช้คำพูดที่ฟังดูสมเหตุสมผลผ่านสื่อ แต่นอกรอบผมกลับได้ยินคนกลุ่มเดียวกันนี้แสดงความกลัวออกมา ไม่มีกิจกรรมอื่นใดของมนุษย์ที่สร้างอันตรายได้ถึงระดับนี้อีกแล้ว"

• คำเตือน ได้รับการสนับสนุนจากนักวิจัยคนอื่น

โพสต์ดังกล่าวได้รับคำตอบรับจากพนักงาน Anthropic อีกอย่างน้อยสองคน ซึ่งออกมาสนับสนุนคำเตือนอันเลวร้ายของค็อกซอน

 

รายแรกคือ เอแวน ฮิวบิงเกอร์ (Evan Hubinger) ซึ่งระบุว่าตนเองเป็นหัวหน้าแผนก Alignment (การปรับแต่ง AI ให้สอดคล้องกับเป้าหมายมนุษย์) ได้กล่าวว่าอดีตเพื่อนร่วมงานของเขา "พูดถูกต้อง" และอุตสาหกรรมกำลังตามไม่ทันในการพยายามจัดการกับความเสี่ยงระดับวันสิ้นโลกนี้

 

"พวกเราเชื่ออย่างจริงจังว่า AI สามารถฆ่ามนุษย์ทุกคนได้!" ฮิวบิงเกอร์เขียน "โดยส่วนตัวผมคิดว่ามีโอกาสมากกว่า 10% ในทศวรรษหน้า ผมเชื่อว่า Anthropic กำลังพยายามอย่างเต็มที่ แต่เรายังไม่มีแผนที่จะแก้ปัญหา Alignment สำหรับ Superintelligence และยังไม่มีแนวโน้มที่ชัดเจนว่าจะทำสำเร็จ"

 

ความเห็นของฮิวบิงเกอร์ถือเป็นการยืนยันคำทำนายอันเลวร้ายของค็อกซอนที่น่าประหลาดใจ เนื่องจากเขายังเป็นพนักงานที่รับเงินเดือนจาก Anthropic ส่วนคำตอบรับที่สองมาจาก แซมมวล มาร์กส์ (Samuel Marks) หัวหน้าทีม Scalable Oversight ของ Anthropic ซึ่งโพสต์บทวิเคราะห์ยาวโดยย้ำว่าเป็นความเห็นส่วนตัว ไม่ใช่ทัศนะของบริษัท ทั้งนี้ Anthropic ยังไม่ได้ตอบกลับคำร้องขอความคิดเห็นในทันที

 

"ผู้พัฒนา AI เชื่อว่าเทคโนโลยีของพวกตนสามารถทำให้มนุษย์สูญพันธุ์ (หรือส่งผลเลวร้ายในระดับเดียวกัน) ได้" มาร์กส์เขียน "สิ่งนี้อาจเกิดขึ้นได้ในอีกไม่กี่ปีข้างหน้า โดยทั่วไปยิ่งพนักงานมีตำแหน่งสูงขึ้น เท่าใด ก็ยิ่งกังวลมากขึ้นเท่านั้น"

• ระดับผู้บริหาร กังวลเอไอเป็นภัยทางไซเบอร์

 

การระดมความคิดเรื่องความเป็นไปได้ของการสูญพันธุ์ของมนุษย์มีขึ้นหลังจากคำเตือนที่ชัดเจนยิ่งขึ้นเกี่ยวกับความสามารถด้านความปลอดภัยทางไซเบอร์ของ AI โดย แซม อัลต์แมน (Sam Altman) ประธานเจ้าหน้าที่บริหารของ OpenAI ซึ่งเป็นคู่แข่งของ Anthropic ขณะที่ เกร็ก บร็อกแมน (Greg Brockman) ประธานของ OpenAI เคยยอมรับก่อนหน้านี้ว่า "ประเมินความสามารถทางไซเบอร์ในโลกจริงของโมเดล AI ต่ำไป"

 

อัลต์แมนกล่าวเมื่อปีที่แล้วว่า แง่มุมบางอย่างของ AI รวมถึงสิ่งที่เขาเรียกว่า "การยอมจำนนอย่างเงียบๆ" ในการตัดสินใจของมนุษย์ ทำให้เขารู้สึกหวาดกลัว

 

ผู้บริหาร AI หลายคนได้ร่วมแบ่งปันความกังวลเกี่ยวกับทิศทางของ AI และความสามารถในการแทรกแซง ยึด และควบคุมฟังก์ชันและการกระทำของมนุษย์ที่เพิ่มขึ้น โดยในช่วงฤดูร้อนนี้มีรายงานเหตุการณ์ AI หลุดจากการควบคุมของผู้ใช้เพื่อโกหก เมินคำสั่ง และแสวงหาเป้าหมายในทางที่เป็นอันตรายเพิ่มขึ้นอย่างก้าวกระโดด

 

หนึ่งในตัวอย่างที่ได้รับการเผยแพร่มากที่สุด เจ้าหน้าที่ของ OpenAI ได้บันทึกพฤติกรรมเกเรของ AI Agent ระดับนำที่หลุดออกจากสภาพแวดล้อมการฝึกแบบปิดในเดือนกรกฎาคม เพื่อเข้าสู่เว็บเปิดและเปิดการโจมตีทางไซเบอร์ครั้งใหญ่ที่ไม่เคยปรากฏมาก่อนใส่คลังซอฟต์แวร์ Hugging Face

 

OpenAI สตาร์ทอัพจากซานฟรานซิสโกผู้อยู่เบื้องหลัง ChatGPT ยอมรับในภายหลังว่าควรตอบสนองต่อสัญญาณเตือนของการโจมตีที่ยืดเยื้อนานหลายวันให้เร็วกว่านี้ ซึ่งเหตุการณ์นี้ถูกมองว่าเป็นเหตุการณ์โจมตีทางไซเบอร์ด้วย AI Agent แบบอัตโนมัติครั้งแรก

 

อย่างไรก็ตาม ผู้บริหารเหล่านั้นยังไม่ได้เห็นพ้องกับคำเตือนวันสิ้นโลกแบบเต็มรูปแบบอย่างที่ค็อกซอนระบุ และแสดงท่าทีต่อต้านความพยายามใดๆ ที่จะเข้ามาควบคุมอุตสาหกรรม AI

 

• นักการเมืองเริ่มออกโรงค้านพัฒนาเอไอ

 

นักการเมืองบางคนได้กระตุ้นให้อุตสาหกรรมชะลอตัวลง หรือในบางกรณีให้ระงับการพัฒนา AI ไปเลย

 

เบอร์นี แซนเดอร์ส (Bernie Sanders) วุฒิสมาชิกอิสระจากรัฐเวอร์มอนต์ ได้รีโพสต์ข่าวการลาออกของค็อกซอนเมื่อวันพุธพร้อมโน้ตส่วนตัวว่า "คุณค็อกซอนพูดถูก คนที่กำลังสร้างเทคโนโลยีนี้เองก็ยอมรับว่ามันอาจคุกคามอนาคตของมนุษยชาติ" แซนเดอร์สกล่าวว่าเขาจะเสนอกฎหมายในเร็วๆ นี้เพื่อ "แบน Superintelligence" และสั่งระงับการพัฒนา AI ชั่วคราว