ตอนนี้เริ่มไม่แน่ใจแล้วว่าระหว่างสงครามตะวันออกกลางที่กำลังร้อนแรงขึ้นเรื่อยๆ กับการพัฒนา AI ที่ก้าวเร็วกว่าการควบคุมของนักวิจัย อย่างไหนจะเป็นตัวทำลายล้างเผ่าพันธุ์มนุษย์ก่อนกัน ...
ตลอดสัปดาห์ที่ผ่านมามีข่าวเกี่ยวกับ “การพัฒนา AI” ที่น่าตกใจออกมาเต็มไปหมด เริ่มจากข่าวการให้สัมภาษณ์ของ “อีแวน ฮูบิงเกอร์” หัวหน้าทีมวิจัยของ แอนโทรปิก ผู้ให้บริการ Claude บอกอย่างชัดเจนว่า มีโอกาสมากกว่า 10% ที่ AI จะคร่าชีวิตผู้คนภายใน 10 ปี หากเราไม่สามารถจัดระเบียบมันได้ โดยเขามองว่าอุตสาหกรรมกำลังเข้าใกล้การสร้าง Superintelligence หรือ AI ที่ฉลาดเหนือมนุษย์ ซึ่งอาจปรับปรุงความสามารถของตัวเองได้
ในเวลาเดียวกัน “เจคอบ ค็อกซอน” นักวิจัยของ แอนโทรปิก ผู้ที่ตัดสินใจลาออกจากบริษัทเพราะกังวลต่อการพัฒนา AI ที่ไปเร็วกว่ามาตรการด้านความปลอดภัยที่ตามไม่ทัน เตือนว่า บริษัทที่เดินหน้าพัฒนา Superintelligence หรือ AI ที่พัฒนาความสามารถของตัวเองได้ กำลังเสี่ยงเอาชีวิตของผู้คนเป็นเดิมพัน พร้อมระบุว่า คนจำนวนหนึ่งที่กำลังสร้าง AI เชื่ออย่างจริงจังว่า เทคโนโลยีนี้อาจคร่าชีวิตผู้คนทั้งหมดภายในสิ้นทศวรรษ และย้ำว่านี่ไม่ใช่เพียงกลยุทธ์การตลาด
ไม่นานหลังจากนั้น “ดาริโอ อโมเดอี” ประธานเจ้าหน้าที่บริหารของ แอนโทรปิก ให้สัมภาษณ์ผ่าน CNN โดยเรียกร้องให้วงการชะลอการพัฒนา AI เพื่อเปิดทางให้มาตรการความปลอดภัยตามทัน โดยเขาเตือนว่า หากความสามารถของ AI เดินหน้าในอัตราปัจจุบัน ภายใน 6-12 เดือนข้างหน้า AI อาจสามารถควบคุมฝูงเอเจนต์จำนวนมากให้ปฏิบัติการบนอินเทอร์เน็ตได้ ถ้าการชะลอช่วยซื้อเวลาเพิ่มอีก 1-2 ปี เวลาดังกล่าวก็อาจมีความหมายต่อการพัฒนาระบบควบคุมและจัดการ AI ให้ปลอดภัยมากขึ้น
ความกังวลดังกล่าวไม่ได้เกิดจากคำเตือนแบบลอยๆ เท่านั้น ทีมผู้บริหารและนักวิจัยของ แอนโทรปิก ได้เปิดเผยเหตุการณ์หลายครั้งที่โมเดล Claude ซึ่งอยู่ระหว่างการทดสอบด้านไซเบอร์สามารถหลุดออกจากสภาพแวดล้อมจำลองและเข้าถึงระบบจริงภายนอกได้ นอกจากนี้ แอนโทรปิก ยังตรวจพบว่า มีนักวิทยาศาสตร์ พยายามใช้ AI สนับสนุนงานวิจัยที่อาจนำไปสู่การพัฒนาอาวุธชีวภาพ รวมถึงการจัดทำคำขอทุนสำหรับงานดัดแปลงไวรัสชิคุนกุนยา
สำหรับในฝั่งของ โอเพนเอไอ ผู้ให้บริการ ChatGPT ก็แสดงความกังวลต่อเรื่องเหล่านี้เช่นกัน หลังตรวจพบว่า เอเจนต์ AI ราว 700 ตัว ค้นพบช่องทางติดต่อกันเองประสานงานเป็นฝูง หลุดออกจากระบบควบคุม และเข้าเจาะโครงสร้างพื้นฐานของ Hugging Face ซึ่งบริษัทยอมรับว่า นี่คือสัญญาณเตือนใหญ่ที่ต้องเฝ้าระวัง ...เรื่องราวเหล่านี้อาจดูเหมือนหนังไซไฟ แต่ทั้งหมดคือเหตุการณ์ที่เกิดขึ้นแล้วจริงๆ และเป็นเรื่องที่ทีมข่าวกรุงเทพธุรกิจจะติดตามอย่างใกล้ชิด นำมารายงานให้ผู้อ่านได้ทราบต่อไป!
