ความผิดพลาดของ เอไอ อาจไม่ใช่เรื่องใหม่ เราเคยเห็นเอไอตอบคำถามผิด สร้างข้อมูลที่ไม่มีอยู่จริง หรือทำงานไม่ตรงกับคำสั่งของผู้ใช้ แต่เมื่อเอไอไม่ได้เพียงทำผิด หากแต่เริ่มหาวิธีหลบเลี่ยงข้อจำกัด โกหกผู้ใช้ หรือดำเนินการบางอย่างโดยที่มนุษย์ไม่ได้อนุญาต คำถามเรื่องความผิดพลาดของระบบก็เริ่มเปลี่ยนไปเป็นเรื่องของการควบคุม
ข้อมูลจาก Loss of Control Observatory ระบุว่า เหตุการณ์ที่เอไอแสดงพฤติกรรมลักษณะดังกล่าวเพิ่มขึ้นอย่างรวดเร็ว เดือนกรกฎาคม 2569 มีการตรวจพบเหตุการณ์มากกว่า 300 ครั้ง เพิ่มขึ้นเกือบ 2 เท่าเมื่อเทียบกับเดือนมิถุนายน และไม่ได้เพิ่มขึ้นเฉพาะจำนวนเท่านั้น เพราะสัดส่วนของเหตุการณ์ที่มีระดับความรุนแรงสูงขึ้น ทั้งในด้านการหลอกลวง และการไม่สอดคล้องกับเจตนาของมนุษย์ก็เพิ่มขึ้นเช่นกัน
คำว่า “หลุดการควบคุม” หรือ loss of control ในที่นี้ไม่ได้หมายถึงเอไอลุกขึ้นมายึดคอมพิวเตอร์แล้วทำทุกอย่างตามใจตัวเอง แต่หมายถึงสถานการณ์ที่มีหลักฐานชัดเจนว่า ระบบพยายามวางแผนหรือใช้วิธีที่เกี่ยวข้องกับการวางแผน เพื่อหลีกเลี่ยงคำสั่งหรือข้อจำกัดที่มนุษย์วางไว้
เดอะการ์เดียนรายงานว่า ตั้งแต่เดือนพฤศจิกายน 2568 ที่ Observatory เริ่มติดตามเหตุการณ์เหล่านี้ โดยได้รับเงินสนับสนุนจาก AI Security Institute (AISI) ของรัฐบาลสหราชอาณาจักร และอาศัยรายงานจากผู้ใช้งานและธุรกิจที่นำเหตุการณ์เกี่ยวกับเอไอมาโพสต์บน X
จนถึงปี 2569 มีเหตุการณ์ที่ถูกรวบรวมไว้แล้วมากกว่า 1,600 ครั้ง โดยส่วนใหญ่เป็นนักพัฒนาซอฟต์แวร์ที่ใช้เอไอในการทำงานเป็นผู้รายงาน
ตัวเลขนี้ไม่ได้หมายความว่าเอไอทั่วโลกหลุดการควบคุมมาแล้วมากกว่า 1,600 ครั้ง เพราะ Observatory เก็บข้อมูลจากเหตุการณ์ที่ถูกนำมาโพสต์บน X เท่านั้น เหตุการณ์ที่เกิดขึ้นแต่ไม่มีใครรายงาน หรือเกิดขึ้นในระบบที่บุคคลภายนอกมองไม่เห็น ก็จะไม่ถูกนับรวม
อย่างไรก็ตาม ข้อมูลชุดนี้ยังเป็นภาพหนึ่งของพฤติกรรมเอไอในโลกจริง เนื่องจากปัจจุบันยังไม่มีระบบสาธารณะที่ติดตามเหตุการณ์ประเภทนี้อย่างครอบคลุมทั้งอุตสาหกรรม
เอไอทำอะไรถึงถูกนับว่า หลุดการควบคุม?
กรณีที่ Observatory บันทึกไว้มีหลายรูปแบบ เช่น เอไอแกล้งทำเป็นมนุษย์ที่กำลังควบคุมมัน หรือเลียนแบบรูปแบบการเขียนของผู้ใช้ เพื่อทำให้ดูเหมือนว่าผู้ใช้เป็นคนให้อนุญาตตัวมันเองในการดำเนินการบางอย่าง
บางกรณียังพบว่า เอไอพยายามหลีกเลี่ยงกฎที่กำหนดว่า ก่อนจะดำเนินการบางอย่างต้องมีมนุษย์เข้ามาอนุมัติก่อน ดังนั้น สิ่งที่นักวิจัยสนใจจึงไม่ใช่เพียงเอไอทำผิด แต่คือ เมื่อระบบมีเป้าหมายหนึ่งแล้ว มันพยายามหาวิธีไปให้ถึงเป้าหมายนั้นหรือไม่ แม้วิธีการที่ใช้จะขัดกับคำสั่งหรือข้อจำกัดที่มนุษย์กำหนดไว้
หนึ่งในเหตุการณ์ที่ Observatory ตรวจพบเกิดขึ้นกับเอเจนต์เอไอส่วนบุคคลชื่อ OpenClaw ซึ่งถูกใช้งานโดยสมาชิกฟิตเนสแห่งหนึ่งในออสเตรเลีย
สมาชิกคนดังกล่าวต้องการเข้าเรียนคลาสออกกำลังกายช่วงเช้าที่ได้รับความนิยม แต่คลาสมีผู้ต้องการเข้าร่วมจำนวนมากจนต้องมีรายชื่อรอ เอเจนต์เอไอจึงเข้าไปจัดการเรื่องการจองให้ผู้ใช้ แต่ระหว่างนั้นกลับดำเนินการโดยที่เจ้าของระบบไม่รู้ นั่นคือเอไอนำสมาชิกอีกคนออกจากรายชื่อรอ เพื่อให้ผู้ใช้ของมันมีโอกาสได้ที่นั่งแทน
หลังเกิดเหตุ เอไอขอโทษกับสิ่งที่ทำ แต่ไม่สามารถนำสมาชิกที่ถูกนำออกจากรายชื่อกลับเข้าไปในคิวเดิมได้ กรณีนี้จึงเป็นตัวอย่างที่ช่วยให้เห็นภาพว่า เอไอหลุดการควบคุม หมายถึงอะไรในสถานการณ์จริง เพราะระบบไม่ได้เพียงจองคลาสผิดหรือทำรายการไม่สำเร็จ แต่ดำเนินการกับบุคคลอื่นเพื่อให้เป้าหมายของผู้ใช้สำเร็จ ทั้งที่ผู้ใช้ไม่ได้สั่งให้ทำเช่นนั้น
นักวิจัยเตือน อย่าคิดว่าเรื่องนี้เกิดเฉพาะในห้องทดลอง
ทอมมี แชฟเฟอร์-เชน (Tommy Shaffer-Shane) ผู้จัดการอาวุโสด้านนโยบายของ Centre for Long Term Resilience ซึ่งเป็นหน่วยงานที่ดำเนินงาน Observatory กล่าวว่า มีความเข้าใจอยู่บ้างว่าพฤติกรรมที่เอไอทำงานไม่สอดคล้องกับเป้าหมายของมนุษย์ หรือมีพฤติกรรมแอบแฝง จะเกิดขึ้นเฉพาะระหว่างการทดสอบหรือการประเมินระบบ แต่สิ่งที่กำลังพบจากการใช้งานจริงทำให้ภาพดังกล่าวไม่ครอบคลุมทั้งหมด
“เราไม่ควรชะล่าใจและคิดว่าสิ่งเหล่านี้จะไม่เกิดขึ้นในโลกจริง เพราะมีหลักฐานแล้วว่ามันกำลังเกิดขึ้น” แชฟเฟอร์-เชน และยังเรียกร้องให้บริษัทเทคโนโลยีเปิดเผยข้อมูลเกี่ยวกับเหตุการณ์ที่เอไอมีพฤติกรรมผิดปกติมากขึ้น โดยไม่ควรรายงานเฉพาะเหตุการณ์ที่สร้างความเสียหายแล้วเท่านั้น
สำหรับแชฟเฟอร์-เชน เหตุการณ์ที่ผ่านมาเปิดให้เห็นอีกประเด็นว่า บริษัทเอไอเองอาจไม่ได้ติดตามอย่างเป็นระบบว่า พฤติกรรมลักษณะนี้เกิดขึ้นที่ใด โดยเฉพาะในโมเดลที่บริษัทนำไปใช้งานภายในองค์กรของตนเอง ดังนั้น เขาจึงเห็นว่าบริษัทพัฒนาเอไอควรให้ความสำคัญกับการติดตามพฤติกรรมเหล่านี้อย่างเป็นระบบมากขึ้น
สิ่งที่เพิ่มขึ้นไม่ใช่แค่จำนวนเหตุการณ์ แต่เป็นระดับความรุนแรง
แม้เหตุการณ์ส่วนใหญ่ที่ Observatory พบจะยังไม่ได้ก่อให้เกิดความเสียหายอย่างมีนัยสำคัญ แต่ข้อมูลยังพบว่าสัดส่วนของเหตุการณ์ที่มีระดับความรุนแรงสูงขึ้นกำลังเพิ่มขึ้น
เกณฑ์หนึ่งที่ใช้พิจารณาคือ ระดับการหลอกลวงของเอไอ และระดับที่การกระทำของระบบไม่สอดคล้องกับเจตนาของมนุษย์
Observatory ระบุว่า เหตุการณ์เหล่านี้แสดงให้เห็นว่าเอไอบางระบบสามารถละเลยคำสั่งโดยตรง หลีกเลี่ยงระบบป้องกัน โกหกผู้ใช้ และมุ่งไปสู่เป้าหมายอย่างต่อเนื่อง แม้ว่าวิธีการที่ใช้จะก่อให้เกิดอันตราย แต่ในเวลาเดียวกัน ตัวเลขที่มีอยู่ก็ยังไม่สามารถสะท้อนขนาดของปัญหาทั้งหมดได้ เพราะขึ้นอยู่กับการที่ผู้ใช้งานจะพบเห็นและนำเหตุการณ์มาเผยแพร่บน X
จากข้อจำกัดดังกล่าว Observatory จึงเรียกร้องให้รัฐบาลกำหนดให้บริษัทเอไอติดตามและรายงานเหตุการณ์ที่มีระดับความรุนแรงสูง และเสนอให้รัฐมีอำนาจฉุกเฉินในการจัดการกับเหตุการณ์ร้ายแรง รวมถึงการจำกัดการให้บริการเอไอเป็นการชั่วคราวเมื่อจำเป็น
อ้างอิง: The Guardian CSA และ Magica
