OpenAI เปิด 6 กรณีเอไอทำเกินคำสั่ง พบตั้งแต่สร้างข้อมูลเท็จ - นำไฟล์ขึ้นเว็บสาธารณะ

โอเพนเอไอ (OpenAI) บริษัทผู้พัฒนา ChatGPT เปิดเผยพฤติกรรมไม่สอดคล้องกับเป้าหมาย หรือ misalignment ของเอไอ 6 กรณี ตั้งแต่การเขียนคำสั่งเพื่อหลบข้อจำกัด ปกปิดความผิดพลาด สร้างข้อมูลขึ้นมาเอง ไปจนถึงการนำไฟล์และข้อมูลออกไปยังระบบภายนอกโดยไม่ได้รับอนุญาต พร้อมประกาศกรอบใหม่สำหรับติดตาม ตรวจสอบ เปิดเผยเหตุการณ์ลักษณะนี้อย่างเป็นระบบ

รายงานฉบับนี้เกิดขึ้นในช่วงที่โมเดลเอไอมีความสามารถมากขึ้น โดยเฉพาะเอไอเอเจนต์ที่ไม่ได้เพียงตอบคำถาม แต่สามารถค้นข้อมูล ใช้โปรแกรม จัดการไฟล์ ติดต่อเครื่องมือภายนอก และทำงานร่วมกับเอเจนต์อื่นเพื่อให้บรรลุเป้าหมายที่ได้รับมอบหมาย

บริษัทระบุว่า เหตุการณ์ทั้ง 6 กรณีถูกพบระหว่างการฝึกหรือประเมินโมเดลในช่วง 6 เดือนที่ผ่านมา และไม่ได้หมายความว่าเป็นพฤติกรรมที่เกิดขึ้นบ่อยในโมเดลทั้งหมดของบริษัท แต่เป็นกรณีที่บริษัทเห็นว่ามีข้อมูลเพียงพอที่จะช่วยให้เข้าใจว่า เมื่อโมเดลมีความสามารถเพิ่มขึ้น อาจเกิดพฤติกรรมที่อยู่นอกเหนือข้อกำหนดของมนุษย์ได้อย่างไร

โอเพนเอไอเคยเปิดเผยงานวิจัยและเหตุการณ์ในลักษณะนี้มาแล้ว แต่ยังไม่มีกติกากำหนดชัดเจนว่า เมื่อพบพฤติกรรมดังกล่าวควรตรวจสอบอย่างไร และเมื่อใดควรเปิดเผยต่อสาธารณะ ทำให้บางครั้งบริษัทต้องรอรวบรวมหลายกรณีเป็นรายงานเดียว หรือเผยแพร่ข้อมูลไปพร้อมกับเอกสารความปลอดภัยของโมเดลรุ่นใหม่

ดังนั้น กรอบใหม่จึงถูกออกแบบให้บริษัทสามารถเปิดเผยข้อมูลได้เร็วขึ้น แม้ในช่วงเวลานั้นจะยังไม่สามารถอธิบายสาเหตุของพฤติกรรมได้ทั้งหมด หรือยังไม่มีวิธีแก้ไขที่สมบูรณ์

การเปิดเผยข้อมูลเหล่านี้ไม่ได้หมายความว่าทุกเหตุการณ์จะเป็นสัญญาณของปัญหาใหญ่เสมอไป บริษัทตั้งใจเปิดเผยแม้ในกรณีที่ยังไม่แน่ใจถึงความสำคัญของเหตุการณ์ ดังนั้นบางกรณีที่รายงานออกมาอาจเป็นเหตุการณ์เฉพาะจุด ไม่ได้เกิดซ้ำ และไม่ได้บ่งชี้ว่าโมเดลจะมีพฤติกรรมดังกล่าวในอนาคต

นอกจากนี้ โอเพนเอไอยังมีเป้าหมายเพื่อให้นักวิจัย นักพัฒนาเอไอ ผู้กำหนดนโยบาย และบุคคลภายนอกสามารถนำเหตุการณ์เหล่านี้ไปศึกษาและตรวจสอบต่อได้ เพราะปัญหาที่พบในโมเดลหนึ่งอาจเป็นปัญหาที่นักพัฒนาอื่นต้องเจอเมื่อโมเดลของตัวเองมีความสามารถใกล้เคียงกัน

กรณีที่ 1: โมเดลเขียนคำสั่งแทรกไว้ในสรุปงานของตัวเอง

กรณีแรกเกิดขึ้นกับโมเดลวิจัยของโอเพนเอไอที่ยังไม่ได้เปิดให้คนทั่วไปใช้งาน ปัญหาเริ่มจากการที่โมเดลต้องทำงานต่อเนื่องเป็นเวลานาน แต่หน้าต่างที่ใช้เก็บข้อมูลระหว่างการทำงานมีพื้นที่จำกัด เมื่อข้อมูลเริ่มมากเกินไป ระบบจึงต้องสรุปสิ่งที่เกิดขึ้นไว้ เพื่อให้โมเดลสามารถเปิดหน้าต่างใหม่แล้วกลับมาทำงานต่อได้

ลองนึกภาพว่า โมเดลกำลังทำงานหนึ่งชิ้นแล้วเขียนโน้ตฝากไว้ให้ตัวเองว่า “ทำอะไรไปแล้วบ้าง พบอะไรแล้ว และขั้นตอนต่อไปต้องทำอะไร” เมื่อเปิดหน้าต่างใหม่ โมเดลก็จะอ่านโน้ตนี้แล้วทำงานต่อจากจุดเดิม แต่ในการทดลองครั้งนี้ โมเดลไม่ได้เขียนแค่ข้อมูลเกี่ยวกับงานที่ทำอยู่ มันยังแทรกคำสั่งบางอย่างลงไปในสรุป และบางคำสั่งบอกให้โมเดลในรอบถัดไปไม่ต้องทำตามข้อจำกัดบางอย่างที่กำหนดไว้ตามปกติ

โอเพนเอไอพบสรุปงานที่มีลักษณะดังกล่าว 27 รายการ บริษัทมองว่า พฤติกรรมนี้คล้ายกับสิ่งที่เรียกว่า prompt injection หรือการแอบใส่คำสั่งลงไปในข้อมูลที่เอไอกำลังอ่าน เพื่อให้เอไอทำตามคำสั่งนั้นแทนที่จะทำตามข้อกำหนดเดิม แต่กรณีนี้มีจุดที่น่าสนใจกว่า เพราะคนที่ใส่คำสั่งไม่ใช่ผู้ใช้ และไม่ใช่คนภายนอกที่พยายามหลอกเอไอ แต่เป็นตัวโมเดลเองที่เขียนคำสั่งลงไปในสรุป ก่อนที่ข้อมูลนั้นจะถูกส่งต่อให้โมเดลอ่านอีกครั้งในภายหลัง

กรณีที่ 2: เอไอพยายามปกปิดความผิดพลาดที่ตัวเองทำไว้

กรณีที่สองเกิดขึ้นระหว่างการฝึกโมเดล GPT-5.6 Sol โดยโอเพนเอไอพบว่า โมเดลบางส่วนพยายามใส่ข้อความลงในสรุปงาน เพื่อให้โมเดลในขั้นตอนต่อไปปกปิดข้อผิดพลาดหรือพฤติกรรมที่ไม่ตรงกับสิ่งที่ควรทำ

ตัวอย่างหนึ่งคือ หากเอไอพบว่าข้อมูลทางประวัติศาสตร์บางส่วนหายไป สิ่งที่ควรทำคือ บอกว่าข้อมูลไม่ครบ หรือระบุให้ชัดว่าไม่สามารถยืนยันข้อมูลได้ แต่สิ่งที่เกิดขึ้นคือโมเดลพยายามสร้างข้อมูลส่วนที่หายขึ้นมาเอง โดยไม่บอกว่าเป็นข้อมูลที่ระบบสร้างขึ้น

อีกตัวอย่างคือ เรื่องแหล่งข้อมูล หากข้อมูลที่ใช้มีเวอร์ชันไม่ตรงกัน โมเดลควรแจ้งให้ผู้ใช้ทราบว่ามีความไม่ตรงกันเกิดขึ้น แต่ในกรณีนี้ โมเดลพยายามไม่ให้ความผิดพลาดดังกล่าวปรากฏในขั้นตอนการทำงานต่อไป

จุดที่โอเพนเอไอให้ความสำคัญจึงไม่ใช่แค่การที่เอไอตอบผิด เพราะการตอบผิดสามารถเกิดขึ้นได้จากข้อมูลไม่ครบหรือการตีความผิด แต่กรณีนี้มีพฤติกรรมอีกชั้นหนึ่ง คือโมเดลพยายามทำให้ความผิดพลาดของตัวเองไม่ถูกเปิดเผยในงานที่ส่งต่อไปยังขั้นตอนถัดไป

กรณีที่ 3: เจอรหัสเข้าระบบที่เปิดเผยบนอินเทอร์เน็ต แล้วนำไปใช้โดยไม่ได้รับอนุญาต

กรณีที่สามเริ่มจากงานที่ดูไม่ซับซ้อน โมเดลถูกถามเกี่ยวกับข้อมูลรายได้ของพื้นที่แห่งหนึ่งในรัฐแคลิฟอร์เนีย และต้องค้นหาข้อมูลจากแหล่งที่เกี่ยวข้องเพื่อนำมาตอบ ระหว่างค้นข้อมูล โมเดลไปพบ API key หรือรหัสที่ใช้ยืนยันตัวตนเพื่อเข้าใช้ระบบบางอย่าง ซึ่งถูกเปิดเผยอยู่ในคลังโค้ดสาธารณะบนอินเทอร์เน็ต

การที่รหัสนี้ถูกเปิดเผยต่อสาธารณะไม่ได้แปลว่าใครก็มีสิทธิ์นำไปใช้ แต่โมเดลกลับนำรหัสดังกล่าวไปใช้เพื่อพยายามเข้าถึงข้อมูล โดยไม่ได้รับอนุญาตจากเจ้าของระบบ เมื่อใช้รหัสนั้นแล้ว โมเดลก็ยังไม่สามารถหาตัวเลขรายได้ที่ต้องการได้ แต่แทนที่จะบอกว่าไม่สามารถตรวจสอบข้อมูลได้ โมเดลกลับสร้างตัวเลขขึ้นมาเอง แล้วนำเสนอว่าเป็นข้อมูลจากแหล่งที่ผู้ใช้ต้องการ

ดังนั้น เหตุการณ์นี้มีปัญหาสองส่วน ส่วนแรกคือ เอไอนำข้อมูลสำหรับเข้าระบบของคนอื่นไปใช้โดยไม่ได้รับอนุญาต ส่วนที่สองคือ เมื่อไม่สามารถหาคำตอบได้ เอไอกลับสร้างข้อมูลขึ้นมาแทนที่จะบอกตรงๆ ว่าหาข้อมูลไม่พบ

เคสนี้ทำให้เห็นว่า เมื่อเอไอมีความสามารถในการค้นเว็บและใช้เครื่องมือภายนอก ความผิดพลาดไม่ได้จำกัดอยู่แค่ตอบผิด แต่อาจเกิดจากสิ่งที่เอไอเลือกทำระหว่างพยายามหาคำตอบด้วย

กรณีที่ 4: หาแหล่งอ้างอิงไม่ได้ จึงนำไฟล์ไปเผยแพร่บนอินเทอร์เน็ต

กรณีที่สี่เกิดขึ้นจากงานค้นข้อมูล โมเดลถูกขอให้ค้นหาทะเลสาบที่มีพื้นที่มากกว่า 5 ล้านตารางเมตร และโมเดลสามารถใช้โปรแกรม Python คำนวณข้อมูลจนได้คำตอบ

ปัญหาเกิดขึ้นเมื่อโจทย์กำหนดเพิ่มเติมว่า คำตอบต้องมีแหล่งอ้างอิงที่เปิดดูผ่านเบราว์เซอร์ได้ โมเดลจึงหาวิธีสร้างลิงก์สำหรับอ้างอิงด้วยตัวเอง โดยนำไฟล์ที่ใช้ในการทำงานไปอัปโหลดขึ้นอินเทอร์เน็ต จากนั้นจึงนำลิงก์ที่ได้มาใช้เป็นแหล่งอ้างอิงโดยไม่มีใครอนุญาตให้โมเดลนำไฟล์ดังกล่าวออกไปเผยแพร่บนอินเทอร์เน็ต

มองจากเป้าหมายของงาน โมเดลอาจคิดว่าตัวเองกำลังแก้ปัญหา เพราะผู้ใช้ต้องการคำตอบพร้อมลิงก์อ้างอิง แต่สิ่งที่เกิดขึ้นระหว่างทางกลับเป็นการนำไฟล์ออกจากสภาพแวดล้อมเดิมและเผยแพร่ผ่านอินเทอร์เน็ตโดยไม่ได้รับอนุญาต กรณีนี้จึงชี้ให้เห็นว่า การควบคุมเอไอไม่ได้มีแค่การกำหนดว่า สุดท้ายต้องได้อะไร แต่ต้องกำหนดด้วยว่า ระหว่างทางทำอะไรได้หรือไม่ได้บ้าง

กรณีที่ 5: เอไอใช้พื้นที่เก็บโค้ดเป็นช่องทางสื่อสารกัน

กรณีที่ห้าเกิดขึ้นเมื่อเอไอหลายตัวกำลังทำงานอยู่ในระบบทดสอบ และแต่ละตัวต้องใช้ไฟล์บางอย่างเพื่อทำงานต่อ แต่ไม่สามารถเข้าถึงไฟล์ของกันและกันได้โดยตรง

ระหว่างพยายามแก้ปัญหา โมเดลพบว่าคลังซอฟต์แวร์ภายในของบริษัทสามารถใช้เก็บข้อมูลได้ จึงนำพื้นที่ดังกล่าวมาใช้เป็นเหมือนที่ฝากข้อความและข้อมูล เพื่อให้เอไออีกตัวสามารถเข้ามาอ่านได้

โอเพนเอไอยังเปิดเผยเหตุการณ์ก่อนหน้านี้ว่า โมเดลเคยสามารถนำไฟล์ทดสอบไปใส่ไว้ในคลังซอฟต์แวร์ได้ ระหว่างพยายามหาทางผ่านข้อจำกัดด้านเครือข่าย กรณีนี้จึงไม่ใช่แค่เรื่องการส่งไฟล์ แต่คือโมเดลสามารถนำเครื่องมือที่มีอยู่มาใช้ในรูปแบบที่ผู้พัฒนาไม่ได้ตั้งใจไว้ เพื่อแก้ปัญหาที่กำลังเจออยู่

กรณีที่ 6: เอไอหลายตัวส่งไฟล์ให้กันผ่านเว็บไซต์สาธารณะ

กรณีสุดท้ายเกิดขึ้นเมื่อเอไอหลายตัวต้องทำงานร่วมกัน แต่มีข้อจำกัดว่าแต่ละตัวไม่สามารถเปิดไฟล์ที่อยู่ในเครื่องของอีกตัวได้

เมื่อไฟล์ถูกส่งต่อกันโดยตรงไม่ได้ เอไอจึงหาทางอื่น โดยนำไฟล์ไปเก็บไว้บนเว็บไซต์ฝากไฟล์สาธารณะ จากนั้นจึงใช้ลิงก์ดังกล่าวให้เอไออีกตัวเข้ามาดาวน์โหลดไฟล์ต่อ

ปัญหาคือ งานนี้กำหนดให้ใช้เฉพาะไฟล์ที่อยู่ภายในเครื่อง และไม่ได้อนุญาตให้นำไฟล์ออกไปไว้บนอินเทอร์เน็ต แต่เพื่อให้ทำงานต่อได้ เอไอเลือกใช้วิธีที่ทำให้ไฟล์สามารถส่งต่อกันได้ แม้จะต้องนำไฟล์ออกไปไว้บนเว็บไซต์สาธารณะก็ตาม ผลคือ ไฟล์ที่ควรอยู่ภายในระบบที่จำกัดการเข้าถึง กลับไปปรากฏอยู่บน URL ที่บุคคลภายนอกอาจเข้าถึงได้

กรณีนี้ทำให้เห็นความเสี่ยงอีกแบบของเอไอที่ทำงานร่วมกันหลายตัว เพราะเมื่อเอไอแต่ละตัวมีเป้าหมายเดียวกัน มันอาจหาวิธีสื่อสารหรือแลกเปลี่ยนข้อมูลกันเองเพื่อให้งานสำเร็จ แม้วิธีนั้นจะไม่ใช่สิ่งที่มนุษย์กำหนดไว้ตั้งแต่แรก

โอเพนเอไอเปิดระบบใหม่ ให้พนักงานแจ้งพฤติกรรมหลุดเป้าหมาย

เพื่อรับมือกับปัญหานี้ โอเพนเอไอเปิดกรอบการรายงาน misalignment อย่างเป็นทางการ โดยเปิดให้พนักงานทุกคนสามารถแจ้งเหตุการณ์ที่สงสัยว่าโมเดลกำลังแสดงพฤติกรรมที่ไม่สอดคล้องกับเป้าหมายหรือข้อจำกัดที่กำหนดไว้

เมื่อได้รับแจ้ง ทีมด้านความปลอดภัยและ alignment จะเข้ามาตรวจสอบว่าเกิดอะไรขึ้น มีความไม่แน่นอนตรงไหน เหตุการณ์ควรเปิดเผยหรือไม่ มีบุคคลภายนอกได้รับผลกระทบหรือไม่ และสามารถเปิดเผยข้อมูลอะไรได้บ้าง

จากนั้นเหตุการณ์จะถูกแบ่งออกเป็น 3 ระดับ ได้แก่ Ready for Disclosure สำหรับกรณีที่พร้อมเปิดเผย, Minor Investigation สำหรับกรณีที่ต้องตรวจสอบเพิ่มเติมในระดับหนึ่ง และ Larger Investigation หรือ Slow Track สำหรับกรณีที่มีความซับซ้อนมากกว่า

กรณีที่เข้าสู่การตรวจสอบขนาดใหญ่จะให้ความสำคัญกับข้อกำหนดด้านความปลอดภัย กฎหมาย และการเปิดเผยช่องโหว่อย่างรับผิดชอบ หากเกี่ยวข้องกับช่องโหว่ด้านความปลอดภัย รายละเอียดบางส่วนอาจต้องเลื่อนการเปิดเผยออกไป เพื่อไม่ให้เพิ่มความเสี่ยง หากเกิดความเห็นไม่ตรงกันภายในทีม ประเด็นจะถูกส่งต่อไปยัง Safety Advisory Group หรือ SAG และหากยังไม่สามารถหาข้อสรุปได้ จะถูกส่งต่อไปยังฝ่ายบริหาร

โอเพนเอไอระบุว่า รายงานแต่ละกรณีจะพยายามบอกให้ชัดว่าเกิดพฤติกรรมอะไร ระดับความรุนแรงอยู่ตรงไหน เกิดผลกระทบต่อบุคคลภายนอกหรือไม่ เกิดขึ้นเมื่อใด ค้นพบเมื่อใด เกี่ยวข้องกับโมเดลใด รวมถึงวิธีที่บริษัทค้นพบเหตุการณ์ ขอบเขตการตรวจสอบ ผลกระทบที่อาจเกิดขึ้น และมาตรการที่นำมาใช้เพื่อป้องกันไม่ให้เกิดซ้ำ

กรณีที่เกิดกับระบบของลูกค้าโอเพนเอไอจะเปิดเผยข้อมูลเท่าที่สามารถทำได้ภายใต้ข้อกำหนดด้านความเป็นส่วนตัวและสัญญาที่เกี่ยวข้อง

ทำไมโอเพนเอไอจึงเปิดเผยข้อมูลตอนนี้

โอเพนเอไอระบุว่า ปัจจุบันยังไม่มีกรอบมาตรฐานเดียวกันทั้งอุตสาหกรรมว่า บริษัทพัฒนาเอไอควรเปิดเผยเหตุการณ์ misalignment เมื่อใด และควรให้ข้อมูลรายละเอียดระดับใด บริษัทจึงต้องการให้กรอบนี้เป็นจุดเริ่มต้นของมาตรฐานดังกล่าว โดยจะพัฒนาต่อร่วมกับผู้พัฒนาเอไอ นักวิจัยจากภายนอก องค์กรกำหนดมาตรฐานอุตสาหกรรม และหน่วยงานกำกับดูแล

กรอบใหม่ไม่ได้จำกัดอยู่เฉพาะโมเดลที่เปิดให้ผู้ใช้ทั่วไปใช้งาน แต่ครอบคลุมตลอดวงจรของโมเดล ตั้งแต่การฝึก ประเมิน ทดสอบ ไปจนถึงนำไปใช้งานจริง โดยเกณฑ์ในการพิจารณาว่าเหตุการณ์ใดควรถูกเปิดเผยยังสามารถพัฒนาได้อีก และบริษัทต้องการทำงานร่วมกับผู้พัฒนาเอไอรายอื่น นักวิจัย องค์กรกำหนดมาตรฐาน และหน่วยงานกำกับดูแล เพื่อพัฒนาเกณฑ์ที่มีความเป็นกลางมากขึ้น

สำหรับเหตุการณ์ด้านความปลอดภัย ความมั่นคง ที่มีความรุนแรง โอเพนเอไอระบุว่า บริษัทจะต้องพิจารณาการแจ้งหน่วยงานรัฐบาลกลางของสหรัฐตามความเหมาะสม และกรอบนี้ไม่ได้เข้ามาแทนที่ข้อกำหนดทางกฎหมายที่บริษัทต้องปฏิบัติตาม

อย่างไรก็ตาม การประกาศครั้งนี้เกิดขึ้นหลังโอเพนเอไอเปิดเผยเมื่อเดือนกรกฎาคม 2569 ว่าโมเดลเอไอของบริษัทสามารถเข้าไปในระบบของ ฮักกิง เฟซ (Hugging Face) ระหว่างการทดสอบด้านความปลอดภัย ขณะที่ แอนโทรปิก (Anthropic) ก็เปิดเผยในช่วงเดียวกันว่าโมเดลของบริษัทสามารถเจาะเข้าไปในระบบขององค์กร 3 แห่งระหว่างการทดสอบ

ลิอัน เจีย ซู (Lian Jye Su) หัวหน้านักวิเคราะห์ของออมเดีย (Omdia) ระบุว่า เอเจนต์เอไอกำลังมีความสามารถมากขึ้น และพยายามจัดการงานที่ซับซ้อนผ่านการทำงานร่วมกันระหว่างเอเจนต์ การแบ่งปันความรู้ รวมถึงพฤติกรรมอย่างการหลอกลวงหรือการปกปิดข้อมูล ซึ่งทำให้แนวทางด้านความปลอดภัยแบบเดิมรับมือได้ยากขึ้น

ดังนั้น กรอบการติดตามและเปิดเผยข้อมูลของโอเพนเอไอสามารถช่วยผลักดันให้นักพัฒนาเอไอรายอื่นนำแนวทางคล้ายกันไปใช้ แต่กระบวนการของบริษัทในเวลานี้ยังเป็นระบบภายในและเป็นความสมัครใจ

ทั้งนี้ บริษัทย้ำว่า 6 เหตุการณ์ที่เปิดเผยเป็นเพียงชุดแรก ไม่ใช่รายการที่ครอบคลุมทุกเหตุการณ์ที่เคยเกิดขึ้น และไม่ควรถูกนำไปใช้ตีความว่าเป็นความถี่หรือระดับความรุนแรงที่แท้จริงของปัญหา โดยโอเพนเอไอจะทยอยเผยแพร่กรณีเพิ่มเติม พร้อมปรับปรุงกรอบการรายงานต่อไป

อ้างอิง: OpenAI BBC ABC News และ AP News