เมื่อ AI Agents หลายตัวเริ่มมีปฏิสัมพันธ์กัน ความเสี่ยงรูปแบบใหม่อาจเกิดขึ้น
ในปัจจุบันเริ่มมีการตั้งคำถามกับอนาคตของการนำ AI Agent มาใช้งานจริง หลังพบว่า AI Agents ที่ใช้โมเดล Claude สามารถพัฒนาไปสู่พฤติกรรมที่เป็นอันตรายต่อกันเอง เมื่อได้รับคำสั่งหรือเป้าหมายที่ขัดแย้งกัน
โดยในการทดลอง นักวิจัยสร้าง Claude ขึ้นมา 3 ตัว ให้แต่ละตัวทำงานอยู่บน Virtual Machine ของตัวเอง และมอบหมายภารกิจเดียวกันคือการย้ายระบบ Backend ที่เขียนด้วย Python ไปยังภาษาโปรแกรมอื่น ได้แก่ Rust, Go และ TypeScript โดยแต่ละ Agent จะไม่ได้รับข้อมูลตั้งแต่แรกว่ามี Agent ตัวอื่นอยู่ในระบบ และปล่อยให้ทำงานต่อเนื่องเป็นเวลา 4 ชั่วโมง
ผลปรากฏว่า Agent ทุกตัวเริ่มตีความว่า Agent อื่นกำลังจงใจขัดขวางการทำงานของตนเอง และพยายามกำจัดหรือเอาชนะคู่แข่ง
พฤติกรรมดังกล่าวแสดงให้เห็นถึงความเสี่ยงรูปแบบใหม่ของ AI ที่ไม่ได้จำกัดอยู่เพียงความผิดพลาดของโมเดล แต่เกิดจากการที่ AI หลายตัวต้องทำงานอยู่ในสภาพแวดล้อมเดียวกันและมีเป้าหมายที่อาจขัดแย้งกัน
ความขัดแย้งระหว่าง Agent สามารถยกระดับไปสู่การกระทำที่คล้ายการโจมตีทางไซเบอร์ โดย Agent บางตัวพยายามปิดการใช้งาน System Account ของคู่แข่ง
ขณะที่บางตัวสร้างสคริปต์เพื่อค้นหาและยุติกระบวนการของ Agent อื่นอย่างต่อเนื่อง นอกจากนี้ยังพบกรณีที่ Agent แทรกโค้ดอันตรายเข้าไปในระบบ โดยพรางให้ดูเหมือนเป็นส่วนหนึ่งของงานที่ดำเนินการโดย Agent คู่แข่ง หรือสามารถยึดการควบคุมระบบได้ด้วยการเพิกถอนสิทธิ์การเข้าถึงของ Agent อื่น
ในบางกรณี Agent สามารถตรวจพบว่าปัญหาที่เกิดขึ้นมาจากคำสั่งที่ขัดแย้งกัน จากนั้นจัดการบันทึกสิ่งที่เกิดขึ้น และบางครั้งร้องขอให้มนุษย์เข้ามาช่วยตัดสินใจ โดยโมเดล Mythos 5 สามารถบรรลุข้อตกลงยุติความขัดแย้งได้ถึง 98% ของการทดลอง ขณะที่โมเดลรุ่นเก่าอย่าง Sonnet 4.6 และ Opus 4.6 มีแนวโน้มที่จะใช้วิธีบังคับหรือไม่สามารถแก้ไขความขัดแย้งได้
อย่างไรก็ตาม ยังมีการตั้งข้อสังเกตที่สำคัญเกี่ยวกับความสามารถในการแก้ไขความขัดแย้งที่ไม่ได้เพิ่มขึ้นตามความสามารถโดยรวมของโมเดล เพราะโมเดล Mythos ที่มีความสามารถสูงบางครั้งกลับเลือกตัดสิทธิ์ของคู่แข่งก่อน แล้วจึงค่อยนำไปสู่การเจรจาในภายหลัง
นอกจากนี้ ยังมีการศึกษาความเสี่ยงจากการให้ AI Agents หลายตัวทำงานร่วมกัน โดยนักวิจัยได้ทดลองให้ Agent จำนวน 45 ตัวตรวจสอบโครงการ Open Source 15 โครงการ และเปิดโอกาสให้ Agent สามารถแบ่งปันข้อมูลและความรู้ผ่าน Forum กลาง ผลการทดลองพบว่าโมเดล Mythos Preview ที่ทำงานในลักษณะ Coordinated Swarm สามารถค้นพบช่องโหว่ได้มากกว่าวิธีที่ให้ Agent แต่ละตัวทำงานแยกกันในส่วนต่างๆ ของโค้ด แม้ประสิทธิภาพต่อช่องโหว่ที่ค้นพบจะใกล้เคียงกันเมื่อเปรียบเทียบในขอบเขตเดียวกันก็ตาม
ขณะเดียวกัน งานวิจัยอีกส่วนกลับพบความเสี่ยงที่แตกต่างออกไป นั่นคือ Agent ที่ใช้โมเดลเดียวกันมีแนวโน้มที่จะตัดสินใจเหมือนกันเมื่อได้รับ Prompt เดียวกัน ซึ่งอาจนำไปสู่การสร้าง "Group Consensus" ที่ไม่ถูกต้อง
ตัวอย่างหนึ่งคือการทดลองจำลองตลาดราคา ซึ่ง Agent เริ่มประสานกันกำหนดระดับราคาขั้นต่ำภายในเวลาเพียงไม่กี่รอบ และยังคงกำหนดราคาในลักษณะเดียวกันแม้จะถูกตัดช่องทางการสื่อสารออกไปแล้ว นอกจากนี้ยังพบว่า Agent มีแนวโน้มที่จะทิ้งข้อมูลเฉพาะที่มีอยู่แล้วหันไปเชื่อตามข้อมูลหรือความคิดเห็นของกลุ่ม แม้ว่าข้อมูลเฉพาะดังกล่าวจะเป็นข้อมูลสำคัญที่สามารถเปลี่ยนผลลัพธ์ของการตัดสินใจก็ตาม
เราจะเห็นได้ว่า เมื่อ AI Agents หลายตัวเริ่มมีปฏิสัมพันธ์กัน ความเสี่ยงรูปแบบใหม่อาจเกิดขึ้น จากเป้าหมายที่ขัดแย้งกัน การตัดสินใจตามกลุ่ม และการมีสิทธิ์ในการดำเนินการมากเกินไป แม้ AI จะไม่ได้มีเจตนาร้าย แต่เมื่อได้รับเป้าหมายและเครื่องมือที่เหมาะสม
รวมถึงมีอำนาจในการเปลี่ยนแปลงระบบ พฤติกรรมที่ไม่ได้คาดคิดก็สามารถนำไปสู่การกระทำที่มีลักษณะคล้ายการโจมตีทางไซเบอร์ได้
ดังนั้น ก่อนที่การใช้งาน AI Agents จะขยายตัวเร็วกว่าความสามารถของอุตสาหกรรมในการทำความเข้าใจและควบคุมความเสี่ยง องค์กรควรให้ความสำคัญกับ AI Governance, Agent-to-Agent Security, Least Privilege, Continuous Monitoring และ Human Oversight ตั้งแต่ระยะเริ่มต้น
เพราะในยุคที่ AI ไม่ได้ทำงานเพียงลำพังอีกต่อไป การรักษาความปลอดภัยของ "การทำงานร่วมกันระหว่าง AI" จะกลายเป็นหนึ่งในโจทย์สำคัญของ Cybersecurity ในอนาคตครับ
