องค์กรทั่วโลกเร่งใช้ Agentic AI แต่ระบบกำกับดูแลยังตามไม่ทัน

การนำ AI Agent มาใช้ในองค์กรกำลังขยับจากการทดลองสู่การทำงานร่วมกันหลายระบบ แต่การขยายการใช้งานยังต้องอาศัยทั้งระบบกำกับดูแล การเชื่อมต่อข้อมูล และกลไกควบคุมที่ทำงานได้จริง เพื่อให้ AI สร้างผลลัพธ์ทางธุรกิจได้อย่างน่าเชื่อถือ

เอาท์ซิสเต็มส์ (OutSystems) ผู้พัฒนาแพลตฟอร์มพัฒนา Agentic Systems เผยผลการศึกษา Engineering Business Outcomes: The Shift to Agentic Systems ซึ่งจัดทำร่วมกับ CIO Dive และ KPMG พบว่า ผู้บริหาร 82% เชื่อว่าองค์กรของตนสามารถรับมือกับการกำกับดูแล การบูรณาการ และการติดตามการทำงานของ AI Agent ได้ทันเมื่อนำไปใช้งานจริง แต่มีเพียง 26% ที่ระบุว่าพร้อมจัดการความขัดแย้งระหว่าง AI Agent ระบบต่างๆ และกระบวนการทำงานอัตโนมัติ

ผลสำรวจระบุว่า ผู้บริหาร 71% คาดการณ์ว่า ภายใน 5 ปีข้างหน้า แอปพลิเคชันจะทำงานร่วมกันเพื่อประสานงานข้ามระบบ ทีมงาน และกระบวนการทางธุรกิจ รวมถึงรองรับเวิร์กโฟลว์ที่ซับซ้อนและมีหลายขั้นตอนมากขึ้น

ติอาโก อาเซเวโด ประธานเจ้าหน้าที่ฝ่ายสารสนเทศ เอาท์ซิสเต็มส์ กล่าวว่า แม้ผู้บริหารส่วนใหญ่เชื่อว่าองค์กรสามารถกำกับดูแล AI Agent ได้ แต่ความพร้อมในการจัดการความขัดแย้งระหว่าง AI Agent ยังเป็นช่องว่างที่ต้องเร่งแก้ไข

จากประสบการณ์การนำ AI Agent มาใช้ในกระบวนการทำงานขององค์กร เขาระบุว่า ความปลอดภัยควรได้รับการออกแบบให้เป็นส่วนหนึ่งของแพลตฟอร์มตั้งแต่ต้น แทนที่จะพึ่งพาการตรวจสอบภายหลัง

โดยองค์กรที่บังคับใช้นโยบายกำกับดูแลได้ระหว่างที่ AI Agent ทำงาน จะสามารถดำเนินงานได้รวดเร็วขึ้น โดยไม่ต้องหยุดเพื่อตรวจสอบความน่าเชื่อถือของระบบที่พัฒนาขึ้น

องค์กร 83% ใช้ระบบเดิมดูแล AI

ผลสำรวจความคิดเห็นผู้บริหารและผู้มีอำนาจตัดสินใจด้านไอทีกว่า 850 คน พบว่า องค์กรส่วนใหญ่ยังมีพื้นฐานด้านการกำกับดูแลจากระบบเดิม โดย 83% ใช้กระบวนการด้านไอที ความปลอดภัย หรือการปฏิบัติตามข้อกำหนดที่มีอยู่ รวมถึงการตรวจสอบเฉพาะทาง นโยบาย และระบบติดตามจากส่วนกลาง เพื่อกำกับดูแล AI Agent ที่สามารถดำเนินการผ่านแอปพลิเคชันหรือเวิร์กโฟลว์ต่างๆ ได้อย่างอิสระ

อย่างไรก็ตาม การกำกับดูแลส่วนใหญ่ยังพึ่งพาบุคลากรและกระบวนการตรวจสอบเป็นหลัก มีเพียง 5% ที่ใช้กลไกควบคุมอัตโนมัติ ระบบบันทึกกิจกรรมเพื่อการตรวจสอบย้อนหลัง (Audit Trails) และจุดตรวจสอบโดยมนุษย์อย่างเป็นทางการร่วมกัน

โจทย์สำคัญจึงอยู่ที่การเปลี่ยนนโยบายให้เป็นกลไกควบคุมระหว่างการทำงานจริง (Runtime Controls) ซึ่งสามารถบังคับใช้ได้อย่างสม่ำเสมอ ไม่ว่า AI Agent จะทำงานอยู่ในส่วนใดของระบบ

เมื่อการใช้งาน Agentic AI ขยายตัว ความท้าทายยังเปลี่ยนจากการพัฒนา AI Agent แต่ละตัว ไปสู่การบริหารระบบนิเวศที่ประกอบด้วยโมเดล AI แอปพลิเคชัน ข้อมูล และเครื่องมือจากผู้ให้บริการภายนอก

ผลสำรวจพบว่า 74% ให้ความสำคัญกับการเชื่อมต่อระบบ AI เข้ากับแอปพลิเคชันและระบบเดิมขององค์กร ขณะที่ 63% ให้ความสำคัญกับการประสานการทำงานของ AI Agent ข้ามระบบ (Agent Orchestration) และ 62% มองว่าความสามารถในการเปลี่ยนโมเดล AI ผู้ให้บริการ และแพลตฟอร์มในอนาคตเป็นปัจจัยสำคัญ

ตัวเลขดังกล่าวแสดงให้เห็นว่า องค์กรให้ความสำคัญกับความยืดหยุ่นและการทำงานร่วมกันของระบบ มากกว่าการพึ่งพาผู้ให้บริการรายเดียว

ทดสอบทั้งระบบ ไม่ใช่แค่รายตัว

รายงานระบุว่า ความน่าเชื่อถือของ Agentic AI ขึ้นอยู่กับเสถียรภาพของกระบวนการทำงานทั้งระบบ องค์กรจึงให้ความสำคัญกับการทดสอบแบบครบวงจร ซึ่งครอบคลุมการทำงานร่วมกันระหว่าง AI Agent การจัดการข้อยกเว้นและสถานการณ์ผิดปกติ การรับมือเมื่อ AI Agent ดำเนินการขัดแย้งกัน ตลอดจนกลไกย้อนกลับไปยังสถานะก่อนหน้า (Rollback)

ผู้บริหาร 81% ระบุว่า การทดสอบ ประเมินผล และตรวจสอบความถูกต้องของพฤติกรรม AI Agent เป็นปัจจัยที่มีความสำคัญมากถึงมากที่สุดในการเลือกแพลตฟอร์มหรือเครื่องมือ AI

ขณะเดียวกัน 35% ของผู้ตอบแบบสำรวจระบุว่า ความสอดคล้องของข้อมูลและการแบ่งปันบริบทระหว่างระบบเป็นอุปสรรคสำคัญต่อการประสานงานระหว่าง AI Agent

ประเด็นดังกล่าวทำให้การนำ AI Agent ไปใช้งานต้องคำนึงถึงข้อมูลขององค์กรที่อยู่ภายใต้การกำกับดูแล สถานะปัจจุบันของแอปพลิเคชัน และกระบวนการทางธุรกิจที่เกี่ยวข้อง ไม่ใช่อาศัยเพียงความรู้ทั่วไปจากโมเดล AI

วัดผลจากข้อผิดพลาด ต้นทุน และประสิทธิภาพ

องค์กรเริ่มประเมินความสำเร็จของ Agentic AI จากผลกระทบต่อการดำเนินงาน โดยการลดข้อผิดพลาดเป็นตัวชี้วัดสำคัญอันดับหนึ่งที่ 64% รองลงมาคือการปฏิบัติตามข้อกำหนดและการลดความเสี่ยง การเพิ่มประสิทธิภาพการทำงานของพนักงาน และการลดต้นทุน

ในภาพรวมทั่วโลก มีองค์กรเพียง 12% ที่ระบุว่า Agentic AI ช่วยเร่งการเปิดตัวผลิตภัณฑ์ บริการ หรือประสบการณ์ใหม่สำหรับลูกค้า ขณะที่องค์กรเริ่มเห็นประโยชน์ด้านการดำเนินงานแล้ว การใช้เทคโนโลยีเพื่อสร้างการเปลี่ยนแปลงทางธุรกิจในวงกว้างยังมีสัดส่วนจำกัด

ไมเคิล ฮาร์เปอร์ กรรมการผู้จัดการ เคพีเอ็มจี กล่าวว่า การสร้างความเชื่อมั่นในระบบ Agentic AI ต้องเริ่มตั้งแต่ขั้นตอนการออกแบบและพัฒนา ไม่ใช่อาศัยเพียงการตรวจสอบภายหลัง

เนื่องจากระบบบันทึกข้อมูลและกระบวนการกำกับดูแลแบบเดิมถูกออกแบบมาสำหรับซอฟต์แวร์ที่มีรูปแบบการทำงานค่อนข้างตายตัว ไม่ใช่ AI ที่สามารถปรับเปลี่ยนการทำงานได้อย่างต่อเนื่อง

เขาระบุว่า การปิดช่องว่างระหว่างความเชื่อมั่นกับความพร้อมในการปฏิบัติงานจริง จำเป็นต้องอาศัยการกำหนดนโยบายให้อยู่ในรูปแบบโค้ด (Policy-as-Code) ควบคู่กับกลไกกำหนดขอบเขตและควบคุมการทำงานของ AI ระหว่างที่ระบบทำงานจริง (Runtime Guardrails) เพื่อให้องค์กรสามารถพัฒนานวัตกรรมได้อย่างคล่องตัว พร้อมรักษาความปลอดภัยและความน่าเชื่อถือของกระบวนการทำงานตั้งแต่ต้นจนจบ