Agentic AI อิสระแค่ไหน กำกับอย่างไร (Agentic AI Autonomy and Governance)

อย่างไรก็ตาม การจะสามารถนำศักยภาพของเทคโนโลยีนี้มาใช้ให้เกิดประโยชน์สูงสุดได้นั้น องค์กรจำเป็นต้องทำความเข้าใจและบริหารจัดการความเสี่ยงที่เกี่ยวข้องกับการตัดสินใจและการดำเนินงานด้วยตนเองของระบบ AI (autonomous decision-making) อย่างรอบด้าน

ปัจจุบัน มุมมองต่อ Agentic AI กำลังเปลี่ยนแปลงไปอย่างเห็นได้ชัด จากเดิมที่องค์กรให้ความสำคัญกับการตั้งคำถามว่าเทคโนโลยี AI สามารถทำอะไรได้บ้าง ผู้นำด้านธุรกิจและเทคโนโลยีสารสนเทศ เริ่มหันมาให้ความสำคัญกับประเด็นที่ลึกซึ้งยิ่งขึ้น 

นั่นคือ องค์กรควรมอบอำนาจในการทำงานอย่างเป็นอิสระให้แก่ระบบ AI มากน้อยเพียงใด (level of autonomy) และควรกำหนดมาตรการควบคุมหรือกลไกป้องกันความเสี่ยง (safeguards) อย่างไร เพื่อให้การใช้งานเทคโนโลยีเป็นไปอย่างเหมาะสมและปลอดภัย

Agentic AI มีความแตกต่างจากผู้ช่วย AI ทั่วไป ซึ่งส่วนใหญ่ทำหน้าที่สร้างคำตอบตามคำสั่งหรือข้อมูลที่ได้รับจากผู้ใช้งาน โดย Agentic AI สามารถตัดสินใจ ดำเนินการ และบริหารจัดการงานต่าง ๆ ได้ด้วยตนเอง ครอบคลุมกระบวนการทำงานทางธุรกิจที่หลากหลาย

ความสามารถดังกล่าว ช่วยเร่งความรวดเร็วในการดำเนินงาน ลดภาระงานที่ต้องทำด้วยบุคลากร และเพิ่มผลิตภาพในการทำงาน

อย่างไรก็ตาม การมอบอำนาจให้ระบบ AI สามารถดำเนินการได้อย่างอิสระมากขึ้น ยังนำมาซึ่งประเด็นท้าทายสำคัญ ทั้งด้านการกำกับดูแล (governance) ความรับผิดชอบและความสามารถในการตรวจสอบย้อนกลับ (accountability) ความมั่นคงปลอดภัย (security) ตลอดจนความพร้อมขององค์กร (organizational Readiness)

การนำ Agentic AI มาใช้งานในภาคธุรกิจกำลังขยายตัวอย่างต่อเนื่อง โดยผลสำรวจล่าสุดของ HCLTech ระบุว่า 87% ขององค์กรที่เข้าร่วมการสำรวจได้นำ Generative AI หรือ Agentic AI มาใช้ในงานปฏิบัติการด้านเทคโนโลยีสารสนเทศแล้ว

ตัวเลขดังกล่าวสะท้อนให้เห็นถึงความจำเป็นในการพัฒนากรอบการกำกับดูแลที่มีประสิทธิภาพ ควบคู่ไปกับการนำเทคโนโลยีมาใช้อย่างมีความรับผิดชอบ

ประเด็นเหล่านี้ยังได้รับการหยิบยกขึ้นหารือในการประชุมซึ่งจัดขึ้นโดย HCLTech ร่วมกับ Google Cloud โดยมีผู้เชี่ยวชาญและผู้แทนจากภาคอุตสาหกรรมเข้าร่วมแลกเปลี่ยนมุมมองเกี่ยวกับผลกระทบของ Agentic AI ต่อภาคธุรกิจ

รวมถึงปัจจัยสำคัญที่องค์กรต้องพิจารณาในการเปลี่ยนผ่านจากการทดลองใช้งานในระยะเริ่มต้น ไปสู่การประยุกต์ใช้ในวงกว้างทั่วทั้งองค์กร

ในปัจจุบัน Agentic AI กำลังสร้างโอกาสใหม่ให้กับการดำเนินงานในหลากหลายสายงานขององค์กร

ไม่ว่าจะเป็น งานปฏิบัติการด้านไอที วิศวกรรมซอฟต์แวร์ การบริหารจัดการประสบการณ์ลูกค้า ทรัพยากรบุคคล การตลาด การเงิน และความยั่งยืน

ด้วยความสามารถในการประสานและจัดการกระบวนการทำงานที่ซับซ้อน ดำเนินกิจกรรมที่ต้องทำซ้ำๆ ตลอดจนวิเคราะห์และนำเสนอข้อมูลเชิงลึกเพื่อสนับสนุนการตัดสินใจ

ระบบ AI Agent จึงสามารถช่วยให้องค์กรดำเนินงานได้อย่างมีประสิทธิภาพมากขึ้น พร้อมทั้งเพิ่มขีดความสามารถในการปรับตัวและตอบสนองต่อความต้องการทางธุรกิจที่เปลี่ยนแปลงอย่างรวดเร็ว

องค์กรจึงควรบูรณาการการกำกับดูแล (governance) เข้าเป็นส่วนหนึ่งของการพัฒนา และนำ Agentic AI มาใช้งานตั้งแต่เริ่มต้น (by design) พร้อมกำหนดขอบเขตและข้อจำกัดในการปฏิบัติงานของ AI Agent อย่างชัดเจน

เพื่อระบุว่าระบบสามารถดำเนินการใดได้ด้วยตนเอง และสถานการณ์ใดที่จำเป็นต้องส่งต่อให้บุคลากรเข้ามาตรวจสอบหรือตัดสินใจ (human intervention) โดยเฉพาะอย่างยิ่งในกระบวนการที่มีความเสี่ยงสูง (high-risk)

เช่น การเงิน (finance) ความมั่นคงปลอดภัยทางไซเบอร์ (cybersecurity) การปฏิบัติตามกฎระเบียบ (regulatory compliance) รวมถึงการตัดสินใจที่อาจส่งผลกระทบต่อลูกค้าหรือพนักงานขององค์กร

นอกจากนี้ การกำหนดความรับผิดชอบอย่างชัดเจน การสร้างความโปร่งใสในกระบวนการตัดสินใจ และการวางระบบส่งต่อหรือยกระดับประเด็นปัญหาไปยังผู้มีอำนาจรับผิดชอบ

ถือเป็นองค์ประกอบสำคัญที่จะช่วยให้องค์กรสามารถนำศักยภาพของ AI ที่มีความเป็นอิสระสูงมาใช้ประโยชน์ได้อย่างเต็มที่ 

ขณะเดียวกันยังคงรักษาบทบาทของมนุษย์ในการกำกับดูแล (human oversight) และควบคุมการดำเนินงาน (human control) เพื่อให้มั่นใจว่าการใช้งาน Agentic AI เป็นไปอย่างเหมาะสม โปร่งใส และสอดคล้องกับหลักธรรมาภิบาลขององค์กร

นอกเหนือจากความพร้อมด้านเทคโนโลยีแล้ว ความพร้อมขององค์กร (organizational readiness) ยังเป็นปัจจัยสำคัญที่มีบทบาทต่อความสำเร็จในการนำ Agentic AI มาประยุกต์ใช้ในภาคธุรกิจ 

องค์กรจำเป็นต้องบูรณาการและปรับความสอดคล้องขององค์ประกอบสำคัญ ทั้งข้อมูล การกำกับดูแล (governance) บุคลากร (workforce) และกระบวนการทำงาน (business processes) ควบคู่ไปกับการลงทุนด้านการบริหารจัดการการเปลี่ยนแปลง

และการเสริมสร้างความรู้ความเข้าใจเกี่ยวกับ AI (AI literacy) เพื่อเตรียมความพร้อมให้บุคลากรสามารถทำงานร่วมกับเทคโนโลยีได้อย่างมีประสิทธิภาพ

ในบริบทของการทำงานยุคใหม่ พนักงานจำเป็นต้องพัฒนาทักษะและความสามารถที่สอดคล้องกับบทบาทที่เปลี่ยนแปลงไป

ไม่ว่าจะเป็น การติดตามและกำกับดูแลการทำงานของ AI Agent (AI agent monitoring) การประเมินความเหมาะสมของผลการตัดสินใจจากระบบ AI ตลอดจนการทำงานร่วมกับระบบอัตโนมัติที่สามารถตัดสินใจและดำเนินงานได้ด้วยตนเอง

ทักษะเหล่านี้จะกลายเป็นองค์ประกอบสำคัญที่ช่วยให้องค์กรสามารถใช้ประโยชน์จาก Agentic AI ได้อย่างเต็มศักยภาพ โดยยังคงรักษาบทบาทของมนุษย์ในการกำกับทิศทางและตรวจสอบการดำเนินงาน

เมื่อการนำ Agentic AI มาใช้งานขยายตัวมากขึ้น รูปแบบการดำเนินงานขององค์กร รวมถึงตัวชี้วัดผลการดำเนินงาน แบบดั้งเดิมก็จำเป็นต้องได้รับการปรับเปลี่ยนให้สอดคล้องกับบริบทใหม่เช่นกัน โดยมีแนวโน้มที่รูปแบบการทำงานร่วมกันระหว่างมนุษย์และ AI จะกลายเป็นเรื่องปกติมากขึ้น 

พนักงานจะสามารถมุ่งเน้นไปที่การตัดสินใจเชิงกลยุทธ์ และการกำกับดูแล ขณะที่ AI Agent จะเข้ามารับผิดชอบงานปฏิบัติการทั่วไปและกิจกรรมที่มีลักษณะซ้ำ ๆ ช่วยให้บุคลากรสามารถทุ่มเทเวลาและทรัพยากรไปกับงานที่สร้างมูลค่าเพิ่มให้แก่องค์กรได้มากขึ้น

การเปลี่ยนผ่านดังกล่าวจึงต้องอาศัยการลงทุนอย่างรอบด้าน ทั้งในด้านเทคโนโลยี และการพัฒนาศักยภาพของบุคลากร เพื่อสร้างความพร้อมในการปรับตัวและรองรับรูปแบบการทำงานที่เปลี่ยนแปลงไป

ความสำเร็จของการนำ Agentic AI มาใช้ในองค์กรไม่ได้ขึ้นอยู่กับจำนวน AI Agent ที่นำมาปรับใช้ (AI agent deployment) แต่ขึ้นอยู่กับความสามารถขององค์กรในการบูรณาการเทคโนโลยีเหล่านี้เข้ากับกระบวนการดำเนินธุรกิจได้อย่างมีประสิทธิภาพ (business integration) และสามารถสร้างผลลัพธ์ที่เป็นรูปธรรมและวัดผลได้ (measurable business value) มากน้อยเพียงใด.