การเปลี่ยนจากแนวคิด "Block AI เพื่อความปลอดภัย" มาเป็น "Govern AI ตามบริบทและความเสี่ยง" จะช่วยให้องค์กรสามารถใช้ประโยชน์จาก AI ได้เต็มศักยภาพ
การนำ Generative AI และ AI Tools มาใช้งานกำลังกลายเป็นส่วนหนึ่งของการทำงานในองค์กร ตั้งแต่การสร้าง สรุปเนื้อหา การวิเคราะห์ข้อมูล การเขียนโปรแกรม ไปจนถึงการทำงานที่ซับซ้อนผ่าน AI Agents ที่สามารถเชื่อมต่อกับระบบและดำเนินการบางอย่างแทนผู้ใช้งานได้
แม้องค์กรจำนวนมากจะมีการควบคุม AI Tools แต่ในทางปฏิบัติ พนักงานจำนวนไม่น้อยยังเลือกใช้บัญชีส่วนตัว Browser Extensions หรือ AI Applications ที่ฝ่าย IT อาจไม่เคยตรวจสอบมาก่อน
ปัญหานี้ทำให้เกิดสิ่งที่เรียกว่า Shadow AI และเพิ่มความเสี่ยงในการรั่วไหลของข้อมูล โดยแนวทางที่องค์กรคุ้นเคยในการควบคุมความเสี่ยงคือการค้นหา AI Applications ที่มีการใช้งาน จากนั้นใช้ Cloud Access Security Broker (CASB) เพื่อควบคุมการเข้าถึง และเสริมด้วย Data Loss Prevention (DLP) สำหรับตรวจจับและป้องกันการส่งข้อมูลสำคัญออกไป
แนวทางดังกล่าวยังคงมีความสำคัญและสามารถควบคุมความเสี่ยงของ SaaS ได้อย่างมีประสิทธิภาพ แต่เมื่อเปลี่ยนบริบทมาเป็น AI กลับมีข้อจำกัดสำคัญ เพราะความเสี่ยงไม่ได้เกิดขึ้นเฉพาะตอนที่ผู้ใช้เข้าถึงแอปพลิเคชัน หรือส่งข้อมูลที่ตรงกับ Pattern ของ DLP เท่านั้น แต่สามารถเกิดขึ้นภายในบทสนทนาระหว่างผู้ใช้กับ AI ได้ตลอดเวลา
AI Risk สามารถซ่อนอยู่ในความหมายและบริบทของ Interaction มากกว่าตัวข้อมูลเพียงอย่างเดียว Prompt หนึ่งอาจดูไม่มีอันตรายหากพิจารณาเฉพาะข้อความ แต่เมื่อวิเคราะห์รวมกับบริบทก่อนหน้า วัตถุประสงค์ของผู้ใช้ และข้อมูลที่ถูกส่งเข้ามาหลายครั้ง อาจพบว่าข้อมูลดังกล่าวมีความละเอียดอ่อนอย่างมาก
เช่น พนักงานอาจไม่ได้วางเลขบัญชีหรือ API Key ลงใน Prompt โดยตรง แต่ค่อยๆ เปิดเผยข้อมูลเกี่ยวกับสัญญากับคู่ค้าที่กำลังจะปิดดีล ข้อมูลเหตุการณ์ระบบล่ม หรือรายละเอียดของโครงการที่ยังไม่ได้เปิดเผย
เมื่อ AI นำข้อมูลทั้งหมดมาประมวลผลรวมกัน ก็อาจสามารถสร้างภาพรวมของข้อมูลที่เป็นความลับขึ้นมาได้ ขณะที่ DLP แบบเดิมอาจไม่สามารถตรวจจับความเสี่ยงดังกล่าวได้ เพราะข้อมูลแต่ละส่วนไม่ได้ตรงกับรูปแบบข้อมูลอ่อนไหวที่กำหนดไว้ นอกจากนี้ CASB อาจสามารถตอบได้ว่าผู้ใช้งานได้รับอนุญาตให้เข้าถึง AI Application หรือไม่ แต่ไม่ได้หมายความว่า Prompt ทุกประเภทที่ผู้ใช้ส่งเข้าไปจะปลอดภัย
ด้วยเหตุนี้จึงนำไปสู่แนวคิด Interaction-Aware Security Layer ซึ่งทำหน้าที่วิเคราะห์และตรวจสอบสิ่งที่เกิดขึ้นภายใน Interaction ระหว่างผู้ใช้งานกับ AI ตั้งแต่สิ่งที่ถูกถาม ข้อมูลที่ AI นำมาใช้ คำตอบที่สร้างขึ้น ไปจนถึงสิ่งที่ AI Agent ดำเนินการต่อ
เพราะการให้ Agent เข้าถึงข้อมูลพื้นฐานที่ได้รับอนุญาตอาจเป็นกิจกรรมปกติ แต่หาก Agent นำเอกสารภายในที่มีข้อจำกัดไปส่งต่อให้บริการภายนอก ความเสี่ยงก็เพิ่มขึ้นทันที
อีกเรื่องที่สำคัญคือ Prompt Injection ซึ่งเกิดขึ้นเมื่อข้อมูลที่ Agent ดึงเข้ามามีคำสั่งแฝงอยู่ และ AI เข้าใจคำสั่งดังกล่าวว่าเป็น Instruction ที่ต้องปฏิบัติตาม แทนที่จะมองว่าเป็นเพียงข้อมูล สิ่งเหล่านี้แสดงให้เห็นว่า การตรวจสอบตัวตนเพียงอย่างเดียวไม่เพียงพอ เพราะ Request ที่เริ่มต้นจากความเสี่ยงต่ำสามารถเปลี่ยนเป็นการกระทำที่มีความเสี่ยงสูงได้ภายในเวลาไม่นาน
อย่างไรก็ตาม การแก้ปัญหาไม่ควรหมายถึงการใช้ CASB หรือ DLP อย่างเข้มงวดจนกลายเป็นการปิดกั้น AI ทั้งหมด เพราะเมื่อพนักงานยังจำเป็นต้องใช้ AI การบล็อกมากเกินไปอาจผลักดันให้พวกเขาหันไปใช้ Personal Accounts หรือ Unmanaged AI Extensions ที่อยู่นอกการมองเห็นของทีมรักษาความปลอดภัย และยิ่งทำให้ปัญหา Shadow AI รุนแรงขึ้น แนวทางที่เหมาะสมจึงควรเป็นการนำเครื่องมือแต่ละชั้นมาทำงานร่วมกัน
โดย CASB ยังคงมีบทบาทในการค้นหาและควบคุม AI และ SaaS Applications ที่องค์กรใช้งาน ส่วน DLP ทำหน้าที่ตรวจจับข้อมูลสำคัญและรูปแบบข้อมูลที่ทราบอยู่แล้ว
ขณะที่ Interaction-Aware Layer เข้ามาเติมช่องว่างด้วยการวิเคราะห์ความหมายของ Prompt บริบทของการสนทนา ความละเอียดอ่อนของ Response และพฤติกรรมของ AI Agent รวมถึงตรวจสอบว่าการกระทำที่กำลังจะเกิดขึ้นได้รับอนุญาตหรือไม่
นอกจากนี้องค์กรควรมี AI Anomaly Detection และ Real-Time Monitoring เพื่อระบุพฤติกรรมผิดปกติ พร้อมใช้หลัก Least Privilege และกำหนดขอบเขตการเข้าถึงของ Agent อย่างชัดเจน และการเปลี่ยนจากแนวคิด "Block AI เพื่อความปลอดภัย" มาเป็น "Govern AI ตามบริบทและความเสี่ยง" จะช่วยให้องค์กรสามารถใช้ประโยชน์จาก AI ได้เต็มศักยภาพ โดยไม่ต้องแลกกับความเสี่ยงต่อข้อมูลสำคัญ ทรัพย์สินทางปัญญา และความปลอดภัยของระบบในระยะยาวครับ
