'Autonomous AI' กดดันธุรกิจ เผชิญโจทย์ใหญ่ 'กฎหมาย–ธรรมาภิบาล'

การนำปัญญาประดิษฐ์ (AI) มาใช้ในองค์กรกำลังก้าวสู่ขั้นที่ระบบสามารถวางแผน ตัดสินใจ และดำเนินงานได้เองมากขึ้น

ขณะที่การกำกับดูแลและตรวจสอบการทำงานยังเป็นโจทย์สำคัญ โดยเฉพาะเมื่อผลลัพธ์จาก AI อาจส่งผลต่อการเงิน การดำเนินธุรกิจ และการปฏิบัติตามกฎหมาย

รายงาน Sumsub APAC State of Digital Trust: AI Governance Benchmark จัดทำโดย ซัมซับ (Sumsub) ผู้ให้บริการโครงสร้างพื้นฐานด้านความไว้วางใจบนระบบ AI  ร่วมกับสมาคมฟินเทคสิงคโปร์ (SFA) จากการสำรวจผู้บริหารระดับสูง 720 รายใน 9 ประเทศ พบว่า ไทยมีคะแนนความพร้อมด้านธรรมาภิบาล AI เฉลี่ย 70.3 จาก 100 คะแนน สูงที่สุดในภูมิภาคเอเชียแปซิฟิก (APAC) และสูงกว่าค่าเฉลี่ยภูมิภาคที่ 67.1 คะแนน

อย่างไรก็ตาม ผลสำรวจยังพบว่า 69% ของธุรกิจไทยเคยเผชิญข้อผิดพลาดหรือผลลัพธ์ที่ไม่คาดคิดจาก AI อัตโนมัติ ซึ่งเป็นสัดส่วนสูงที่สุดในภูมิภาค สะท้อนช่องว่างระหว่างความพร้อมด้านนโยบายกับความสามารถในการควบคุมระบบเมื่อนำไปใช้งานจริง

ระบบตรวจสอบยังไม่ทั่วถึง

รายงานระบุว่า 73% ขององค์กรไทยนำ AI อัตโนมัติหลายขั้นตอน (Multi-step Autonomous AI) มาใช้งานจริง โดยระบบสามารถดำเนินงานต่อเนื่องได้โดยไม่ต้องมีมนุษย์ควบคุมทุกขั้นตอน ถือเป็นสัดส่วนสูงที่สุดในภูมิภาค

การใช้งานที่เพิ่มขึ้นทำให้เกิดความเสี่ยงด้านความรับผิดชอบ หรือ Accountability Asymmetry ซึ่งหมายถึงสถานการณ์ที่องค์กรต้องรับผิดชอบต่อผลลัพธ์จาก AI แต่ยังไม่สามารถแสดงหลักฐานเส้นทางการตัดสินใจของระบบได้อย่างเพียงพอ

แม้ผู้บริหารไทย 99% มั่นใจว่าองค์กรพร้อมรับผิดชอบต่อผลลัพธ์จาก AI แต่มีเพียง 51% ที่มีระบบบันทึกประวัติการตัดสินใจ (Audit Trails) ที่ปลอดภัย ซึ่งช่วยเก็บหลักฐานสำหรับตรวจสอบย้อนหลังได้

ขณะเดียวกัน 64% ขององค์กรสามารถย้อนดูเส้นทางการประมวลผลของ AI ได้ แต่มีเพียง 55% ที่มีเครื่องมือเพียงพอในการอธิบายเหตุผลว่าเหตุใดระบบจึงตัดสินใจเช่นนั้น

ข้อมูลดังกล่าวชี้ให้เห็นว่า การตรวจสอบเส้นทางการทำงานของ AI กับการอธิบายเหตุผลเบื้องหลังการตัดสินใจเป็นคนละความสามารถ และองค์กรยังต้องพัฒนาทั้งสองด้านควบคู่กัน

ความเชื่อมั่นลดลงเมื่อต้องตัดสินใจเรื่องสำคัญ

แม้ AI จะถูกนำไปใช้ในงานปฏิบัติการ 33% การวิเคราะห์ข้อมูล 18% และการตรวจจับการทุจริต 14% แต่ความเชื่อมั่นในการปล่อยให้ระบบตัดสินใจเองลดลงเมื่อต้องทำงานที่มีความเสี่ยงสูง

รายงานระบุว่า ความเชื่อมั่นขององค์กรต่อการใช้ AI ในงานประจำอยู่ที่มากกว่า 90% แต่ลดลงเหลือ 60% สำหรับการตัดสินใจด้านกฎหมาย และ 46% สำหรับการทำธุรกรรมทางการเงินโดยอัตโนมัติ

ส่วนอุปสรรคสำคัญในการตรวจสอบและยืนยันความถูกต้องของการทำงาน AI ได้แก่ ความซับซ้อนของโมเดล 75% บริบทคำสั่งที่เปลี่ยนแปลงไปตามเวลา 58% การขาดแคลนบุคลากรที่มีทักษะตรงสาย 56% และต้นทุนในการวางระบบ 54%

กฎกำกับดูแล AI เพิ่มแรงกดดันธุรกิจ

ความพร้อมด้านธรรมาภิบาลของไทยส่วนหนึ่งมาจากการขับเคลื่อนเชิงนโยบายของภาครัฐ โดยสำนักงานพัฒนาธุรกรรมทางอิเล็กทรอนิกส์ (ETDA) และศูนย์ AIGC มีบทบาทในการวางรากฐานแนวทางธรรมาภิบาล AI ของประเทศ

ในเดือนก.ค. 2569 มีการเปิดรับฟังความคิดเห็นต่อร่างกฎหมายว่าด้วยปัญญาประดิษฐ์ฉบับครอบคลุมของประเทศไทย โดยแนวทางที่ระบุในต้นฉบับประกอบด้วยการกำกับดูแลตามระดับความเสี่ยง การจัดเก็บประวัติการทำงาน และการเปิดเผยข้อมูลเกี่ยวกับการใช้ระบบอัตโนมัติอย่างโปร่งใส รวมถึงหลักความรับผิดร่วมกันอย่างเคร่งครัด (Joint Strict Liability) ในกรณีที่ AI ก่อความเสียหายต่อสังคมหรือเสถียรภาพทางเศรษฐกิจ

เมื่อพิจารณาร่วมกับข้อกำหนดตามกฎหมายคุ้มครองข้อมูลส่วนบุคคล (PDPA) และแนวทางจัดการความเสี่ยงของธนาคารแห่งประเทศไทย ความผิดพลาดจาก AI ที่ขาดการกำกับดูแลจึงอาจกลายเป็นความเสี่ยงด้านกฎหมายและการเงินขององค์กร ไม่ใช่เพียงปัญหาทางเทคนิคภายในฝ่ายไอที

ผลสำรวจยังพบว่า 100% ขององค์กรไทยที่ตอบแบบสอบถามพร้อมนำโซลูชันที่สามารถตรวจสอบย้อนกลับจากคำสั่งของ AI ไปยังบุคคลผู้รับผิดชอบมาใช้ทันที ขณะที่ 84% ต้องการระบบยืนยันตัวตนที่สามารถแยกแยะ AI Agent ที่ได้รับอนุญาตจากบอทที่อาจมีวัตถุประสงค์อันตราย ซึ่งเป็นสัดส่วนสูงที่สุดในภูมิภาค

เพนนี ชัย รองประธานประจำภูมิภาคเอเชียแปซิฟิก ซัมซับ กล่าวว่า องค์กรไทยขยายการใช้ AI Agent ได้รวดเร็ว แต่การปล่อยให้ระบบทำงานอย่างอิสระโดยไม่มีการตรวจสอบย้อนกลับที่รัดกุม อาจสร้างความเสี่ยงที่องค์กรไม่สามารถรับมือได้ โดยเฉพาะผลกระทบต่อการเงิน การดำเนินธุรกิจ และการปฏิบัติตามกฎระเบียบ

ความสำเร็จของการใช้ AI ไม่ได้ขึ้นอยู่กับความสามารถของโมเดลเพียงอย่างเดียว แต่ยังขึ้นอยู่กับความพร้อมขององค์กรในการควบคุมและกำกับดูแลผ่านโครงสร้างพื้นฐานที่โปร่งใส