ETDA เปิดฉาก ‘AI Red Teaming’ ครั้งแรกของไทย หวังยกระดับมาตรฐาน AI ปลอดภัย เริ่มจากภาคการเงิน

การกำกับดูแลปัญญาประดิษฐ์ (AI Governance) กำลังก้าวจากการกำหนดหลักการและแนวนโยบาย สู่การลงมือทดสอบความปลอดภัยของระบบ AI อย่างเป็นรูปธรรม

โดยหลังสำนักงานพัฒนาธุรกรรมทางอิเล็กทรอนิกส์ (ETDA) ปิดฉาก AI Governance Week 2026 (AIGW 2026) ด้วยการเปิดเวที “Red Teaming for Robust and Responsible AI” ซึ่งถือเป็นการจัดกิจกรรม AI Red Teaming ระดับประเทศครั้งแรกของไทย เพื่อจำลองการค้นหาช่องโหว่และความเสี่ยงของระบบ AI ก่อนนำไปใช้งานจริง

เวทีดังกล่าวเกิดจากความร่วมมือของ ETDA ผ่านศูนย์ธรรมาภิบาลปัญญาประดิษฐ์ (AI Governance Center : AIGC) ร่วมกับศูนย์เทคโนโลยีอิเล็กทรอนิกส์และคอมพิวเตอร์แห่งชาติ (NECTEC) ศูนย์ประสานงานด้านความมั่นคงปลอดภัยเทคโนโลยีสารสนเทศภาคการธนาคาร (TB-CERT) และสำนักงานคณะกรรมการการรักษาความมั่นคงปลอดภัยไซเบอร์แห่งชาติ (สกมช.) เปิดพื้นที่ให้ผู้กำหนดนโยบาย หน่วยงานกำกับดูแล สถาบันการเงิน บริษัทเทคโนโลยี และผู้เชี่ยวชาญด้านไซเบอร์ซีเคียวริตี ร่วมแลกเปลี่ยนแนวทางยกระดับความปลอดภัยของ AI โดยเฉพาะในภาคการเงิน ซึ่งเป็นโครงสร้างพื้นฐานสำคัญของประเทศ

AI Governance ต้องไปไกลกว่าหลักการ

ดร.ชัยชนะ มิตรพันธ์ ผู้อำนวยการ ETDA กล่าวว่า AI กำลังกลายเป็นโครงสร้างพื้นฐานของหลายอุตสาหกรรม ไม่ว่าจะเป็นการให้บริการประชาชน การวิเคราะห์ข้อมูล การสนับสนุนการตัดสินใจ และบริการทางการเงิน ซึ่งล้วนเกี่ยวข้องกับข้อมูลสำคัญ สิทธิของประชาชน และความเชื่อมั่นของสังคม

ด้วยเหตุนี้ การกำกับดูแล AI จึงไม่ควรหยุดอยู่เพียงการจัดทำหลักเกณฑ์หรือแนวปฏิบัติ แต่ต้องมีเครื่องมือที่สามารถพิสูจน์ได้ว่าระบบ AI มีความปลอดภัย น่าเชื่อถือ โปร่งใส เป็นธรรม และสามารถรับมือกับความเสี่ยงที่อาจเกิดขึ้นได้จริง

ตลอดหนึ่งสัปดาห์ของ AIGW 2026 ประเทศไทยได้ผลักดันองค์ประกอบสำคัญของ AI Governance ครอบคลุมทั้งการกำกับดูแลระดับนานาชาติ การประเมินผลกระทบด้านจริยธรรม (Ethical Impact Assessment : EIA) การเตรียมความพร้อมขององค์กร การพัฒนากฎหมาย การศึกษา และการประยุกต์ใช้ AI ในภาคส่วนต่าง ๆ

ขณะที่เวทีวันสุดท้ายถือเป็นการเติมเต็มอีกหนึ่งชิ้นส่วนสำคัญ คือ AI Red Teaming ซึ่งเป็นกระบวนการทดสอบระบบ AI เชิงรุก เพื่อค้นหาจุดอ่อน ช่องโหว่ และพฤติกรรมที่ไม่คาดคิด ก่อนที่ AI จะถูกนำไปใช้งานจริง

ค้นหา “Blind Spots” ก่อนสร้างความเสียหาย

หนึ่งในความท้าทายสำคัญของ AI คือ “Blind Spots” หรือจุดบอดของระบบ ซึ่งมักไม่ถูกค้นพบในช่วงออกแบบหรือทดสอบเบื้องต้น แต่กลับปรากฏเมื่อใช้งานจริง ส่งผลกระทบต่อทั้งผู้ใช้งาน องค์กร และสังคม

ความเสี่ยงดังกล่าวมีตั้งแต่การถูกโจมตีทางไซเบอร์ การเปิดเผยข้อมูลสำคัญโดยไม่ตั้งใจ ความลำเอียงของผลลัพธ์ (Bias) การละเมิดข้อมูลส่วนบุคคล ไปจนถึงการให้ข้อมูลที่คลาดเคลื่อนหรือไม่น่าเชื่อถือ

AI Red Teaming จึงทำหน้าที่เสมือนการจำลองสถานการณ์โจมตีระบบ AI จากมุมมองของผู้ไม่หวังดี เพื่อค้นหาช่องโหว่ที่อาจถูกใช้โจมตี รวมถึงประเมินพฤติกรรมของ AI ในสถานการณ์ต่าง ๆ ก่อนที่ปัญหาจะเกิดขึ้นจริง

แนวทางดังกล่าวได้รับการยอมรับในระดับสากลว่าเป็นหนึ่งในเครื่องมือสำคัญในการสร้าง AI ที่มีความปลอดภัยและมีความรับผิดชอบ (Responsible AI)

ประเดิมภาคธนาคาร ทดลองสนามจริง

ไฮไลต์ของงานคือการแข่งขัน Thailand Banking AI Red Team Challenge 2026 ซึ่งถือเป็นการแข่งขัน AI Red Team สำหรับภาคธนาคารครั้งแรกของประเทศไทย

การเลือกภาคการเงินเป็นสนามทดสอบแรก เนื่องจากเป็นภาคส่วนที่นำ AI และโมเดลภาษาขนาดใหญ่ (Large Language Models : LLMs) มาใช้งานเพิ่มขึ้นอย่างรวดเร็ว ทั้งระบบ Chatbot ให้บริการลูกค้า การวิเคราะห์ผลิตภัณฑ์ทางการเงิน และระบบสนับสนุนการทำงานภายในองค์กร

การแข่งขันมีเป้าหมายเพื่อประเมินความเสี่ยงของ AI ใน 5 มิติหลัก ได้แก่

• ความปลอดภัย (Safety)
• ความมั่นคงปลอดภัยไซเบอร์ (Security)
• การคุ้มครองข้อมูลส่วนบุคคล (Privacy)
• ความเป็นธรรม (Fairness)
• ความน่าเชื่อถือของผลลัพธ์ (Reliability)

โดยทีมผู้เข้าแข่งขันจะต้องค้นหาว่า AI สามารถถูกหลอกให้เปิดเผยข้อมูลที่ไม่ควรเปิดเผย ให้ข้อมูลผิดพลาด หรือแสดงพฤติกรรมที่อาจกระทบต่อผู้ใช้บริการและระบบการเงินได้หรือไม่

แบ่งโจทย์ทดสอบ 2 รูปแบบ

การแข่งขันแบ่งออกเป็น 2 สนามหลัก Track A : Banking AI Risk Intelligence เน้นการทดสอบจากมุมมองผู้ใช้งานทั่วไป โดยผู้เข้าแข่งขันจะสนทนากับ AI Chatbot ของธนาคารจำลอง เพื่อค้นหาพฤติกรรมที่ขัดต่อหลักจริยธรรม ความปลอดภัย หรือการกำกับดูแล AI

ส่วน Track B : Capture the Flag (CTF) เป็นการทดสอบเชิงเทคนิค โดยผู้เข้าแข่งขันจะพยายามค้นหาช่องโหว่ของระบบ เพื่อให้ AI เปิดเผยข้อมูลลับหรือข้อมูลที่ระบบตั้งใจปกป้องไว้

ผลการแข่งขันไม่ได้มุ่งเพียงค้นหาผู้ชนะ แต่ยังเป็นการรวบรวมองค์ความรู้ พัฒนาศักยภาพบุคลากรด้าน AI Red Team และสร้างต้นแบบมาตรฐานการประเมินความเสี่ยงของ AI สำหรับประเทศไทย

ระดมผู้เชี่ยวชาญระดับโลก แลกเปลี่ยนแนวทาง AI Safety

นอกจากการแข่งขัน ภายในงานยังมีเวทีเสวนาจากผู้เชี่ยวชาญทั้งในและต่างประเทศ เพื่อถ่ายทอดแนวทางการสร้าง AI ที่ปลอดภัยและเชื่อถือได้

เวที “Shaping the Future of Safe and Responsible AI Development” รวบรวมผู้แทนจาก ETDA, TB-CERT, สกมช., NECTEC และสมาคมปัญญาประดิษฐ์ประเทศไทย (AIAT) ร่วมหารือทิศทางการกำกับดูแล AI ของไทย

ขณะที่หัวข้อ “AI Safety in Practice: Lessons from the Frontlines” มีผู้แทนจาก Microsoft, Google, Huawei และ IMDA Singapore ร่วมแลกเปลี่ยนประสบการณ์การพัฒนา AI ตั้งแต่การออกแบบ Guardrails การทดสอบระบบ ไปจนถึงการสร้างกลไกความรับผิดชอบของ AI

อีกหนึ่งประเด็นสำคัญคือการสร้าง Trustworthy AI ผ่านการบรรยายพิเศษจาก IMDA Singapore และ Google ซึ่งสะท้อนแนวคิดเดียวกันว่า การสร้าง AI ที่ปลอดภัยไม่ควรเป็นขั้นตอนสุดท้าย แต่ต้องถูกออกแบบและฝังไว้ในทุกกระบวนการพัฒนาผลิตภัณฑ์ตั้งแต่ต้น

นอกจากนี้ ยังมีการแลกเปลี่ยนประสบการณ์ด้าน LLM Benchmarking จากผู้แทนบริษัท ไทยประกันชีวิต TRUE และ NECTEC เพื่อชี้ให้เห็นความจำเป็นของการประเมินประสิทธิภาพ ความถูกต้อง และความปลอดภัยของโมเดล AI ก่อนนำไปให้บริการจริง

ปูทางมาตรฐาน AI ของประเทศ

ดร.ชัยชนะ กล่าวทิ้งท้ายว่า การเริ่มต้น AI Red Teaming ในภาคการเงินถือเป็นก้าวสำคัญของประเทศไทย เพราะเป็นภาคส่วนที่ต้องอาศัยความเชื่อมั่นสูงและเกี่ยวข้องกับข้อมูลสำคัญของประชาชน

ข้อมูลที่ได้จากการแข่งขันจะถูกนำไปพัฒนา Benchmark แนวทางประเมินความเสี่ยง เครื่องมือ และมาตรฐานการทดสอบ AI ของประเทศ เพื่อให้หน่วยงานและองค์กรต่าง ๆ สามารถนำไปประยุกต์ใช้ได้จริง

เป้าหมายในระยะยาวไม่ใช่เพียงยกระดับความปลอดภัยของ AI ในภาคธนาคาร แต่คือการสร้างระบบนิเวศ AI Governance ที่สามารถขยายไปยังภาคสาธารณสุข อุตสาหกรรม การศึกษา และบริการสาธารณะ เพื่อให้ประเทศไทยสามารถใช้ประโยชน์จาก AI ได้อย่างเต็มศักยภาพ ควบคู่กับการบริหารความเสี่ยงและสร้างความเชื่อมั่นให้กับประชาชนในยุคเศรษฐกิจดิจิทัล