AI Doom ภัยจริง หรือ มายาคติ (AI Doom Fact or Fiction?)

ความเปลี่ยนแปลงนี้ทำให้แนวทางบริหารความเสี่ยงแบบเดิมอาจไม่เพียงพออีกต่อไป

ในขณะเดียวกัน กระแสการพูดถึงความเสี่ยงของ AI มีตั้งแต่ความเสี่ยงที่เกิดขึ้นจริงและสามารถตรวจสอบได้ ไปจนถึงการคาดการณ์ผลกระทบในระยะยาวที่ยังมีความไม่แน่นอนสูง ผู้บริหารจึงไม่ควรตัดสินใจจากความกลัวเพียงอย่างเดียว แต่ต้องใช้แยกสิ่งที่เกิดขึ้นจริง สิ่งที่มีหลักฐานรองรับ และสิ่งที่ยังเป็นสมมติฐานออกจากกัน

ประเด็นสำคัญสำหรับผู้บริหารจึงไม่ใช่การเลือกระหว่าง AI หรือไม่ใช้ AI แต่คือ การสร้างเงื่อนไขให้องค์กรสามารถใช้ AI ได้อย่างมีประโยชน์ ภายใต้ขอบเขตที่สามารถควบคุม ตรวจสอบ และหยุดการทำงานได้เมื่อจำเป็น

อีกเหตุผลหนึ่งที่ต้องเร่งเตรียมความพร้อมคือ ความสามารถของ AI อาจพัฒนาเร็วกว่ากลไกควบคุม ในช่วงเริ่มต้นของเทคโนโลยีใหม่ ผู้พัฒนาไม่สามารถคาดการณ์พฤติกรรมของระบบได้ทั้งหมด การทดสอบจากสถานการณ์จริงจึงเป็นส่วนหนึ่งของกระบวนการเรียนรู้และปรับปรุงระบบควบคุม

ดังนั้น ผู้บริหารควรเปลี่ยนคำถามจาก “AI จะทำลายมนุษย์หรือไม่” มาเป็นคำถามที่นำไปสู่การจัดการได้จริง เช่น AI สามารถทำอะไรได้บ้าง มีสิทธิ์เข้าถึงอะไร สามารถดำเนินการแทนมนุษย์ได้แค่ไหน และหากเกิดพฤติกรรมผิดปกติ องค์กรสามารถตรวจพบและหยุดได้เร็วเพียงใด

ความเสี่ยงกำลังเปลี่ยนจาก Output สู่ Action

AI แบบดั้งเดิมมีความเสี่ยงหลักอยู่ที่ output เช่น ให้ข้อมูลผิด สร้างเนื้อหาที่ไม่เหมาะสม หรือให้คำแนะนำที่คลาดเคลื่อน ผู้ใช้งานยังเป็นผู้ตัดสินใจว่าจะนำผลลัพธ์ไปใช้อย่างไร

แต่เมื่อ AI มีความสามารถแบบ agentic AI ความเสี่ยงจะขยายจาก “สิ่งที่ AI สร้าง” ไปสู่ “สิ่งที่ AI ลงมือทำ” ระบบอาจวางแผนงานหลายขั้นตอน เรียกใช้ API เข้าถึงฐานข้อมูล ใช้เครื่องมือภายนอก ติดต่อระบบอื่น หรือดำเนินกระบวนการบางอย่างโดยไม่ต้องรอคำสั่งจากมนุษย์ในทุกขั้นตอน

นี่คือ การเปลี่ยนแปลงสำคัญของ AI attack surface เพราะเมื่อ AI มีสิทธิ์ในการดำเนินการ ความผิดพลาดของโมเดลไม่ได้หยุดอยู่ที่หน้าจอ แต่อาจส่งผลต่อข้อมูล ธุรกิจ และโครงสร้างพื้นฐานที่ AI เชื่อมต่ออยู่

ตัวอย่างเช่น AI อาจได้รับอนุญาตให้อ่านเอกสารภายใน เรียกใช้เครื่องมือค้นหา ส่งข้อมูลไปยังระบบอื่น หรือแก้ไขข้อมูลในระบบธุรกิจ หากการกำหนดสิทธิ์ไม่เหมาะสม หรือระบบสามารถตีความคำสั่งในลักษณะที่แตกต่างจากความตั้งใจเดิม AI อาจดำเนินการเกินขอบเขตได้

ความเสี่ยงอีกด้านคือ AI มีความสามารถในการค้นหาวิธีแก้ปัญหาที่มนุษย์ไม่ได้คาดคิด ระบบอาจพบเส้นทางที่มีประสิทธิภาพในการบรรลุเป้าหมาย แต่เส้นทางนั้นอาจไม่สอดคล้องกับข้อจำกัดหรือเจตนาของผู้ใช้งาน นี่ทำให้การกำหนดคำสั่งเพียงอย่างเดียวไม่เพียงพอ จำเป็นต้องมี runtime controls คอยกำกับพฤติกรรมระหว่างการทำงานจริง

นอกจากนี้ ความเสี่ยงไม่ได้เกิดจากตัวโมเดลเพียงอย่างเดียว แต่เกิดจาก ecosystem ที่ประกอบด้วย models, agents, APIs, tools, data, credentials, cloud resources และ third-party services เมื่อองค์ประกอบเหล่านี้เชื่อมต่อกันมากขึ้น ความผิดพลาดหรือช่องโหว่ในจุดหนึ่งอาจส่งผลต่อระบบอื่นที่เชื่อมโยงอยู่

ประเด็นสำคัญอีกเรื่องคือ sandboxing และ guardrails ระบบ AI ที่สามารถทำงานได้อย่างอิสระควรถูกทดสอบในสภาพแวดล้อมที่จำกัดความเสียหายได้ หากเกิดพฤติกรรมที่ไม่คาดคิด องค์กรต้องสามารถตัดการเชื่อมต่อหรือหยุดการทำงานได้ทันที แทนที่จะปล่อยให้ AI ทดลองกับระบบจริงโดยไม่มีขอบเขต

ความรับผิดชอบต้องชัดเจนตั้งแต่ต้น

เมื่อ AI ทำผิด ต้องมี Accountability ที่ชัดเจน เพราะ AI เป็นเทคโนโลยีที่มนุษย์ออกแบบ กำหนดสิทธิ์ และนำไปใช้ องค์กรจึงต้องกำหนด Owner, ผู้อนุมัติ, ผู้รับผิดชอบเมื่อเกิดเหตุ และผู้มีอำนาจหยุดระบบ ตั้งแต่การออกแบบจนถึงการใช้งานจริง

หลักคิดสำคัญคือ เครื่องมือควรมีมาตรฐานความปลอดภัยที่เหมาะสม แต่ผู้ใช้ก็ต้องรับผิดชอบต่อวิธีการนำเครื่องมือไปใช้ ดังนั้นการกำกับ AI จึงไม่ควรพึ่งพาเทคโนโลยีเพียงด้านเดียว แต่ต้องประกอบด้วย people, process, technology และ governance

องค์กรที่ไม่มีความชัดเจนเรื่องเจ้าของ AI อาจเผชิญกับ accountability gap เมื่อเกิดเหตุการณ์ เพราะทุกฝ่ายอาจคิดว่าอีกฝ่ายเป็นผู้รับผิดชอบ การกำหนด AI ownership และ decision rights จึงควรเป็นส่วนหนึ่งของการนำ AI เข้าสู่ระบบงานตั้งแต่แรก

ผู้บริหารควรเตรียมองค์กร

ผู้บริหารควรยกระดับ AI governance จากเอกสารนโยบายสู่ระบบควบคุมที่ทำงานจริง ไม่ใช่เพียงกำหนดว่า AI ใช้ได้หรือไม่ได้ แต่ต้องกำหนดว่า AI สามารถทำอะไรได้ ภายใต้เงื่อนไขใด และต้องมีการควบคุมในระดับใด

เริ่มจาก AI inventory และ AI asset mapping องค์กรควรรู้ว่า AI ถูกใช้งานอยู่ที่ใด ใครเป็นเจ้าของ ใช้โมเดลอะไร เชื่อมต่อข้อมูลและระบบใด มีสิทธิ์เข้าถึงข้อมูลระดับใด และสามารถดำเนินการแทนมนุษย์ได้มากเพียงใด สิ่งที่มองไม่เห็นจะไม่สามารถบริหารความเสี่ยงได้

ถัดมาคือ risk classification ไม่ควรใช้มาตรฐานการควบคุมเดียวกับ AI ทุกประเภท ระบบที่ใช้สร้างเนื้อหาทั่วไปอาจต้องการการควบคุมระดับหนึ่ง ขณะที่ AI ที่สามารถเข้าถึงข้อมูลสำคัญ อนุมัติธุรกรรม หรือสั่งการระบบสำคัญควรมีการควบคุมที่เข้มงวดกว่าอย่างชัดเจน

ในขั้นตอน design & testing ควรทดสอบ AI ในสภาพแวดล้อมที่แยกออกจากระบบสำคัญ มี sandbox สำหรับทดลองพฤติกรรม และทดสอบสถานการณ์ที่ AI อาจตีความคำสั่งผิด ใช้เครื่องมือผิด หรือพยายามหาทางเลือกนอกเหนือจากที่กำหนด

องค์กรควรออกแบบ guadrails ให้ครอบคลุมทั้งข้อมูล เครื่องมือ สิทธิ์ และการดำเนินการ เช่น กำหนดว่าข้อมูลใดที่ AI อ่านได้ เครื่องมือใดที่เรียกใช้ได้ ระบบใดที่ติดต่อได้ และกิจกรรมใดที่ต้องได้รับการอนุมัติจากมนุษย์ก่อน

เมื่อ AI ถูกนำไปใช้งานจริง ต้องเปลี่ยนจากการตรวจสอบเฉพาะผลลัพธ์มาเป็น continuous monitoring โดยติดตามทั้งพฤติกรรมและการกระทำ เช่น AI เรียกใช้เครื่องมือใด เข้าถึงข้อมูลอะไร ติดต่อระบบใด ส่งข้อมูลไปที่ใด และมีพฤติกรรมแตกต่างจากรูปแบบปกติหรือไม่

Logging และ audit trail ก็มีความสำคัญมากขึ้น เพราะเมื่อ AI สามารถดำเนินการหลายขั้นตอน องค์กรต้องสามารถย้อนกลับไปตรวจสอบได้ว่า AI ได้รับคำสั่งอะไร ใช้ข้อมูลใด ตัดสินใจผ่านกระบวนการใด และดำเนินการอะไรบ้าง สิ่งนี้เป็นพื้นฐานของทั้ง security, compliance และ accountability

สำหรับกิจกรรมที่มีความเสี่ยงสูง ควรมี human-in-the-loop หรือ human approval ก่อนดำเนินการ เช่น การเข้าถึงข้อมูลสำคัญ การเปลี่ยนแปลงระบบ การทำธุรกรรม หรือการดำเนินการที่มีผลกระทบสูงต่อบุคคลและองค์กร

เตรียมรับมือเมื่อ AI ทำงานผิดจากที่คาด

องค์กรควรเตรียม AI incident response ล่วงหน้า กำหนดผู้มีอำนาจ หยุด agent, เพิกถอน credential, ตัดการเชื่อมต่อ tool และยกระดับเหตุการณ์อย่างชัดเจน ใช้หลัก fail safely หาก AI ไม่มั่นใจหรืออยู่นอกขอบเขตที่กำหนด ต้องสามารถหยุดการทำงานหรือส่งต่อให้มนุษย์ตรวจสอบได้

ผู้บริหารควรสนับสนุนให้มี red teaming และ continuous evaluation อย่างต่อเนื่อง เพราะความเสี่ยงเปลี่ยนแปลงตามโมเดล เครื่องมือ ข้อมูล และ สภาพแวดล้อม ไม่ใช่การทดสอบเพียงครั้งเดียวแล้ว