การขยายตัวของเทคโนโลยี AI กำลังเปลี่ยนภูมิทัศน์ความเสี่ยงด้านไซเบอร์อย่างรวดเร็ว ส่งผลให้องค์กรต้องเผชิญภัยคุกคามรูปแบบใหม่ที่ซับซ้อนขึ้น ทั้งจากการโจมตีระบบ AI การปลอมแปลงตัวตน และความเสี่ยงในห่วงโซ่อุปทานซอฟต์แวร์
การ์ทเนอร์ เผยว่า ปัจจุบันมีภัยคุกคามสำคัญ 4 ประการที่มีความซับซ้อนสูงและคาดการณ์ได้ยาก โดยเป็นพื้นที่ที่ผู้โจมตีมีความได้เปรียบในการแสวงหาช่องโหว่ขององค์กร ได้แก่
- การโจมตีแอปพลิเคชัน AI (AI Application Compromise)
- การปลอมแปลงตัวตนด้วยดีปเฟก (Deepfakes)
- ภัยคุกคามต่อห่วงโซ่อุปทานซอฟต์แวร์ (Software Supply Chain Threats)
- การโจมตีด้วยพรอมต์ (Prompt Injection)
แอป AI กลายเป็นเป้าโจมตี
จอห์น วัตตส์ รองประธานนักวิเคราะห์ การ์ทเนอร์ กล่าวว่า การผลักดันแนวคิดด้านความปลอดภัยใหม่ ๆ จากผู้พัฒนา AI รายใหญ่ ทำให้เกิดข้อมูลจำนวนมากในระบบนิเวศด้านความมั่นคงปลอดภัยไซเบอร์ ส่งผลให้ผู้นำด้านความปลอดภัยต้องสามารถแยกแยะสัญญาณภัยคุกคามที่แท้จริงออกจากข้อมูลรบกวน เพื่อให้ปรับตัวต่อภูมิทัศน์ความเสี่ยงที่เปลี่ยนแปลงอย่างรวดเร็วได้ทัน
การโจมตีแอปพลิเคชัน AI ถูกจัดเป็นหนึ่งในความเสี่ยงสำคัญ เนื่องจากองค์กรนำเครื่องมือ AI มาใช้งานเพิ่มขึ้นอย่างต่อเนื่อง ทั้งในระบบภายในและบริการที่เปิดให้ใช้งานภายนอก
พื้นที่การโจมตีขยายครอบคลุมตั้งแต่ระบบเอเจนต์ AI ที่พัฒนาขึ้นเฉพาะ การเชื่อมต่อกับบริการภายนอก ไปจนถึง แอปพลิเคชันสำหรับพนักงาน ซึ่งอาจนำไปสู่การรั่วไหลของข้อมูลสำคัญหรือข้อมูลรับรองการเข้าถึงระบบ หากมาตรการควบคุมความปลอดภัยไม่เพียงพอ
วัตตส์ระบุว่า ทีมงานด้านไซเบอร์ซีเคียวริตี้ควรขยายขอบเขตการป้องกันให้ครอบคลุมความเสี่ยงจาก Generative AI และ Agentic AI พร้อมนำกรอบการบริหารความน่าเชื่อถือ ความเสี่ยง และความปลอดภัยของ AI (AI TRiSM) มาปรับใช้ในกระบวนการพัฒนา
นอกจากนี้ องค์กรควรนำแนวทาง Secure Development Life Cycle (SDLC) และ Threat Modeling มาประยุกต์ใช้กับระบบ AI ควบคู่กับการจัดหมวดหมู่ข้อมูล การควบคุมสิทธิ์การเข้าถึงตามวัตถุประสงค์ (Purpose-Based Access Control: PBAC) และการติดตามตรวจสอบการทำงานของระบบอย่างต่อเนื่อง
‘ดีปเฟก’ สมจริงยิ่งกว่าเดิม
การพัฒนาอย่างรวดเร็วของ GenAI ทำให้การสร้างดีปเฟกทั้งภาพ เสียง และวิดีโอ มีความสมจริงมากขึ้นและเข้าถึงได้ง่ายขึ้น ส่งผลให้ผู้โจมตีสามารถนำไปใช้ปลอมแปลงตัวตนเพื่อหลอกลวงเหยื่อผ่านช่องทางต่าง ๆ ได้มากขึ้น
ครอบคลุมตั้งแต่การหลบเลี่ยงระบบยืนยันตัวตนด้วยชีวมิติ การโจมตีด้วยเทคนิควิศวกรรมสังคมแบบเรียลไทม์ ไปจนถึงการแทรกแซงกระบวนการสรรหาบุคลากร
การตรวจจับดีปเฟกเพียงอย่างเดียวจึงไม่เพียงพอสำหรับการป้องกันภัยคุกคามดังกล่าว องค์กรจำเป็นต้องใช้มาตรการควบคุมหลายชั้นร่วมกัน ทั้งด้านกระบวนการ เทคโนโลยี และการสร้างความตระหนักรู้ให้บุคลากร
ขณะเดียวกันมีการเสริมความปลอดภัยของระบบยืนยันตัวตนด้วยชีวมิติ การตรวจจับการโจมตีประเภท Presentation Attack และ Injection Attack รวมถึงการกำหนดนโยบายยืนยันตัวตนที่เข้มงวดสำหรับการประชุมออนไลน์
‘ซัพพลายเชน’ เสี่ยงมากขึ้น
การ์ทเนอร์มองว่า การเติบโตของผลิตภัณฑ์ GenAI จะยิ่งเร่งความเสี่ยงจากการโจมตีห่วงโซ่อุปทานซอฟต์แวร์ โดยเฉพาะผ่านช่องโหว่ในซอฟต์แวร์โอเพนซอร์ส
องค์กรจึงควรจัดตั้งคลังส่วนประกอบซอฟต์แวร์ที่เชื่อถือได้ (Trusted Component Registries) ยกระดับความปลอดภัยในกระบวนการพัฒนาและส่งมอบซอฟต์แวร์ (CI/CD Pipeline) รวมถึงเพิ่มขีดความสามารถในการตรวจจับและตอบสนองต่อเหตุการณ์ผิดปกติ
การ์ทเนอร์แนะนำให้องค์กรจัดทำบัญชีสินทรัพย์ซอฟต์แวร์อย่างครบถ้วน พร้อมกำหนดให้ผู้จำหน่ายจัดส่งเอกสาร Software Bill of Materials (SBOM) และ AI Bill of Materials (AIBOM) เพื่อใช้ประเมินความเสี่ยงของส่วนประกอบต่าง ๆ ก่อนนำมาใช้งาน
นอกจากนี้ ควรใช้คลังจัดเก็บโค้ดที่ผ่านการตรวจสอบ บังคับใช้มาตรการ Branch Protection ลงนามดิจิทัลในส่วนประกอบซอฟต์แวร์ และจำกัดสิทธิ์การเข้าถึงระบบตามหลัก Least Privilege
ระวังการโจมตีด้วย ‘พรอมต์’
Prompt Injection เป็นการโจมตีที่มุ่งเป้าไปยังระบบ AI โดยเฉพาะโมเดลภาษาขนาดใหญ่ (LLMs) ผ่านการแทรกหรือปรับแต่งคำสั่งเพื่อบิดเบือนพฤติกรรมของโมเดล จนอาจทำให้ข้อมูลสำคัญรั่วไหล ดำเนินการที่ไม่ได้รับอนุญาต หรือหลีกเลี่ยงมาตรการควบคุมความปลอดภัย ความเสี่ยงดังกล่าวจะเพิ่มขึ้นตามการนำ GenAI ไปใช้งานในองค์กร
ส่วนแนวทางรับมือประกอบด้วยการใช้มาตรการป้องกันหลายชั้น เช่น การทดสอบความปลอดภัยของ AI เพื่อค้นหาช่องโหว่เชิงรุก การกำหนด System Prompt ที่เหมาะสม และการติดตั้งระบบ Runtime Guardrails สำหรับเฝ้าระวังและป้องกันพฤติกรรมที่อาจเป็นอันตราย
ขณะเดียวกัน องค์กรควรนำระบบตรวจสอบและคัดกรองข้อมูลนำเข้า (Input Validation and Sanitization) มาใช้ จัดตั้งระบบติดตามและแจ้งเตือนพฤติกรรมผิดปกติของ AI และผสานการทดสอบ Prompt Injection เข้ากับวงจรการพัฒนาระบบ AI อย่างต่อเนื่อง เพื่อปรับปรุงมาตรการป้องกันให้สอดคล้องกับรูปแบบการโจมตีที่เปลี่ยนแปลงอยู่ตลอดเวลา
