การถกเถียงเรื่องความปลอดภัยของ AI ในปัจจุบันมักมุ่งไปที่การกำกับดูแลโมเดล AI แต่ความท้าทายสำคัญกลับอยู่ที่การรักษาความปลอดภัยของซอฟต์แวร์ทั้งระบบ ตั้งแต่ตัวโมเดล เครื่องมือควบคุม AI Agent ไปจนถึงโครงสร้างพื้นฐาน
KEY POINTS
- โอเพนซอร์สจะกลายเป็นรากฐานสำคัญของโครงสร้างพื้นฐานด้าน AI ในอนาคต
- ในโลกไซเบอร์ซีเคียวริตี ความโปร่งใสถือเป็นปัจจัยสำคัญของการสร้างระบบที่ปลอดภัย
- ความปลอดภัยของ AI ไม่ได้จำกัดอยู่แค่ที่ตัวโมเดล แต่ครอบคลุมถึงระบบซอฟต์แวร์และโครงสร้างพื้นฐานทั้งหมดที่ทำงานร่วมกัน
เมื่อ AI กำลังถูกนำไปใช้งานในระดับองค์กรอย่างรวดเร็ว ประเด็นด้านความปลอดภัยจึงกลายเป็นวาระที่ทั้งภาคธุรกิจ ผู้กำหนดนโยบาย และผู้พัฒนาเทคโนโลยีต้องเร่งรับมือ
ขณะเดียวกัน การปกป้อง AI อาจไม่ได้จำกัดอยู่เพียงการกำกับดูแลตัวโมเดล แต่ครอบคลุมถึงระบบซอฟต์แวร์และโครงสร้างพื้นฐานทั้งหมดที่อยู่เบื้องหลังการทำงานของ AI
คริส ไรท์ ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี และรองประธานบริหาร ฝ่ายวิศวกรรมระดับโลก เร้ดแฮท กล่าวว่า การถกเถียงเกี่ยวกับ AI และผลกระทบต่อความปลอดภัยทางไซเบอร์ในปัจจุบัน มักมุ่งไปที่ตัวโมเดล AI และการกำกับดูแลโมเดลรุ่นใหม่
โดยมีข้อเสนอให้ควบคุมหรือจำกัดการใช้งานโมเดลแบบเปิดเผยค่าน้ำหนัก (open weights models) ด้วยเหตุผลด้านความปลอดภัย
อย่างไรก็ตาม ประเด็นสำคัญที่ควรได้รับความสนใจไม่แพ้กัน คือการสร้างความปลอดภัยให้กับ AI ในการใช้งานจริง
เขาระบุว่า AI Agent ไม่ได้เป็นเพียงโมเดลเดี่ยว แต่เป็นระบบซอฟต์แวร์แบบครบวงจร (software stack) ที่ประกอบด้วยหลายส่วน ตั้งแต่โมเดลหลัก (core model) ส่วนเชื่อมต่อการทำงาน (agentic harness) ระบบจำกัดขอบเขตการทำงาน (sandbox) กลไกควบคุมความปลอดภัยระหว่างการทำงาน (runtime guardrails) ระบบกำกับดูแลข้อมูล และโครงสร้างพื้นฐานที่รองรับการประมวลผล
องค์ประกอบส่วนใหญ่ของระบบดังกล่าว โดยเฉพาะ harnesses, sandbox และแอปพลิเคชันเลเยอร์ ล้วนเป็นงานด้านวิศวกรรมซอฟต์แวร์มากกว่าจะเป็นเรื่องของโมเดล AI โดยตรง
บทเรียนจาก Linux สู่ยุค AI
ไรท์ มองว่า การพยายามสร้างความปลอดภัยด้วยการแยกซอฟต์แวร์ออกจากระบบเปิดและย้ายไปอยู่ในแพลตฟอร์มปิดที่เป็นกรรมสิทธิ์ ไม่ได้แก้ปัญหาความเสี่ยงอย่างแท้จริง แต่เป็นเพียงการย้ายตำแหน่งของความเสี่ยงเท่านั้น
เขายกตัวอย่างช่วงเริ่มต้นของ Linux ซึ่งเคยถูกตั้งคำถามเรื่องเสถียรภาพและความปลอดภัยสำหรับการใช้งานในองค์กร โดยมีมุมมองว่าซอฟต์แวร์แบบปิดเท่านั้นที่สามารถสร้างความน่าเชื่อถือในระดับองค์กรได้
แต่เมื่อเวลาผ่านไป Linux กลายเป็นหนึ่งในโครงสร้างพื้นฐานสำคัญของระบบไอทีทั่วโลก และพิสูจน์ให้เห็นว่าการพัฒนาแบบโอเพนซอร์สสามารถตอบโจทย์ทั้งเรื่องการขยายระบบและความปลอดภัยได้
AI กำลังเผชิญสถานการณ์คล้ายกัน โดยโมเดล AI แบบโอเพนซอร์ส เครื่องมือจัดการ Agent แบบโอเพนซอร์ส และระบบจำลองการทำงานที่สามารถตรวจสอบได้ จะกลายเป็นรากฐานสำคัญของโครงสร้างพื้นฐานด้าน AI ในอนาคต เช่นเดียวกับบทบาทที่ Linux เคยมีต่ออุตสาหกรรมไอที
‘ความโปร่งใส’ คือหัวใจสำคัญ
ในโลกไซเบอร์ซีเคียวริตี ความโปร่งใสถือเป็นปัจจัยสำคัญของการสร้างระบบที่ปลอดภัย โดยแนวคิด “ความปลอดภัยผ่านความลับ” (security through obscurity) ไม่สามารถตอบโจทย์ได้ในระยะยาว
เขาเตือนว่า การจำกัดงานวิจัยด้านความปลอดภัยไว้กับผู้ให้บริการระบบปิดเพียงไม่กี่ราย อาจสร้างความเสี่ยงเชิงระบบ เนื่องจากฝ่ายป้องกันไม่สามารถกำหนดได้ว่าผู้โจมตีจะเลือกใช้เครื่องมือประเภทใด
หากนักวิจัยและทีมรักษาความปลอดภัยขององค์กรไม่สามารถเข้าถึงหรือศึกษาระบบที่ใช้ในการป้องกันได้ ก็อาจทำให้ไม่สามารถมองเห็นรูปแบบการโจมตีหรือช่องโหว่ที่อาจเกิดขึ้นได้อย่างครบถ้วน
ในทางกลับกัน การเข้าถึงโมเดลแบบ open weights ช่วยให้ฝ่ายป้องกันสามารถศึกษา วิเคราะห์ และพัฒนากลยุทธ์รับมือภัยคุกคามได้ดีขึ้น รวมถึงเปิดโอกาสให้เกิดการตรวจสอบเชิงวิทยาศาสตร์จากชุมชนในวงกว้าง ซึ่งช่วยค้นหาและแก้ไขช่องโหว่ที่อาจซ่อนอยู่ในระบบปิด
ไรท์ ยกตัวอย่างเหตุการณ์ด้านความปลอดภัยที่เกี่ยวข้องกับ Hugging Face โดยระบุว่า แม้ต้นตอของช่องโหว่จะมาจากระบบปิด แต่การบรรเทาผลกระทบและการป้องกันในทางปฏิบัติต้องอาศัยโมเดลแบบ open weights เป็นส่วนสำคัญในการรับมือกับภัยคุกคามดังกล่าว
ด้วยเหตุนี้ เร้ดแฮทจึงร่วมลงนามใน Microsoft's Letter on Open Weights and American AI Leadership โดยมองว่าการเปิดให้เข้าถึงเครื่องมือด้านความปลอดภัยอย่างกว้างขวาง จะช่วยยกระดับการป้องกันตลอดวงจรการพัฒนาซอฟต์แวร์
AI ยุคใหม่ต้องอาศัยระบบนิเวศเปิด
เร้ดแฮทระบุว่า หนึ่งในแนวทางสำคัญในการพัฒนา AI ที่ปลอดภัย คือการสร้างความร่วมมือระหว่างองค์กรและชุมชนโอเพนซอร์ส
การสนับสนุนให้เกิดการรายงานเหตุการณ์และแบ่งปันข้อมูลภัยคุกคาม จะช่วยยกระดับขีดความสามารถในการป้องกันร่วมกันทั้งอุตสาหกรรม ตั้งแต่การพัฒนาเครื่องมือรักษาความปลอดภัย การเสริมความแข็งแกร่งของระบบ ไปจนถึงการปกป้องโครงสร้างพื้นฐานสำคัญจากภัยคุกคามในโลกจริง
ปัจจุบันเครื่องมือ AI กำลังพัฒนาอย่างรวดเร็วทั้งในงานปฏิบัติการ งานวิศวกรรมซอฟต์แวร์ และการให้บริการแอปพลิเคชันระดับองค์กร
ความปลอดภัยของระบบจึงไม่ได้ขึ้นอยู่กับตัวโมเดลเพียงอย่างเดียว แต่ขึ้นอยู่กับการทำงานร่วมกันระหว่างโมเดลและเครื่องมือโอเพนซอร์สที่ทำหน้าที่กำกับ ควบคุม และตรวจสอบการทำงานของ AI ให้สอดคล้องกับวัตถุประสงค์ที่กำหนดไว้
ความร่วมมือแบบเปิด ความโปร่งใส ซอฟต์แวร์โอเพนซอร์ส โมเดลแบบ open weights และกลไกควบคุม AI Agent แบบเปิด จะเป็นองค์ประกอบสำคัญในการยกระดับทั้งความปลอดภัยและศักยภาพของ AI ในระยะยาว
