ท่ามกลางการเติบโตอย่างรวดเร็วของเทคโนโลยีปัญญาประดิษฐ์ (Artificial Intelligence - AI) หลายประเทศได้ตระหนักถึงความจำเป็นในการมีกฎหมายกำกับดูแล เพื่อให้การพัฒนาและการใช้ AI เป็นไปอย่างปลอดภัย
ในระหว่างที่กฎหมาย AI ของไทยยังอยู่ระหว่างการพิจารณายกร่างนั้น เกาหลีใต้ได้เริ่มบังคับใช้กฎหมายพื้นฐานว่าด้วยการพัฒนาปัญญาประดิษฐ์และการตั้งองค์กรเพื่อความน่าเชื่อถือ (Basic Act on the Development of Artificial Intelligence and the Establishment of a Foundation for Trustworthiness) หรือเรียกสั้น ๆ ว่า “AI Basic Act”
โดยเริ่มมีผลบังคับใช้เมื่อเดือนมกราคมที่ผ่านมา ขอบเขตการบังคับใช้ครอบคลุมไปถึงกิจกรรมที่เกิดขึ้นนอกประเทศที่ส่งผลต่อผู้ใช้หรือตลาดในเกาหลีใต้ โดยไม่บังคับใช้กับ AI ที่พัฒนาเพื่อกองทัพหรือความมั่นคงโดยเฉพาะ
วัตถุประสงค์หลักของกฎหมายฉบับนี้ก็เพื่อจัดตั้งกรอบการกำกับดูแลด้าน AI โดยกำหนดหลักเกณฑ์พื้นฐานที่จำเป็นเพื่อสนับสนุนการพัฒนา AI อย่างเหมาะสม จัดตั้งองค์กรเพื่อความน่าเชื่อถือในสังคมที่ใช้ AI และคุ้มครองสิทธิและผลประโยชน์ของประชาชน
รวมถึงศักดิ์ศรีความเป็นมนุษย์ ส่งเสริมการยกระดับคุณภาพชีวิตของประชาชน และเสริมสร้างขีดความสามารถในการแข่งขันของประเทศ
กฎหมายฉบับนี้ได้กำหนดนิยามที่น่าสนใจเกี่ยวกับ AI ดังนี้
AI: การใช้ความสามารถทางสติปัญญาของมนุษย์ในระบบอิเล็กทรอนิกส์ เช่น การเรียนรู้ การให้เหตุผล การรับรู้ การตัดสินใจ และการเข้าใจภาษา
ระบบ AI: ระบบที่ใช้ AI เพื่ออนุมานผลลัพธ์ เช่น การคาดการณ์ การแนะนำ หรือตัดสินใจ ซึ่งส่งผลกระทบต่อสภาพแวดล้อมจริงและเสมือนจริงเพื่อให้บรรลุเป้าหมายที่กำหนดไว้ โดยมีระดับความเป็นอิสระและความสามารถในการปรับตัวที่หลากหลาย
High-Impact AI: ระบบ AI ที่อาจส่งผลกระทบอย่างมีนัยสำคัญ หรือก่อให้เกิดความเสี่ยงต่อชีวิต ความปลอดภัยทางร่างกาย หรือสิทธิขั้นพื้นฐาน และถูกนำไปใช้ในกิจกรรมสำคัญ ๆ
เช่น การจัดหาพลังงาน กระบวนการผลิตน้ำดื่ม การดำเนินงานของระบบบริการสุขภาพ การพัฒนาและการใช้อุปกรณ์การแพทย์ การจัดการและการดำเนินงานเกี่ยวกับวัสดุนิวเคลียร์อย่างปลอดภัย
การสืบสวนหรือจับกุมผู้กระทำความผิดที่ต้องอาศัยการวิเคราะห์หรือการใช้ข้อมูลชีวภาพ การตัดสินหรือการประเมินที่มีผลกระทบอย่างมีนัยสำคัญต่อสิทธิหรือภาระหน้าที่ของบุคคล รวมถึงการตัดสินใจเรื่องการจ้างงานหรือการกู้ยืมเงิน ระบบขนส่ง การประเมินผลนักเรียน
และอื่น ๆ ตามที่กำหนดโดย Presidential Decree ว่ามีผลกระทบอย่างมีนัยสำคัญต่อการคุ้มครองชีวิต ความปลอดภัยทางกายภาพ หรือสิทธิขั้นพื้นฐาน
Generative AI: ระบบ AI ที่สร้างข้อความ เสียง ภาพ วิดีโอ หรือเนื้อหาอื่น ๆ โดยเลียนแบบโครงสร้างและลักษณะของข้อมูลที่ป้อนเข้ามา
เพื่อให้การพิจารณาและแก้ไขปัญหาเกี่ยวกับนโยบายสำคัญในการส่งเสริมอุตสาหกรรม AI และการจัดตั้งองค์กรเพื่อความน่าเชื่อถือเป็นไปอย่างมีประสิทธิภาพ AI Basic Act จึงให้จัดตั้งคณะกรรมการปัญญาประดิษฐ์แห่งชาติ ซึ่งขึ้นกับประธานาธิบดี
มีอำนาจพิจารณาและแก้ไขปัญหาเกี่ยวกับการจัดทำแผนพื้นฐานด้านปัญญาประดิษฐ์ การส่งเสริมการใช้ AI การกำกับดูแล High-Impact AI และเรื่องอื่นที่เกี่ยวข้อง
ในด้านจริยธรรม กฎหมายฉบับนี้ให้อำนาจรัฐบาลในการกำหนดและประกาศหลักการด้านจริยธรรมของ AI ซึ่งอาจรวมถึงเรื่องต่าง ๆ เช่น ความปลอดภัยและความน่าเชื่อถือ การเข้าถึงได้ และการมีส่วนร่วมต่อชีวิตและความเป็นอยู่ที่ดีของมนุษย์
โดยให้รัฐมนตรีว่าการกระทรวงวิทยาศาสตร์และเทคโนโลยีสารสนเทศ กำหนดมาตรการในการดำเนินการตามหลักการด้านจริยธรรมของ AI และเผยแพร่ต่อสาธารณะ
นอกจากนี้เพื่อสร้างความโปร่งใสและความปลอดภัยของการใช้ AI กฎหมายฉบับนี้กำหนดให้เป็นหน้าที่ของผู้ให้บริการ ไม่ว่าจะภาครัฐหรือเอกชน เช่น ในกรณีที่ผู้ประกอบการที่ต้องการจะจัดหาผลิตภัณฑ์หรือบริการโดยใช้ High-Impact AI หรือ Generative AI ต้องแจ้งให้ผู้ใช้ทราบล่วงหน้าว่าผลิตภัณฑ์หรือบริการดังกล่าวทำงานโดยใช้ AI ที่เกี่ยวข้อง
หรือกรณีมีการใช้ Generative AI เพื่อสร้างสื่อเสมือนจริงที่ยากต่อการแยกแยะจากเนื้อหาจริง ผู้ให้บริการจะต้องแจ้งหรือระบุให้ผู้ใช้ทราบในลักษณะที่ทำให้สามารถรับรู้ได้อย่างชัดเจนว่าเนื้อหาดังกล่าวสร้างขึ้นโดยระบบ AI มิเช่นนั้น ผู้ให้บริการอาจโดนโทษปรับสูงสุดถึง 30 ล้านวอน
สำหรับผู้ให้บริการ high-impact AI systems หรือผลิตภัณฑ์หรือบริการที่ใช้ระบบนี้ ต้องดำเนินการตามมาตรการต่าง ๆ ตามที่กฎหมายกำหนด เพื่อให้มั่นใจในความปลอดภัยและความน่าเชื่อถือของระบบดังกล่าว
ซึ่งรวมถึงการจัดทำแผนบริหารความเสี่ยง การมีระบบกำกับดูแลโดยมนุษย์ การจัดเตรียมเอกสารแสดงมาตรการความปลอดภัย รวมถึงใช้ความพยายามอย่างดีที่สุดที่จะประเมินผลกระทบต่อสิทธิมนุษยชนขั้นพื้นฐานล่วงหน้า
สำหรับประชาชนผู้ที่ได้รับผลกระทบจากผลิตภัณฑ์ AI หรือการให้บริการ AI มีสิทธิที่จะได้รับการอธิบายอย่างชัดเจน กระชับ และเข้าใจได้ง่ายเกี่ยวกับเกณฑ์และหลักการสำคัญที่ใช้ในการกำหนดผลลัพธ์สุดท้ายของ AI เท่าที่จะเป็นไปได้ทางเทคนิคและสมเหตุสมผล ซึ่งถือเป็นหลักการสำคัญที่ช่วยคุ้มครองสิทธิขั้นพื้นฐานในยุคดิจิทัล
อนึ่ง กฎหมายฉบับนี้ไม่ได้เน้นการควบคุมอย่างเข้มงวดแต่เพียงอย่างเดียว แต่ยังส่งเสริมการพัฒนาการใช้ AI อย่างชัดเจนด้วย โดยการวางหลักกฎหมายพื้นฐานเพื่อสนับสนุนการวิจัยและพัฒนาเพื่อส่งเสริมอุตสาหกรรม AI การกำหนดมาตรฐาน การจัดตั้งนโยบายสำหรับ training data
และการสนับสนุนการนำ AI ไปใช้ ทั้งยังวางรากฐานสำหรับการส่งเสริมนโยบายศูนย์ข้อมูล AI และการส่งเสริมการหลอมรวม AI เพื่อสนับสนุนการพัฒนาเชิงนวัตกรรมของระบบนิเวศปัญญาประดิษฐ์ (AI ecosystem)
นอกจากนี้ ยังมีบทบัญญัติที่สนับสนุนเป็นพิเศษสำหรับวิสาหกิจขนาดกลางและขนาดย่อม ธุรกิจสตาร์ทอัป และการส่งเสริมทรัพยากรมนุษย์เพื่อนำพาสู่ยุคปัญญาประดิษฐ์อีกด้วย จะเห็นได้ว่า AI Basic Act ของเกาหลีใต้สะท้อนแนวคิดว่า AI ต้องพัฒนาไปพร้อมกับความรับผิดชอบ
กฎหมายฉบับนี้จึงเป็นตัวอย่างที่ดีที่ไทยเราอาจนำมาใช้เป็นแนวทางในการกำกับดูแล AI อย่างสมดุล ระหว่างการส่งเสริมนวัตกรรมกับการคุ้มครองความปลอดภัยและจริยธรรม สะท้อนการมุ่งสู่การพัฒนาเทคโนโลยี อย่างมีความรับผิดชอบ