เมื่อ 'ปัญญาประดิษฐ์' จะถูกควบคุม

เมื่อวันที่ 21 เม.ย.2564 สหภาพยุโรปได้ขยับเข้าสู่การกำกับเทคโนโลยีสำคัญของโลกอีกครั้ง เมื่อคณะกรรมาธิการยุโรปได้เสนอร่างกฎหมาย Artificial Intelligence Act (AIA) เพื่อเข้าสู่กระบวนการพิจารณาจัดทำกฎหมายของสหภาพยุโรป โดยเสนอให้จัดทำในรูปแบบของ Regulation ซึ่งจะทำให้กฎหมายฉบับนี้หากผ่านการพิจารณาอนุมัติจะมีผลใช้บังคับเป็นกฎหมายภายในของประเทศสมาชิกทันที

ร่างกฎหมายดังกล่าวมีหลักการสำคัญหลายประการที่อาจส่งผลกระทบต่อนักพัฒนาทั่วโลก รวมถึงนักพัฒนาในประเทศไทยด้วย วันนี้ผู้เขียนจึงขอนำหลักการในร่างกฎหมายดังกล่าวมาเล่าให้ทุกท่านทราบ เพื่อการเตรียมความพร้อมสำหรับการพัฒนาเทคโนโลยีปัญญาประดิษฐ์ ที่อาจกลายเป็นอุตสาหกรรมภายใต้การกำกับดูแลที่เข้มงวดมากขึ้น

หลักการสำคัญของ AIA คือการสร้าง “AI ที่เชื่อถือได้” ซึ่งสหภาพยุโรปได้พยายามสร้างและวางกรอบแนวคิดมาเป็นระยะเวลาหลายปี โดยเชื่อว่าการมีกรอบนโยบายทางกฎหมายที่ชัดเจนเกี่ยวกับปัญญาประดิษฐ์จะทำให้มนุษย์มีความเชื่อมั่นในเครื่องจักรมากยิ่งขึ้น และการสร้างความเชื่อมั่นและน่าเชื่อถือต่อเทคโนโลยีดังกล่าวเป็นสิ่งที่ต้องมีและต้องเกิดขึ้น

สหภาพยุโรปยังเชื่อมั่นด้วยว่าการกำหนดจริยธรรมของปัญญาประดิษฐ์ในครั้งนี้จะเป็นการสร้างมาตรฐานของเทคโนโลยีที่สำคัญและทำให้ยุโรปคงความสามารถในการแข่งขันต่อไปได้ โดยคำนึงถึงความปลอดภัยและการคุ้มครองสิทธิขั้นพื้นฐานของพลเมืองยุโรปเป็นสำคัญ

AIA ตั้งอยู่บนหลักการกำกับดูแลที่สำคัญ ดังนี้  

1.ขอบเขตด้านดินแดนในการบังคับใช้กฎหมาย (1) AIA ใช้บังคับกับระบบ AI ที่จำหน่ายในสหภาพยุโรป ไม่ว่าผู้ให้บริการจะจัดตั้งในสหภาพยุโรปหรือไม่ หรือ (2) กรณีที่ผู้ใช้อยู่ในสภาพยุโรป หรือ (3) กรณีที่ผู้ให้บริการและผู้ใช้อยู่นอกสหภาพยุโรป แต่มีผลกระทบจากการใช้เกิดขึ้นในสหภาพยุโรป

หลักการดังกล่าวเป็นการบังคับใช้กฎหมายนอกเขตแดนแห่งรัฐ ดังนั้น ในกรณีผู้ประกอบการหรือนักพัฒนาของไทย หากเข้าเงื่อนไขข้างต้น แม้จะเป็นผู้ส่งออกเทคโนโลยีก็ตาม ก็อาจต้องปฏิบัติตาม AIA ด้วย

2.ขอบเขตเชิงเนื้อหาที่กฎหมายใช้บังคับ ที่สำคัญมีดังนี้ (1) กำหนดหลักเกณฑ์ในการจำหน่ายหรือการให้บริการระบบ AI ในสหภาพยุโรป (2) ห้ามการใช้ระบบ AI จำพวกที่มีความเสี่ยงที่ไม่สามารถยอมรับ (3) กำหนดหลักเกณฑ์ในการสร้างความโปร่งใสของระบบ AI ที่จะต้องมีปฏิสัมพันธ์กับมนุษย์ (4) สร้างกฎในการจัดจำหน่ายและการติดตามภายหลังการจำหน่ายไปแล้วโดยหน่วยงานที่มีอำนาจ

3.การจำแนกประเภทของระบบ AI AIA เป็นร่างกฎหมายอีกฉบับที่นำระบบการบริหารจัดการความเสี่ยงมาใช้บังคับ โดยจำแนกระดับความเสี่ยงไว้ในตารางแนบท้ายสำหรับการใช้ระบบ AI แต่ละประเภทซึ่งสามารถปรับเปลี่ยนเพิ่มเติมได้ตามความเหมาะสม

AIA จำแนกระบบ AI เป็น 4 จำพวก กล่าวคือ

(1) จำพวกที่มีความเสี่ยงที่ไม่สามารถยอมรับได้ อาทิ ระบบ AI ที่เป็นปฏิปักษ์ต่อคุณค่าของบุคคลหรือละเมิดต่อสิทธิขั้นพื้นฐานของพลเมืองยุโรป

- จำพวกความเสี่ยงสูง ซึ่งอนุญาตให้จำหน่ายได้แต่ต้องอยู่ภายใต้กระบวนการกำกับที่เข้มงวด ต้องมีการจัดทำการประเมินความเสี่ยงและการจัดการความเสี่ยงอย่างเป็นระบบ การจัดการด้านธรรมาภิบาลของข้อมูล การบันทึกข้อมูลเพื่อการตรวจสอบ รวมทั้งต้องมีการขออนุญาตจากหน่วยงานกำกับดูแลด้วย ตัวอย่างเช่น ระบบ AI ที่เกี่ยวข้องกับโครงสร้างพื้นฐานสำคัญ เช่น ระบบขนส่งสาธารณะ

ระบบ AI ที่เกี่ยวข้องกับการจัดการศึกษาและโอกาสเข้าถึงการศึกษา, ความปลอดภัยในผลิตภัณฑ์ เช่น ในระบบหุ่นยนต์ช่วยผ่าตัด, การให้บริการที่สำคัญโดยเอกชนและการจัดทำบริการสาธารณะ เช่น การจัดลำดับความน่าเชื่อถือด้านการเงินที่ส่งผลต่อการเข้าถึงสินเชื่อของบุคคล, การบังคับใช้กฎหมายที่อาจส่งผลกระทบต่อสิทธิและเสรีภาพของบุคคล, การจัดการคนเข้าเมือง ผู้อพยพ และการผ่านแดน เช่น การใช้เพื่อการยืนยันเอกสารการเดินทาง และระบบ AI ที่เกี่ยวข้องกับการบริหารกระบวนการยุติธรรม เช่น การใช้เพื่อการวิเคราะห์ข้อเท็จจริงที่มีความซับซ้อน

(2) ความเสี่ยงจำกัด เช่นพวกแชตบอต และ (3) ความเสี่ยงต่ำ เช่น เกมที่ใช้ระบบ AI

4.ข้อห้ามในการใช้เทคโนโลยีชีวภาพในการระบุตัวตน โดยหลักการ AIA กำหนดไม่ให้ใช้ระบบการสอดส่องหรือการเฝ้าระวังบุคคลโดยใช้เทคโนโลยีชีวภาพในพื้นที่สาธารณะโดยหน่วยงานบังคับใช้กฎหมาย เนื่องจากถือว่าเป็นการกระทบต่อสิทธิและเสรีภาพของประชาชนอย่างร้ายแรง อาทิ การใช้เทคโนโลยีจดจำใบหน้าเพื่อระบุตัวบุคคลในสถานที่สาธารณะ เป็นต้น

5.กำหนดให้จัดตั้ง European Artificial Intelligence Board เพื่อทำหน้าที่ในการกำหนดทิศทางและสร้างความร่วมมือกันในการบังคับใช้กฎหมายระหว่างรัฐสมาชิก

6.บทกำหนดโทษ คณะกรรมาธิการยุโรปเสนอกรอบอัตราโทษปรับทางปกครองไว้ 3 ระดับความผิด ตามลักษณะความร้ายแรง ดังนี้ (1) อัตรา 30 ล้านยูโร หรือร้อยละ 6 ของยอดจำหน่าย (2) อัตรา 20 ล้านยูโร หรือร้อยละ 4 ของยอดจำหน่าย และ (3) อัตรา 10 ล้านยูโร หรือร้อยละ 2 ของยอดจำหน่าย

7.กำหนดการบังคับใช้ AIA กำหนดให้กฎหมายมีผลใช้บังคับเมื่อพ้นกำหนด 2 ปีนับแต่วันที่กฎหมายใช้บังคับ ทั้งนี้เพื่อให้ผู้เกี่ยวข้องมีระยะเวลาดำเนินการต่างๆ ให้เป็นไปตามกฎหมาย

ที่กล่าวมาทั้งหมดข้างต้นคือหลักการบางส่วนของร่างกฎหมาย AIA ที่อาจจะมีผลใช้บังคับในอีกราวๆ 3 ปีข้างหน้า ถ้ากฎหมายฉบับนี้ผ่านการอนุมัติของรัฐสภายุโรป