อินโดนีเซีย - มาเลเซีย สั่งบล็อก Grok หลังพบการใช้ AI สร้างภาพไม่เหมาะสมของผู้หญิงและเด็ก

รัฐบาลอินโดนีเซียและมาเลเซียประกาศบล็อกการใช้งาน “กร็อก” (Grok) แชตบอตปัญญาประดิษฐ์บนแพลตฟอร์มเอ็กซ์ (X เดิม Twitter) ของ อีลอน มัสก์ (Elon Musk) หลังพบว่าถูกนำไปใช้สร้างภาพตัดต่อเชิงเพศของผู้หญิงและผู้เยาว์จำนวนมาก นับเป็น 2 ประเทศแรกของโลกที่ใช้มาตรการสั่งบล็อกเครื่องมือเอไอชนิดนี้อย่างเป็นทางการ

การตัดสินใจดังกล่าวเกิดขึ้นหลังฟังก์ชันที่ผู้ใช้งานเรียกว่า “การถอดเสื้อผ้าดิจิทัล” ของกร็อก ถูกใช้แพร่หลายบนโลกออนไลน์ โดยมีการนำภาพของบุคคลจริงมาดัดแปลงให้มีลักษณะยั่วยุทางเพศหรือโจ่งแจ้ง กระแสนี้แพร่กระจายอย่างรวดเร็ว และสร้างความกังวลในหลายประเทศเกี่ยวกับการใช้เอไอสร้างภาพอนาจารปลอม 

เมอุทยา ฮาฟิด (Meutya Hafid) รัฐมนตรีว่าการกระทรวงดิจิทัลของอินโดนีเซีย ระบุในแถลงการณ์ว่า การสั่งห้ามใช้งานกร็อกมีเป้าหมายเพื่อ “ปกป้องผู้หญิง เด็ก และประชาชนโดยรวม จากความเสี่ยงของเนื้อหาทางเพศปลอมที่ถูกสร้างขึ้นด้วยปัญญาประดิษฐ์”

ด้านรัฐบาลมาเลเซียประกาศบล็อกการใช้งานกร็อกเป็นการชั่วคราวในวันอาทิตย์ (11 ม.ค. 69) โดยระบุว่า พบการนำเครื่องมือนี้ไปใช้ในทางที่ผิดซ้ำแล้วซ้ำเล่า เพื่อสร้างภาพตัดต่อที่ไม่เหมาะสม และเป็นการดัดแปลงภาพโดยไม่ได้รับความยินยอม รวมถึงเนื้อหาที่เกี่ยวข้องกับผู้หญิงและผู้เยาว์ ทั้งอินโดนีเซียและมาเลเซียเป็นประเทศที่มีประชากรส่วนใหญ่นับถือศาสนาอิสลาม และมีกฎหมายควบคุมสื่อลามกอนาจารที่เข้มงวด

สำนักข่าวซีเอ็นเอ็น รายงานว่า ได้ติดต่อไปยังบริษัทเอ็กซ์เอไอ ซึ่งเป็นบริษัทแม่ของกร็อก เพื่อขอความเห็นเกี่ยวกับมาตรการบล็อกดังกล่าว แต่ยังไม่ได้รับการตอบกลับ

ความกังวลต่อกร็อกไม่ได้เกิดขึ้นเฉพาะในเอเชียตะวันออกเฉียงใต้ เจ้าหน้าที่ในสหราชอาณาจักร สหภาพยุโรป และอินเดีย ต่างแสดงความห่วงใยต่อมาตรการควบคุมและระบบป้องกันการใช้งานในทางที่ผิดของเอไอตัวนี้เช่นกัน

ก่อนหน้านี้ มัสก์ และบริษัทเอ็กซ์เอไอ ระบุว่า ได้จัดการปัญหาดังกล่าวด้วยการระงับบัญชีผู้ใช้งานที่ฝ่าฝืนอย่างถาวร และทำงานร่วมกับรัฐบาลท้องถิ่นและหน่วยงานบังคับใช้กฎหมาย อย่างไรก็ตาม รายงานระบุว่า แม้จะมีมาตรการดังกล่าว คำตอบและภาพที่กร็อกสร้างขึ้นจากคำขอของผู้ใช้จำนวนมาก ยังคงเป็นภาพที่ทำให้ผู้หญิงถูกทำให้เป็นวัตถุทางเพศ

ผู้ใช้งานจำนวนหนึ่งมองว่ากร็อกแตกต่างจากปัญญาประดิษฐ์กระแสหลักรายอื่น เนื่องจากเปิดให้มีเนื้อหาทางเพศที่โจ่งแจ้งมากกว่า และในบางกรณีถูกมองว่าส่งเสริมการสร้างภาพในลักษณะดังกล่าว รวมถึงการมีตัวละครเสมือนหรืออวตารที่ถูกออกแบบมาเพื่อสร้างความผูกพันกับผู้ใช้งาน

แนวโน้มการใช้กร็อกเพื่อดัดแปลงภาพเชิงเพศเริ่มชัดเจนตั้งแต่ช่วงปลายปี 2568 เมื่อผู้ใช้งานจำนวนมากค้นพบว่าสามารถแท็กกร็อกบนแพลตฟอร์มเอ็กซ์ และขอให้ระบบแก้ไขหรือดัดแปลงภาพของบุคคลจริงได้ มีผู้ใช้งานจำนวนมากขอให้แชตบอตสร้างภาพบุคคลในชุดบิกินีหรือในท่าทางยั่วยวน ซึ่งสร้างความไม่สบายใจและความทุกข์ใจให้กับผู้หญิงหลายแสนคนทั่วโลก

นักวิจัยจาก AI Forensics องค์กรไม่แสวงหากำไรในยุโรปที่ทำงานด้านการตรวจสอบอัลกอริทึม วิเคราะห์ภาพที่กร็อกสร้างขึ้นแบบสุ่มกว่า 20,000 ภาพ และคำขอจากผู้ใช้งานกว่า 50,000 รายการ ระหว่างวันที่ 25 ธ.ค. 68 ถึง 1 ม.ค. 69 ผลการศึกษาพบว่า มีการใช้คำที่เกี่ยวข้องกับการถอดหรือเปลี่ยนเสื้อผ้าอย่างแพร่หลาย เช่น “เธอ” “ใส่” “ถอด” “บิกินี” และ “เสื้อผ้า” และมากกว่าครึ่งหนึ่งของภาพที่มีบุคคลปรากฏอยู่ เป็นภาพที่บุคคลสวมใส่เสื้อผ้าเพียงเล็กน้อย เช่น ชุดชั้นในหรือชุดว่ายน้ำ

ในที่สาธารณะ มัสก์ แสดงจุดยืนต่อต้านสิ่งที่เขาเรียกว่า “เอไอแบบโว้ก” และวิจารณ์การเซ็นเซอร์มาอย่างต่อเนื่อง แหล่งข่าวภายในบริษัทเอ็กซ์เอไอให้ข้อมูลกับซีเอ็นเอ็นว่า มัสก์ไม่เห็นด้วยกับการเพิ่มมาตรการควบคุมกร็อกภายในองค์กร ทีมงานด้านความปลอดภัยของเอ็กซ์เอไอ ซึ่งมีขนาดเล็กกว่าบริษัทคู่แข่งหลายแห่ง สูญเสียพนักงานหลายรายในช่วงไม่กี่สัปดาห์ก่อนเกิดกระแสวิพากษ์วิจารณ์ครั้งนี้

แม้มัสก์จะระบุว่า ผู้ที่ใช้กร็อกสร้างเนื้อหาที่ผิดกฎหมายจะต้องรับผลทางกฎหมาย แต่เขามักลดทอนความกังวลเกี่ยวกับเนื้อหาทางเพศ โดยให้เหตุผลว่ารัฐบาลต่างๆ ต้องการจำกัดเสรีภาพในการแสดงความคิดเห็น และมักตอบโต้คำวิจารณ์ผ่านสื่อสังคมออนไลน์ในลักษณะไม่เป็นทางการ

เมื่อสัปดาห์ที่ผ่านมา กร็อกได้จำกัดความสามารถบางส่วนของการสร้างภาพไว้เฉพาะผู้ใช้งานเอ็กซ์ที่สมัครสมาชิกแบบชำระเงิน อย่างไรก็ตาม ผู้ที่ไม่ได้สมัครสมาชิกยังสามารถขอให้กร็อกแก้ไขภาพผ่านแอปพลิเคชันได้ และฟังก์ชันการสร้างภาพและวิดีโอยังคงเปิดให้ใช้งานฟรีผ่านเว็บไซต์และแอปพลิเคชันของกร็อก

ในสหราชอาณาจักร ลิซ เคนดัลล์ (Liz Kendall) รัฐมนตรีว่าการกระทรวงเทคโนโลยี เรียกร้องให้มีการดำเนินการอย่างเร่งด่วนเพื่อรับมือกับปัญหาภาพปลอม โดยระบุว่า การดัดแปลงภาพของผู้หญิงและเด็กในเชิงเพศเป็นสิ่งที่ไม่อาจยอมรับได้ และคาดหวังให้สำนักงาน Ofcom ซึ่งเป็นหน่วยงานกำกับดูแลการสื่อสารอิสระ ใช้อำนาจตามกฎหมายที่มีอยู่เพื่อจัดการกับปัญหานี้

อ้างอิง: CNN