แพลตฟอร์มเอ็กซ์ (X) ยืนยันว่า แชตบอตปัญญาประดิษฐ์ “กร็อก” (Grok) ซึ่งพัฒนาโดยบริษัทเอ็กซ์เอไอ (xAI) ของอีลอน มัสก์ (Elon Musk) จะไม่สามารถแก้ไขหรือดัดแปลงภาพของบุคคลจริงให้อยู่ในลักษณะเปิดเผยเรือนร่างได้อีกต่อไป หลังเกิดกระแสวิพากษ์วิจารณ์ในหลายประเทศ จากกรณีที่ผู้ใช้พบว่า กร็อกสามารถทำตามคำสั่งให้ปรับภาพของบุคคลให้ดูเหมือนไม่สวมเสื้อผ้า ทั้งในกรณีของผู้ใหญ่ และในบางกรณีรวมถึงผู้เยาว์
ทีมความปลอดภัยของเอ็กซ์ ระบุว่า บริษัทได้ใช้มาตรการทางเทคโนโลยีเพื่อป้องกันไม่ให้บัญชีกร็อกบนแพลตฟอร์มเอ็กซ์แก้ไขภาพของบุคคลจริงให้อยู่ในสภาพล่อแหลม เช่น การสวมชุดว่ายน้ำหรือเครื่องแต่งกายที่เปิดเผยร่างกาย มาตรการนี้จะมีผลกับผู้ใช้ทุกคน รวมถึงสมาชิกแบบชำระเงิน
อย่างไรก็ตาม ผู้ใช้ที่สมัครสมาชิกแบบชำระเงินบางรายระบุว่า การทำงานของกร็อกในการตอบสนองต่อคำสั่งเกี่ยวกับการแก้ภาพเปลี่ยนไปจากก่อนหน้า โดยทีมความปลอดภัยของเอ็กซ์ยืนยันว่ามีการปรับระบบดังกล่าวจริง
นักวิจัยจาก AI Forensics ซึ่งเป็นองค์กรอิสระในยุโรปที่ทำงานตรวจสอบการทำงานของปัญญาประดิษฐ์ ระบุว่า การควบคุมเนื้อหาของกร็อกยังไม่เหมือนกันในทุกช่องทาง กล่าวคือ เมื่อผู้ใช้โต้ตอบกับกร็อกผ่านแพลตฟอร์มเอ็กซ์แบบที่คนทั่วไปมองเห็น ระบบจะมีข้อจำกัดมากกว่า แต่หากเป็นการสนทนาแบบส่วนตัวบนเว็บไซต์ Grok.com ระบบบางครั้งยังตอบสนองต่อคำสั่งที่เกี่ยวข้องกับการแก้ไขภาพในลักษณะที่มีความเสี่ยงอยู่
เอ็กซ์ ยังย้ำว่า บริษัทจะดำเนินการกับเนื้อหาที่ผิดกฎหมายบนแพลตฟอร์มอย่างจริงจัง รวมถึงสื่อที่เกี่ยวข้องกับการแสวงหาประโยชน์ทางเพศจากเด็ก (Child Sexual Abuse Material หรือ CSAM) โดยจะลบเนื้อหา ระงับบัญชีถาวร และประสานงานกับหน่วยงานรัฐและเจ้าหน้าที่บังคับใช้กฎหมายในพื้นที่ที่เกี่ยวข้อง
พร้อมระบุว่า ผู้ที่ใช้หรือสั่งให้กร็อกสร้างเนื้อหาที่ผิดกฎหมาย จะได้รับโทษเช่นเดียวกับผู้ที่อัปโหลดเนื้อหาผิดกฎหมายขึ้นแพลตฟอร์มโดยตรง
ในวันเดียวกัน มัสก์ โพสต์ข้อความบนเอ็กซ์ ระบุว่า เขาไม่ทราบว่ามีการสร้างภาพเปลือยของผู้เยาว์โดยกร็อก พร้อมย้ำว่า หลักการทำงานของกร็อก คือการปฏิบัติตามกฎหมายของแต่ละประเทศหรือรัฐ และจะปฏิเสธการสร้างเนื้อหาที่ผิดกฎหมาย
นักวิจัยชี้ว่า แม้ภาพเปลือยเต็มรูปแบบจะพบไม่บ่อย แต่ปัญหาสำคัญคือ กร็อกเคยตอบสนองต่อคำสั่งให้แก้ไขภาพของผู้เยาว์ โดยนำไปใส่เสื้อผ้าที่เปิดเผยร่างกาย เช่น ชุดว่ายน้ำหรือชุดชั้นใน รวมถึงการจัดท่าทางที่สื่อถึงเรื่องทางเพศ
โดยการสร้างภาพลักษณะนี้โดยไม่ได้รับความยินยอม อาจเข้าข่ายความผิดตามกฎหมายเกี่ยวกับการคุ้มครองเด็ก และมีโทษทั้งปรับและจำคุก ภายใต้กฎหมาย Take It Down Act ที่ลงนามบังคับใช้เมื่อปีที่ผ่านมา โดยประธานาธิบดีโดนัลด์ ทรัมป์
ด้านร็อบ บอนตา (Rob Bonta) อัยการสูงสุดของรัฐแคลิฟอร์เนีย ประกาศเมื่อวันพุธ (15 ม.ค.) ว่า ได้เริ่มการสอบสวนกรณีการแพร่กระจายของเนื้อหาทางเพศที่ไม่ได้รับความยินยอม ซึ่งผลิตขึ้นโดยใช้กร็อก
ขณะเดียวกัน กร็อกยังคงถูกสั่งห้ามใช้งานในประเทศอินโดนีเซียและมาเลเซีย จากข้อกังวลเกี่ยวกับการสร้างภาพในลักษณะดังกล่าว ส่วนหน่วยงานกำกับดูแลสื่อของสหราชอาณาจักร (Ofcom) ระบุว่า ได้เปิดการสอบสวนอย่างเป็นทางการต่อแพลตฟอร์มเอ็กซ์โดยสำนักงานของนายกรัฐมนตรีเคียร์ สตาร์เมอร์ เปิดเผยว่า ผู้นำสหราชอาณาจักรยินดีต่อรายงานที่ระบุว่า เอ็กซ์กำลังดำเนินการแก้ไขปัญหานี้
อ้างอิง: CNN