Meta แก้ด่วนนโยบาย AI ถูกสภาคองเกรสสอบปม 'แชทบอทจีบเด็ก'

เมตา (Meta) ซึ่งเป็นบริษัทแม่ของแพลตฟอร์ม Facebook เปิดเผยว่ากำลังทยอยเพิ่ม มาตรการคุ้มครองผู้ใช้งานกลุ่ม "วัยรุ่น" ในโปรแกรมแชตบอท AI โดยจำกัดไม่ให้ระบบสนทนาในลักษณะโรแมนซ์เชิงชู้สาว หรือเกี่ยวข้องกับการทำร้ายตนเองและการฆ่าตัวตาย รวมถึงจำกัดการเข้าถึงคาแรคเตอร์ AI บางประเภทชั่วคราวสำหรับผู้ใช้ที่ยังไม่บรรลุนิติภาวะ

มาตรการดังกล่าวมีขึ้นหลังจากรอยเตอร์สออกรายงานพิเศษเมื่อต้นเดือนส.ค. แฉว่า แชตบอท Meta บางส่วนสามารถโต้ตอบในเชิงยั่วยุได้ รวมถึงมีการสนทนาในลักษณะ “โรแมนติกหรือเชิงชู้สาว”

แอนดี สโตน โฆษกของเมตาตอบคำถามทางอีเมลเมื่อวันศุกร์ว่า ขั้นตอนเหล่านี้ยังเป็นเพียง "มาตรการชั่วคราว" บริษัทกำลังพัฒนามาตรการระยะยาวเพื่องให้ผู้ใช้งานกลุ่มวัยรุ่นได้รับประสบการณ์ AI ที่ปลอดภัย และเหมาะสมกับวัย โดยย้ำว่าการป้องกันดังกล่าวได้เริ่มทยอยนำมาใช้แล้ว และจะปรับปรุงต่อเนื่องเมื่อระบบได้รับการพัฒนา

ทั้งนี้ นโยบายด้าน AI ของเมตาเผชิญกับแรงกดดันและการวิพากษ์อย่างหนักภายหลังรายงานข่าวของรอยเตอร์ ซึ่งชี้ให้เห็นถึงความเสี่ยงที่อาจเกิดขึ้นจากการโต้ตอบที่ไม่เหมาะสมระหว่างแชตบอทกับผู้ใช้ที่เป็นเยาวชน

ทั้งสมาชิกพรรคเดโมแครตและรีพับลิกันในสภาคองเกรสต่างก็แสดงความกังวลเกี่ยวกับกฎเกณฑ์ที่ระบุไว้ในเอกสารภายในของ Meta ซึ่งรอยเตอร์สนำมารายงาน แต่หลังจากที่ได้ตอบคำถามนักข่าวไปเมื่อช่วงต้นเดือนนี้ ทางเมตาได้ลบส่วนที่ระบุว่า "แชตบอทสามารถจีบและเล่นบทบาทสมมติกับเด็กได้" ออกไปแล้ว 

"ตัวอย่างและบันทึกที่เป็นปัญหานั้นผิดพลาดและไม่สอดคล้องกับนโยบายของเรา ซึ่งได้ถูกลบออกไปแล้ว" สโตนกล่าวเมื่อต้นเดือนนี้