'ChatGPT' กำลังจะมี “แชตบอตอีโรติก” สำหรับผู้ใหญ่ เริ่มธ.ค. นี้

แซม อัลต์แมน ประธานเจ้าหน้าที่บริหารของ OpenAI ประกาศผ่านโพสต์บนแพลตฟอร์ม X เมื่อวันอังคารว่า บริษัทเตรียมจะผ่อนคลายข้อจำกัดด้านความปลอดภัยของ "ChatGPT" ในเร็วๆ นี้ โดยจะเปิดโอกาสให้ผู้ใช้สามารถปรับโทนการตอบของแชตบอทให้มีความ “เป็นมิตร” หรือ “คล้ายมนุษย์” มากขึ้น และที่สำคัญก็คือ จะอนุญาตให้ผู้ใหญ่ที่ผ่านการยืนยันตัวตน (verified adults) สามารถ "สนทนาเชิงอีโรติก" กับ AI ได้

“เราตั้งค่า ChatGPT ไว้ค่อนข้างจำกัดมาก เพื่อให้แน่ใจว่าเราระมัดระวังกับประเด็นสุขภาพจิต เราเข้าใจดีว่ามาตรการนี้ทำให้ผู้ใช้หลายคนที่ไม่ได้ปัญหารู้สึกว่า ChatGPT ไม่สนุกหรือมีประโยชน์น้อยลง แต่ด้วยความจริงจังในเรื่องนี้เราจึงอยากทำให้มันถูกต้อง” อัลต์แมนระบุใน X
 

“ในเดือนธันวาคมนี้ เมื่อเรานำระบบตรวจสอบอายุมาใช้อย่างเต็มรูปแบบภายใต้หลักการ ‘ปฏิบัติต่อผู้ใหญ่ให้เหมือนผู้ใหญ่’ เราจะอนุญาตให้มีเนื้อหาเพิ่มเติม เช่น บทสนทนาอีโรติกสำหรับผู้ใหญ่ที่ผ่านการยืนยันตัวตนแล้ว”

เว็บไซต์ TechCrunch ระบุว่า การประกาศครั้งนี้ถือเป็นการ "เปลี่ยนทิศทางครั้งสำคัญ" หลังจาก OpenAI ใช้เวลาหลายเดือนในการแก้ปัญหา "ความสัมพันธ์ที่น่ากังวล” ระหว่างผู้ใช้ที่มีปัญหาทางจิตกับ ChatGPT อัลต์แมนอ้างว่าบริษัท “สามารถบรรเทาปัญหาด้านสุขภาพจิตที่รุนแรง” ที่เคยเกิดขึ้นได้แล้ว อย่างไรก็ดี แม้จะยังไม่มีหลักฐานชัดเจนที่รองรับคำกล่าวอ้างนี้ แต่บริษัทก็เดินหน้าต่อเพื่อเปิดให้ ChatGPT สนทนาเชิงชู้สาวกับผู้ใช้โดยตรงได้

พบปัญหาผู้ใช้ติดภาวะหลงเชื่อ แยกโลกจริงไม่ออก

ในช่วงฤดูร้อนที่ผ่านมา มีรายงานพบปัญหาหลายกรณีเกี่ยวกับ ChatGPT โดยเฉพาะโมเดล GPT-4o ที่อาจทำให้ผู้ใช้บางรายตกอยู่ใน “ภาวะหลงเชื่อหรือหลงโลกเสมือน” 

หนึ่งในนั้นคือกรณีที่ ChatGPT ทำให้ชายคนหนึ่งเชื่อว่าเขาเป็นอัจฉริยะด้านคณิตศาสตร์ที่ต้องช่วยกอบกู้โลก ส่วนอีกเคสหนึ่งคือครอบครัวของวัยรุ่นรายหนึ่งยื่นฟ้อง OpenAI โดยอ้างว่า ChatGPT มีส่วนกระตุ้นให้ลูกชายมีแนวโน้มคิดสั้นจนเสียชีวิตในเวลาต่อมา

ภายหลังเหตุการณ์เหล่านี้ OpenAI ได้เพิ่มชุดคุณสมบัติด้านความปลอดภัยเพื่อแก้ปัญหา “AI sycophancy” หรือ "พฤติกรรมที่ AI พยายามเอาใจผู้ใช้ด้วยการเห็นด้วยกับทุกความคิดเห็น แม้จะเป็นพฤติกรรมเชิงลบก็ตาม"

ในเดือนส.ค. OpenAI เปิดตัวโมเดล GPT-5 ซึ่งเป็นโมเดลใหม่ที่มีแนวโน้มยอมตามผู้ใช้น้อยลง และมาพร้อมระบบตรวจจับพฤติกรรมผู้ใช้ที่อาจมีความเสี่ยงทางจิตใจ และเดือนต่อมาบริษัทได้เปิดตัวฟีเจอร์เพื่อคุ้มครองผู้เยาว์ เช่น ระบบคาดคะเนอายุ และการควบคุมบัญชีของบุตรหลานโดยผู้ปกครอง รวมถึงตั้ง “คณะผู้เชี่ยวชาญด้านสุขภาพจิต” เพื่อให้คำปรึกษาด้านจิตใจและความเป็นอยู่ที่ดีในการใช้ AI

TechCrunch ระบุว่า เพียงไม่กี่เดือนหลังเกิดเหตุการณ์เหล่านี้และดำเนินมาตรการต่างๆ ออกมา ดูเหมือนบริษัทจะเชื่อว่าปัญหากลุ่มผู้ใช้ที่เปราะบางได้รับการควบคุมแล้ว แม้จะยังไม่ชัดเจนว่าผู้ใช้ GPT-5 ยังคงมีปัญหาเรื่องภาวะหลงเชื่อหรือไม่ ขณะที่ GPT-4o ซึ่งเป็นรุ่นเก่ายังคงเปิดให้ใช้งานอยู่และมีผู้ใช้หลายพันราย

การเปิดให้ ChatGPT สนทนาเชิงอีโรติกได้ถือเป็น “พื้นที่ใหม่” สำหรับ OpenAI แต่ก็ทำให้เกิดใหญ่ตามมาเช่นกันเกี่ยวกับผลกระทบต่อผู้ใช้ที่เปราะบาง แม้อัลต์แมนยืนยันว่าบริษัทไม่ได้ต้องการเพิ่มอัตราการใช้งาน หรือ “usage-maxxing” แต่การเพิ่มฟีเจอร์ด้านอีโรติกก็อาจดึงดูดผู้ใช้ให้ใช้เวลามากขึ้น

ที่ผ่านมามีบริษัทผุ้ให้บริการแชตบอตบางค่าย เช่น Character.AI ใช้แชตบอทโรแมนติกหรืออีโรติก เป็นกลยุทธ์หลักในการดึงดูดผู้ใช้ ซึ่งได้ผลอย่างมาก บริษัทระบุว่าผู้ใช้มีการใช้งานเฉลี่ยพูดคุยกับแชตบอตถึงวันละ 2 ชั่วโมง และแม้จะประสบความสำเร็จในแง่จำนวนผู้ใช้ แต่ Character.AI ก็ถูกฟ้องในข้อหาละเมิดสิทธิผู้ใช้ที่เปราะบางตามมาเช่นกัน

ทั้งนี้ OpenAI กำลังเผชิญแรงกดดันให้ขยายฐานผู้ใช้เพิ่มเติม จากปัจจุบันที่มีผู้ใช้งานประจำรายสัปดาห์กว่า 800 ล้านคน แต่บริษัทต้องเผชิญการแข่งขันอย่างหนักจาก Google และ Meta เพื่อสร้างผลิตภัณฑ์ AI สำหรับผู้บริโภคในวงกว้าง และต้องเร่งหารายได้มาจ่ายโปรเจกต์ลงทุนโครงสร้างพื้นฐานต่างๆ ที่มีมูลค่าหลายพันล้านดอลลาร์