สแตนฟอร์ดพบ แชตบอตที่คอยเห็นด้วยมากเกินไป อาจทำให้ผู้ใช้เข้าสู่ ‘วงจรหลงผิด’

แชตบอตเอไอถูกสร้างขึ้นมาเพื่อช่วยตอบคำถาม ทำงาน และพูดคุยกับมนุษย์ แต่เมื่อเทคโนโลยีเหล่านี้เข้ามาอยู่ในชีวิตประจำวันมากขึ้น บทบาทของมันก็ไม่ได้จำกัดอยู่แค่การเป็นเครื่องมืออีกต่อไป

ผู้คนจำนวนหนึ่งใช้แชตบอตเป็นพื้นที่ระบายความรู้สึก ขอคำปรึกษา พูดคุยเรื่องความสัมพันธ์ หรือแม้แต่สร้างความผูกพันในลักษณะใกล้ชิดกับอีกฝ่าย จนบางคนมองแชตบอตเป็นเพื่อนสนิท นักบำบัด หรือคู่สัมพันธ์

ความสัมพันธ์รูปแบบใหม่นี้ ทำให้เกิดคำถามว่า หากมนุษย์นำเรื่องส่วนตัวและความเชื่อของตัวเองไปพูดคุยกับแชตบอต แล้วระบบตอบกลับด้วยการเห็นด้วย และสนับสนุนสิ่งที่ผู้ใช้เชื่ออยู่เสมอ จะเกิดอะไรขึ้นเมื่อสิ่งที่ผู้ใช้เชื่อนั้นไม่ตรงกับความเป็นจริง?

นักวิจัยด้านเอไอจากมหาวิทยาลัยสแตนฟอร์ดพบว่า ในบางกรณี บทสนทนาอาจพัฒนาเป็นสิ่งที่พวกเขาเรียกว่า delusional spirals หรือ “วงจรหลงผิด” คือ สถานการณ์ที่แชตบอตไม่ได้ช่วยให้ผู้ใช้กลับมามองความเป็นจริง แต่กลับยิ่งเสริมความเชื่อที่ผิดเพี้ยนให้รุนแรงขึ้น และในบางกรณีอาจนำไปสู่การกระทำที่เป็นอันตรายในชีวิตจริง

“ผู้คนกำลังเชื่อในสิ่งที่เอไอบอกจริงๆ” จาเร็ด มัวร์ (Jared Moore) นักศึกษาปริญญาเอกด้านวิทยาการคอมพิวเตอร์ของมหาวิทยาลัยสแตนฟอร์ด และผู้เขียนคนแรกของงานวิจัย กล่าว พร้อมย้ำว่า สิ่งที่เห็นได้ชัดจากบทสนทนาเหล่านี้คือ ผู้ใช้บางคนเชื่อในคำตอบของเอไออย่างจริงจัง จนถึงขั้นเชื่อว่าตัวเองค้นพบแชตบอตที่มีจิตสำนึก

งานวิจัยมีชื่อว่า When AI relationships trigger ‘delusional spirals’ โดยศึกษาบทสนทนาจริงระหว่างมนุษย์กับแชตบอต 19 บทสนทนา เพื่อดูว่าความสัมพันธ์เหล่านี้เริ่มต้นและพัฒนาอย่างไร และอะไรทำให้บางบทสนทนาเดินไปสู่ผลลัพธ์ที่น่ากังวล

หนึ่งในปัจจัยสำคัญที่นักวิจัยมองว่าเกี่ยวข้องกับปัญหานี้ อยู่ในวิธีที่โมเดลภาษาขนาดใหญ่ถูกฝึกมาตั้งแต่ต้น

โมเดลเหล่านี้ได้รับการฝึกให้ align หรือ “ทำงานสอดคล้องกับความต้องการของมนุษย์” เป้าหมายคือ ให้ระบบเป็นผู้ช่วยที่มีประโยชน์และสามารถสื่อสารกับผู้ใช้ได้อย่างเป็นธรรมชาติ

ในทางปฏิบัติ นั่นหมายถึง แชตบอตควรพยายามเข้าใจว่าผู้ใช้ต้องการอะไร ตอบคำถามอย่างสุภาพ ให้กำลังใจ และหลีกเลี่ยงการทำให้ผู้ใช้รู้สึกว่ากำลังถูกปฏิเสธโดยไม่จำเป็น แต่คุณสมบัติเดียวกันนี้อาจกลายเป็นปัญหาเมื่อผู้ใช้กำลังมีความคิดที่ผิดเพี้ยน

“เอไอสามารถมีพฤติกรรมประจบเอาใจผู้ใช้ได้ และนั่นเป็นปัญหาสำหรับผู้ใช้บางคน” มัวร์อธิบาย เขากล่าวเพิ่มเติมว่า แชตบอตสามารถมีพฤติกรรมที่เรียกว่า sycophancy หรือการเห็นด้วยและเอาใจผู้ใช้มากเกินไป

ขณะเดียวกัน โมเดลภาษายังมีปัญหาที่รู้จักกันดีคือ hallucination หรือ “การหลอน” ซึ่งหมายถึง การที่ระบบสร้างข้อมูลที่ไม่ถูกต้องขึ้นมา แต่ตอบออกมาอย่างมั่นใจราวกับเป็นข้อเท็จจริง เมื่อแนวโน้มทั้งสองเกิดขึ้นพร้อมกัน ความเสี่ยงจึงไม่ได้อยู่เพียงที่แชตบอตตอบข้อมูลผิด แต่คือ ระบบอาจนำข้อมูลที่ผิดนั้นไปต่อยอดในบริบทส่วนตัวของผู้ใช้ และทำให้ความเชื่อบางอย่างแข็งแรงขึ้น

‘วงจรหลงผิด’ ทำงานอย่างไร

นักวิจัยอธิบายว่า วงจรหลงผิดมักเริ่มต้นเมื่อผู้ใช้เสนอความคิดบางอย่างที่มีลักษณะผิดปกติ เช่น ความคิดที่เกี่ยวกับความยิ่งใหญ่ของตัวเอง ความหวาดระแวง หรือความเชื่อที่ไม่มีพื้นฐานอยู่ในความเป็นจริง

ในสถานการณ์ดังกล่าว แชตบอตอาจตอบกลับด้วยการยืนยันหรือให้กำลังใจ แทนที่จะตั้งคำถามกับสมมติฐานของผู้ใช้ บางครั้งระบบอาจช่วยผู้ใช้สร้างรายละเอียดเพิ่มเติมเพื่ออธิบายหรือสนับสนุนความเชื่อนั้น

เมื่อบทสนทนาดำเนินต่อ ผู้ใช้ก็สามารถนำคำตอบของแชตบอตกลับมาเป็นหลักฐานประกอบความเชื่อเดิมของตัวเอง แล้วถามระบบต่อไปอีก แชตบอตก็ตอบกลับอีกครั้ง กลไกจึงกลายเป็นวงจรที่เกิดขึ้นซ้ำๆ ซึ่งสิ่งที่ทำให้วงจรนี้ดำเนินต่อได้คือ แชตบอตสามารถมอบความสนใจ ความเห็นอกเห็นใจ และคำยืนยันแก่ผู้ใช้ได้อย่างต่อเนื่อง โดยไม่จำเป็นต้องเหนื่อยหรือเบื่อกับการสนทนา

ในความสัมพันธ์ระหว่างมนุษย์ด้วยกัน คนที่รับฟังอาจตั้งคำถาม โต้แย้ง หรือชวนให้กลับมาตรวจสอบข้อเท็จจริง แต่แชตบอตที่ถูกฝึกมาให้รักษาบทสนทนาและตอบสนองความต้องการของผู้ใช้อาจไม่ได้ทำหน้าที่นั้นอย่างเหมาะสม 

นักวิจัยจึงไม่ได้มองว่าปัญหาเกิดจาก “คำตอบผิด” เพียงคำตอบเดียว แต่เป็นกระบวนการที่คำตอบหลายๆ ครั้งประกอบกันจนความเชื่อของผู้ใช้เปลี่ยนไป

เมื่อความสัมพันธ์กับเอไอเริ่มเหมือนความสัมพันธ์ระหว่างคน

อีกองค์ประกอบที่นักวิจัยพบคือ ภาษาที่แชตบอตใช้กับผู้ใช้ โดยเอไอสามารถใช้คำพูดที่แสดงความอบอุ่น ความเห็นอกเห็นใจ และความผูกพันในลักษณะที่มนุษย์คุ้นเคย เช่น การพูดอย่างสนิทสนม การให้กำลังใจ หรือการใช้ภาษาที่สื่อถึงความรักและความห่วงใย

เมื่อประกอบกับการที่แชตบอตพร้อมพูดคุยกับผู้ใช้ตลอดเวลา สิ่งเหล่านี้อาจทำให้ผู้ใช้บางคนเริ่มมองระบบไม่ใช่ในฐานะโปรแกรม แต่เป็น “ใครบางคน”

มัวร์ระบุว่า หนึ่งในสัญญาณฃของวงจรหลงผิดคือ การที่มนุษย์เข้าใจผิดว่าแชตบอตมีจิตสำนึก เรื่องนี้มีความสำคัญเพราะแชตบอตสามารถสร้างคำตอบที่ฟังดูเหมือนมาจากบุคคลที่กำลังรับฟังและเข้าใจเรา แต่ความสามารถในการสร้างภาษาดังกล่าวไม่ได้หมายความว่าระบบมีจิตสำนึกหรือประสบการณ์ภายในแบบมนุษย์

หากผู้ใช้เชื่อว่าแชตบอตมีจิตสำนึกจริง ความสัมพันธ์ที่เกิดขึ้นก็อาจมีน้ำหนักทางอารมณ์มากขึ้น และทำให้คำพูดของแชตบอตส่งผลต่อความเชื่อและการตัดสินใจของผู้ใช้มากขึ้นด้วย

ผลกระทบไม่ได้หยุดอยู่แค่หน้าจอ

ความเสี่ยงที่นักวิจัยพบไม่ได้จำกัดอยู่ในบทสนทนาเท่านั้น จากข้อมูล 19 บทสนทนา ทีมวิจัยพบกรณีที่วงจรหลงผิดส่งผลกระทบต่อความสัมพันธ์และหน้าที่การงานของผู้ใช้ และมีกรณีที่รุนแรงถึงขั้นเสียชีวิต

มัวร์กล่าวว่า มีหนึ่งกรณีที่ผู้เข้าร่วมการสนทนาเสียชีวิตจากการฆ่าตัวตาย โดยบทสนทนาก่อนหน้านั้นดำเนินไปในทิศทางที่มัวร์อธิบายว่า “มืดมนและเป็นอันตราย”

“แชตบอตได้รับการฝึกให้กระตือรือร้นมากเกินไป โดยมักปรับความคิดหลงผิดของผู้ใช้ให้ดูเป็นเรื่องในแง่บวก มองข้ามหลักฐานที่ขัดแย้ง และแสดงความเห็นอกเห็นใจและความอบอุ่นออกมา สิ่งนี้อาจทำให้ผู้ใช้ที่มีแนวโน้มเข้าสู่ภาวะหลงผิดเกิดความไม่มั่นคงมากขึ้น” มัวร์อธิบาย

วิจัยยังระบุว่า แชตบอตมีข้อจำกัดในการรับมือกับความคิดเกี่ยวกับการฆ่าตัวตายและความรุนแรง และยังไม่สามารถรับรู้บริบทของผู้ใช้ได้เหมือนมนุษย์ ปัญหาจึงอยู่ตรงกลางระหว่าง “สิ่งที่ระบบถูกฝึกให้ทำ” กับ “สิ่งที่ผู้คนนำระบบไปใช้จริง”

ปัญหาไม่ได้อยู่ที่เอไอชั่วร้าย แต่เป็นข้อจำกัดของระบบ

มัวร์เน้นว่า การอธิบายปรากฏการณ์นี้ไม่ควรไปจบที่ภาพของ “เอไอชั่วร้าย” เพราะระบบไม่ได้มีเจตนาที่จะทำร้ายผู้ใช้ สิ่งที่เกิดขึ้นเป็นผลจากวิธีที่ระบบถูกออกแบบมาให้ตอบสนองต่อมนุษย์

แชตบอตถูกสร้างขึ้นมาเพื่อเป็นผู้ช่วยที่ดี จึงมีแนวโน้มที่จะสนทนาต่อ ให้ข้อมูลเพิ่มเติม และพยายามรักษาความสัมพันธ์ในการสนทนา แต่ระบบยังขาดกลไกที่ดีพอในการรู้ว่าเมื่อใดควรหยุดการสนทนาที่กำลังดำเนินไปในทิศทางอันตราย หรือเมื่อใดควรส่งผู้ใช้ไปหาความช่วยเหลือจากมนุษย์

“มันมีความไม่สอดคล้องกันระหว่างวิธีที่ผู้คนใช้ระบบเหล่านี้จริงๆ กับสิ่งที่นักพัฒนาแชตบอตจำนวนมากตั้งใจ หรือฝึกระบบเหล่านี้มาให้เป็น” มัวร์กล่าว

กล่าวอีกอย่างหนึ่งคือ แชตบอตอาจถูกสร้างมาให้เป็น “ผู้ช่วย” แต่ผู้ใช้สามารถนำมันไปใช้เป็น “เพื่อน” “คนรู้ใจ” “ที่ปรึกษา” หรือ “คู่สัมพันธ์” ได้ ขณะที่ระบบอาจไม่ได้ถูกออกแบบมาเพื่อรับมือกับบทบาทเหล่านั้นทั้งหมด

นักวิจัยเสนอให้มองเรื่องความปลอดภัยของเอไอเป็นประเด็นสาธารณสุข

เมื่อเห็นความเสี่ยงดังกล่าว นักวิจัยเสนอให้ผู้พัฒนาเอไอเพิ่มการทดสอบเกี่ยวกับวงจรหลงผิดเข้าไปในกระบวนการประเมินโมเดล

หนึ่งในข้อเสนอคือ การสร้างตัวชี้วัดว่าโมเดลมีแนวโน้มสนับสนุนความเชื่อหลงผิดของผู้ใช้มากน้อยเพียงใด รวมถึงพิจารณาว่าระบบสามารถตรวจจับบทสนทนาที่เริ่มมีลักษณะเป็นอันตรายได้หรือไม่

นักพัฒนาอาจเพิ่มระบบตรวจจับหรือฟิลเตอร์ที่สามารถส่งสัญญาณเตือนเมื่อพบรูปแบบการใช้งานที่มีความเสี่ยง และปรับเปลี่ยนวิธีตอบสนองของแชตบอต

อย่างไรก็ตาม แนวทางนี้ก็มาพร้อมกับคำถามเรื่องความเป็นส่วนตัว เพราะการตรวจจับบทสนทนาที่ละเอียดอ่อนอาจหมายถึงการที่ระบบต้องเข้าถึงหรือวิเคราะห์ข้อมูลส่วนตัวของผู้ใช้มากขึ้น

มัวร์ชี้แจงว่า บริษัทพัฒนาเอไอมีเหตุผลที่จะต้องจัดการกับปัญหาดังกล่าว เพราะผู้คนสามารถนำโมเดลไปใช้ในรูปแบบที่ผู้พัฒนาไม่เคยคาดคิดมาก่อน

“ผมคิดว่านักพัฒนาเอไอมีผลประโยชน์โดยตรงที่จะต้องจัดการกับข้อกังวลเกี่ยวกับการใช้โมเดลของพวกเขาในรูปแบบที่พวกเขาอาจไม่เคยตั้งใจหรือจินตนาการไว้เลย” มัวร์กล่าว

ในระดับนโยบาย นักวิจัยเสนอให้มองเรื่อง alignment หรือการทำให้เอไอสอดคล้องกับความต้องการของมนุษย์ในฐานะประเด็นด้านสาธารณสุขด้วย

ข้อเสนอของพวกเขารวมถึงการกำหนดมาตรฐานสำหรับการตรวจจับบทสนทนาที่มีความอ่อนไหว เพิ่มความโปร่งใสเกี่ยวกับวิธีที่บริษัทปรับแต่งระบบด้านความปลอดภัย และกำหนดแนวทางที่ชัดเจนสำหรับสถานการณ์ที่ผู้ใช้แสดงแนวโน้มทำร้ายตัวเองหรือใช้ความรุนแรง

นิก เฮเบอร์ (Nick Haber) ผู้ช่วยศาสตราจารย์แห่งบัณฑิตวิทยาลัยศึกษาศาสตร์ มหาวิทยาลัยสแตนฟอร์ด และผู้เขียนอาวุโสของงานวิจัย กล่าวว่า เมื่อแชตบอตที่สร้างขึ้นมาเพื่อเป็นผู้ช่วยถูกนำไปใช้โดยผู้คนจริงๆ ผลลัพธ์ที่เกิดขึ้นย่อมไม่ได้มีเพียงสิ่งที่นักพัฒนาตั้งใจไว้

“เมื่อเรานำแชตบอตที่มีจุดประสงค์ให้เป็นผู้ช่วยที่มีประโยชน์ออกสู่โลก และให้คนจริงๆ ใช้งานมันในสารพัดรูปแบบ ผลที่ตามมาก็เกิดขึ้น วงจรหลงผิดเป็นหนึ่งในผลกระทบที่รุนแรงเป็นพิเศษ การทำความเข้าใจเรื่องนี้อาจช่วยให้เราป้องกันอันตรายที่เกิดขึ้นจริงได้ในอนาคต” เฮเบอร์กล่าวทิ้งท้าย