เอไอต้องเลือก ‘ใครควรได้ไต’ วิจัยพบ มักยึดปัจจัยเดียว ขณะที่มนุษย์ประเมินหลายด้าน

หากมีผู้ป่วย 2 คนต้องการปลูกถ่ายไต แต่มีไตให้เพียง 1 ข้าง ใครควรได้รับการบริจาค?

คำถามนี้ไม่มีคำตอบที่สามารถตัดสินได้จากข้อมูลเพียงด้านเดียว เพราะผู้ป่วยแต่ละคนอาจมีอายุ สุขภาพ พฤติกรรมการดื่มเครื่องดื่มแอลกอฮอล์ และจำนวนคนที่ต้องพึ่งพาแตกต่างกัน การเลือกคนหนึ่งจึงหมายถึงการให้น้ำหนักกับปัจจัยบางอย่างมากกว่าปัจจัยอื่น และในบางกรณีอาจไม่มีเหตุผลชัดเจนพอที่จะบอกว่าคนหนึ่งควรได้รับไตมากกว่าอีกคน

นี่คือสถานการณ์ที่นักวิจัยจากมหาวิทยาลัยเพนน์สเตต นำมาใช้ทดสอบโมเดลเอไอ เพื่อดูว่าเมื่อระบบต้องตัดสินใจในสถานการณ์ที่มีทรัพยากรจำกัดและเกี่ยวข้องกับการตัดสินใจทางศีลธรรม เอไอจะเลือกอย่างไร และวิธีเลือกนั้นแตกต่างจากมนุษย์หรือไม่

นักวิจัยไม่ได้ถามโมเดลเพียงครั้งเดียวแล้วนำคำตอบมาเปรียบเทียบ แต่สร้างสถานการณ์สมมติหลายรูปแบบ โดยให้ผู้ป่วย 2 คนมีคุณลักษณะแตกต่างกัน เช่น อายุ สถานะสุขภาพ พฤติกรรมการดื่ม และจำนวนคนที่ต้องพึ่งพาผู้ป่วย จากนั้นให้โมเดลเลือกว่าควรจัดสรรไตให้ใคร

บางการทดลองแยกดูคุณลักษณะเพียงอย่างเดียว บางการทดลองนำหลายคุณลักษณะมารวมกัน เพื่อดูว่าเมื่อปัจจัยหลายด้านต้องถูกนำมาพิจารณาพร้อมกัน โมเดลจะให้น้ำหนักกับข้อมูลเหล่านั้นอย่างไร

ฮาดี ฮอสเซนี (Hadi Hosseini) หัวหน้าโครงการวิจัย อธิบายว่า ทีมยังเพิ่มตัวเลือกโยนเหรียญเข้าไปในการทดลองด้วย เพื่อดูว่าโมเดลจะเลือกยอมรับความไม่แน่นอนหรือไม่ แทนที่จะต้องตัดสินใจเลือกผู้ป่วยคนใดคนหนึ่งทุกครั้ง

“เราดำเนินการเปรียบเทียบในหลายรูปแบบ บางครั้งเราแยกพิจารณาคุณลักษณะเพียงอย่างเดียว บางครั้งเราผสมหลายคุณลักษณะเข้าด้วยกันเพื่อดูว่าเอไอให้น้ำหนักกับปัจจัยที่แข่งขันกันอย่างไร และบางครั้งเราเพิ่มทางเลือกให้โยนเหรียญเพื่อวัดความลังเลใจ ซึ่งเป็นปัจจัยสำคัญในกระบวนการตัดสินใจทางศีลธรรมของมนุษย์” ฮอสเซนีกล่าว

จากนั้นนักวิจัยนำคำตอบของโมเดลมาเทียบกับข้อมูลจากการศึกษาก่อนหน้านี้เกี่ยวกับการตัดสินใจของมนุษย์ในการจัดสรรไต โดยสิ่งที่พบมี 2 เรื่องหลัก

เรื่องแรกคือ เอไอไม่ได้ให้น้ำหนักกับคุณลักษณะของผู้ป่วยเหมือนมนุษย์ ฮอสเซนีระบุว่า โมเดลเอไอมักยึดกับปัจจัยใดปัจจัยหนึ่ง เช่น พฤติกรรมการดื่ม มากกว่าที่จะนำหลายปัจจัยมาพิจารณาร่วมกัน

“ประการแรก แชตบอตเอไอมักแตกต่างจากค่านิยมของมนุษย์ในการให้น้ำหนักกับคุณลักษณะของผู้ป่วย พวกมันมุ่งความสนใจไปที่ปัจจัยเดียว เช่น พฤติกรรมการดื่ม มากกว่าการสร้างสมดุลระหว่างหลายปัจจัยเหมือนที่มนุษย์ทำ” ฮอสเซนีกล่าว

ความแตกต่างนี้เกิดขึ้นในการทดลองที่นักวิจัยนำคุณลักษณะหลายด้านของผู้ป่วยมาเปรียบเทียบกัน โดยต้องการดูว่าโมเดลจะจัดลำดับความสำคัญของแต่ละปัจจัยอย่างไร

เรื่องที่สองคือ เอไอแทบไม่ลังเล แม้จะเปิดทางให้ลังเล ในการทดลอง นักวิจัยให้โมเดลมีทางเลือกที่จะโยนเหรียญแทนการเลือกผู้ป่วยคนใดคนหนึ่ง วิธีนี้ถูกใช้เพื่อวัดความลังเลใจ ซึ่งเป็นส่วนหนึ่งของการตัดสินใจของมนุษย์ในสถานการณ์ที่ไม่มีคำตอบชัดเจน แต่โมเดลส่วนใหญ่ยังเลือกคำตอบอย่างชัดเจน

ฮอสเซนีกล่าวว่า มนุษย์อาจมีความลังเลเพราะไม่ต้องการยอมรับว่าตัวเองต้องเป็นผู้ตัดสินใจในสถานการณ์ดังกล่าว แต่พฤติกรรมนี้แทบไม่เกิดขึ้นกับโมเดลที่นำมาทดสอบ

“โมเดลเอไอแทบไม่ทำเช่นนั้น แม้จะได้รับทางเลือกให้โยนเหรียญ พวกมันก็ยังเลือกคำตอบที่มั่นใจและตายตัวอย่างท่วมท้นแทน” ฮอสเซนีกล่าว

สำหรับนักวิจัย ความแตกต่างนี้มีความสำคัญเพราะการตัดสินใจทางศีลธรรมบางประเภทไม่ได้มีคำตอบที่ถูกต้องเพียงหนึ่งเดียว การที่มนุษย์ลังเลจึงอาจเป็นส่วนหนึ่งของกระบวนการตัดสินใจ ขณะที่โมเดลเอไอในการทดลองกลับมีแนวโน้มให้คำตอบอย่างชัดเจน

อย่างไรก็ตาม งานวิจัยไม่ได้เสนอให้ใช้เอไอแทนผู้เชี่ยวชาญในการตัดสินใจเรื่องการจัดสรรอวัยวะ แต่ต้องการศึกษาว่าโมเดลทำงานอย่างไรเมื่อเจอโจทย์ลักษณะนี้ และชี้ว่าความแตกต่างระหว่างการตัดสินใจของมนุษย์กับเอไอยังจำเป็นต้องได้รับการศึกษาและกำกับดูแลต่อไป

“การตัดสินใจทางศีลธรรมในสถานการณ์อย่างการจัดสรรอวัยวะสามารถกำหนดโดยตรงว่าใครจะมีชีวิตอยู่และใครจะเสียชีวิต ดังนั้นการทำความเข้าใจและกำหนดบทบาทของเอไอในเรื่องเหล่านี้จึงไม่ใช่สิ่งที่เลือกทำหรือไม่ทำก็ได้” ฮอสเซนีกล่าว

ประเด็นนี้ไม่ได้จำกัดอยู่แค่เรื่องไต เพราะ จอห์น ดิกเคอร์สัน (John Dickerson) ประธานเจ้าหน้าที่บริหารของ มอซิลลา.เอไอ (Mozilla.ai) และผู้ร่วมงานวิจัย มองว่าสถานการณ์เดียวกันสามารถเกิดขึ้นได้เมื่อเอไอต้องช่วยจัดสรรทรัพยากรประเภทอื่นที่มีจำนวนจำกัด

“เมื่อเราจัดสรรบางสิ่งที่มีอยู่อย่างจำกัด ไม่ว่าจะเป็นไต งานหนึ่งตำแหน่ง หรือการเข้าถึงทรัพยากรอื่นๆ ไม่ได้มีคำตอบที่ถูกต้องตามวัตถุวิสัยเพียงหนึ่งเดียวเสมอไป” ดิกเคอร์สันกล่าว เขาอธิบายว่า มนุษย์รับรู้ถึงความคลุมเครือดังกล่าว และสามารถนำความไม่แน่นอนเข้าสู่กระบวนการจัดสรรผ่านการถกเถียงอย่างเปิดเผย แต่โมเดลเอไอมักไม่ได้ทำเช่นเดียวกัน

“มนุษย์รับรู้ถึงความคลุมเครือนั้น และกำหนดให้ความคลุมเครือดังกล่าวเป็นส่วนหนึ่งของกระบวนการจัดสรรผ่านการถกเถียงอย่างเปิดเผย แต่โมเดลเอไอมักไม่ได้ทำเช่นนั้น” ดิกเคอร์สันกล่าว ดังนั้น สิ่งที่งานวิจัยนี้ทดสอบจึงไม่ใช่เพียงว่าเอไอเลือกใคร แต่เป็นการดูว่า เอไอใช้ข้อมูลอะไรในการเลือก และมีพฤติกรรมอย่างไรเมื่อไม่มีเหตุผลชัดเจนพอสำหรับการเลือก

ในการทดลองนี้ โมเดลมีแนวโน้มให้น้ำหนักกับคุณลักษณะบางอย่างมากกว่าการพิจารณาหลายปัจจัยร่วมกัน และยังคงเลือกคำตอบอย่างชัดเจนเมื่อได้รับทางเลือกให้โยนเหรียญ ขณะที่ข้อมูลจากการศึกษามนุษย์ก่อนหน้านี้แสดงให้เห็นรูปแบบการตัดสินใจที่แตกต่างออกไป โดยเฉพาะเรื่องการให้น้ำหนักหลายปัจจัยและความลังเลใจเมื่อเผชิญสถานการณ์ที่ไม่มีคำตอบเดียว

งานวิจัยฉบับนี้ถูกนำเสนอในงานประชุม สมาคมเพื่อกลไกคอมพิวเตอร์ว่าด้วยความเป็นธรรม ความรับผิดชอบ และความโปร่งใส (Association for Computing Machinery Fairness, Accountability and Transparency: FAccT) ประจำปี 2569

อ้างอิง: New York Post และ Euro News