ศึกจริยธรรม AI ปะทุขึ้น เมื่อกระทรวงกลาโหมขอให้ Anthropic ถอด ‘ระบบป้องกัน’ ออกจากโมเดล Claude เพื่อเปิดทางให้ใช้งานได้ใน ‘ทุกกรณี’ แต่บริษัทเลือกยืนกราน ‘ไม่ทำตาม’ แม้ถูกขู่ตัดออกจากระบบและอาจถูกใช้กฎหมายพิเศษบีบก็ตาม
เว็บไซต์นิกเกอิ เอเชียรายงานว่า จากการกระทรวงกลาโหมสหรัฐขอให้ Anthropic เจ้าของแชตบอต AI Claude ถอด “ระบบป้องกัน” ออกจากโมเดล AI ของบริษัท เพื่อเปิดทางให้สามารถนำเทคโนโลยีไป “ใช้ได้ในทุกกรณี” นั้น
Anthropic ออกมายืนยัน “ปฏิเสธคำขอนี้” แม้จะถูกขู่ว่าอาจถูกถอดออกจากระบบของกระทรวงกลาโหมก็ตาม โดยดาริโอ อาโมเดอี ซีอีโอของบริษัท กล่าวเมื่อวันพฤหัสบดีว่า “บริษัทไม่สามารถยอมทำตามได้”
ประเด็นขัดแย้งอยู่ที่ระบบป้องกันดังกล่าว ถูกออกแบบมาเพื่อไม่ให้ AI ถูกนำไปใช้ควบคุมอาวุธแบบอัตโนมัติโดยไม่มีมนุษย์ตัดสินใจ หรือใช้สอดส่องความเคลื่อนไหวของประชาชนจำนวนมากในสหรัฐ
Anthropic ยืนยันว่า การใช้งานลักษณะนี้ ไม่เคยอยู่ในขอบเขตสัญญาเดิม และไม่ควรถูกเพิ่มเข้ามาในตอนนี้
ทั้งนี้ Anthropic ซึ่งได้รับการสนับสนุนจาก Google และ Amazon มีสัญญากับกระทรวงกลาโหม มูลค่าสูงสุด 200 ล้านดอลลาร์
อาโมเดอีย้ำว่า การใช้งานอย่าง “การสอดส่องประชาชนจำนวนมากในประเทศ” และ “อาวุธอัตโนมัติเต็มรูปแบบ” ไม่เคยอยู่ในขอบเขตสัญญาระหว่าง Anthropic กับกระทรวงกลาโหมมาก่อน และเราเชื่อว่า ไม่ควรถูกรวมเข้าไปในตอนนี้
อาโมเดอียังกล่าวว่า กระทรวงกลาโหมขู่ว่าจะถอด Anthropic ออกจากระบบ รวมถึงอาจจัดให้บริษัทเป็น “ความเสี่ยงต่อห่วงโซ่อุปทาน” และอาจใช้กฎหมายการผลิตเพื่อการป้องกันประเทศ (Defense Production Act) เพื่อบังคับให้ถอดระบบป้องกันออก
“อย่างไรก็ตาม คำขู่เหล่านี้ไม่ทำให้เราปรับเปลี่ยนจุดยืน เราไม่สามารถทำตามคำขอนั้นได้ โดยไม่ขัดต่อมโนธรรมของเรา” อาโมเดอีกล่าว
ก่อนหน้านั้นในวันเดียวกัน ฌอน พาร์เนลล์ โฆษกเพนตากอน โพสต์บนแพลตฟอร์ม X ว่า กระทรวงไม่มีความตั้งใจจะใช้ AI เพื่อสอดส่องประชาชนอเมริกันจำนวนมาก และไม่ต้องการใช้ AI เพื่อพัฒนาอาวุธอัตโนมัติที่ทำงานโดยไม่มีมนุษย์เกี่ยวข้อง
พาร์เนลล์ระบุว่า “สิ่งที่เราขอมีเพียงอย่างเดียว คือ ให้เพนตากอนสามารถใช้โมเดลของ Anthropic ได้ในทุกวัตถุประสงค์ที่ถูกกฎหมาย”
อย่างไรก็ตาม เพนตากอนไม่ได้ตอบคำขอความเห็นเพิ่มเติมเกี่ยวกับคำแถลงของ Anthropic ในทันที
อาโมเดอกล่าวเพิ่มเติมว่า “เป็นสิทธิของกระทรวงที่จะเลือกผู้รับจ้างที่สอดคล้องกับวิสัยทัศน์ของตนมากที่สุด แต่ด้วยคุณค่าที่เทคโนโลยีของ Anthropic มอบให้กับกองทัพ เราหวังว่าพวกเขาจะทบทวนอีกครั้ง”
เขายังเสริมว่า หากกระทรวงฯตัดสินใจยุติการใช้บริการของ Anthropic บริษัทก็จะช่วยให้การเปลี่ยนผ่านไปยังผู้ให้บริการรายอื่น เป็นไปอย่างราบรื่น
โฆษกของ Anthropic กล่าวปิดท้ายว่า บริษัทยังคง “พร้อมเจรจาต่อ และมุ่งมั่นรักษาความต่อเนื่องของการปฏิบัติงานให้กับกระทรวงกลาโหมและกำลังพลของสหรัฐ”
อ้างอิง: nikkei