พบการใช้ Claude ช่วยงานวิจัยแบบ gain-of-function กับไวรัสชิคุนกุนยา ซึ่งมุ่งศึกษาการเปลี่ยนแปลงที่ส่งผลต่อการแพร่เชื้อและการหลบภูมิคุ้มกัน โดยงานวิจัยมีแผนดำเนินการที่สถาบันวิจัยทางทหาร
KEY POINTS
- แอนโทรปิกตรวจพบ Claude ถูกนำไปวิจัยไวรัสชิคุนกุนยา เชื้อที่มีศักยภาพก่อการระบาดใหญ่ อาจถูกนำไปใช้พัฒนาอาวุธชีวภาพ
- Claude ถูกใช้เป็นเครื่องมือช่วยเตรียมเอกสารขอทุนสำหรับงานวิจัยประเภท gain-of-function ซึ่งเป็นการศึกษาเพื่อทำให้ไวรัสแพร่เชื้อได้ดีขึ้น หรือหลบเลี่ยงภูมิคุ้มกันได้ดีขึ้น
- งานวิจัยมีแผนจะดำเนินการที่สถาบันวิจัยทางทหาร ชี้ให้เห็นถึงความเสี่ยงที่ความรู้ทางชีววิทยาอาจถูกนำไปใช้ในทางที่อันตราย
- หลังตรวจพบการใช้งานที่อาจละเมิดมาตรการความปลอดภัย แอนโทรปิกระงับบัญชีผู้ใช้เพื่อตัดการเข้าถึงระบบ
แอนโทรปิก (Anthropic) ผู้พัฒนา Claude เปิดเผยว่า มีนักวิทยาศาสตร์นำเอไอของบริษัทไปช่วยทำงานวิจัยด้านชีววิทยาที่มีความละเอียดอ่อน โดยงานบางส่วนเกี่ยวข้องกับเชื้อก่อโรคที่มีศักยภาพทำให้เกิดการระบาดใหญ่ และอาจนำไปประยุกต์ใช้ในการพัฒนาอาวุธชีวภาพได้
หนึ่งในกรณีที่บริษัทตรวจพบเกี่ยวข้องกับการวิจัย “ไวรัสชิคุนกุนยา” (chikungunya) ซึ่งเป็นโรคที่มียุงเป็นพาหะ อาจทำให้ผู้ติดเชื้อมีไข้ ปวดตามร่างกายอย่างรุนแรง นักวิทยาศาสตร์รายหนึ่งใช้ Claude ช่วยเตรียมเอกสารสำหรับขอทุนวิจัย โดยงานที่เสนอมีเป้าหมายเพื่อศึกษาว่า การเปลี่ยนแปลงทางพันธุกรรมแบบใดของไวรัสที่จะทำให้ไวรัสแพร่เชื้อได้ดีขึ้น หรือหลบเลี่ยงระบบภูมิคุ้มกันของมนุษย์ได้
งานลักษณะนี้เกี่ยวข้องกับสิ่งที่เรียกว่า gain-of-function เป็นการศึกษาว่าเมื่อเชื้อโรคมีการเปลี่ยนแปลงคุณสมบัติบางอย่างแล้ว จะเกิดผลอย่างไร นักวิทยาศาสตร์อาจใช้วิธีนี้เพื่อทำความเข้าใจว่าไวรัสมีพฤติกรรมอย่างไร และเตรียมวิธีรับมือกับไวรัสที่อาจเปลี่ยนแปลงในอนาคต
ปัญหาคือ ความรู้จากงานวิจัยแบบเดียวกันนี้สามารถถูกนำไปใช้ได้มากกว่าหนึ่งทาง หากนำไปใช้เพื่อพัฒนาวัคซีนหรือการรักษา ก็อาจเป็นประโยชน์ต่อการแพทย์ แต่หากนำความรู้ไปใช้เพื่อเพิ่มความสามารถของเชื้อโรคให้เป็นอันตรายมากขึ้น ก็อาจก่อให้เกิดความเสี่ยงด้านความมั่นคงและสาธารณสุขได้
กรณีนี้แอนโทรปิกระบุว่า ยิ่งน่ากังวล เนื่องจากงานวิจัยที่นักวิทยาศาสตร์เสนอมีแผนจะดำเนินการที่สถาบันวิจัยทางทหาร อย่างไรก็ตาม บริษัทไม่ได้ระบุว่าสามารถพิสูจน์ได้ว่านักวิจัยมีเป้าหมายที่จะนำงานดังกล่าวไปใช้ทำอาวุธชีวภาพ เพราะจากข้อมูลที่บริษัทตรวจพบ ยังไม่สามารถระบุเจตนาสุดท้ายของนักวิจัยได้อย่างชัดเจน
แอนโทรปิกยังอธิบายว่า นี่เป็นหนึ่งในปัญหาสำคัญของงานวิจัยทางชีววิทยาที่มีความเสี่ยงสูง เพราะงานวิจัยเดียวกันอาจมีเหตุผลทางการแพทย์ที่ถูกต้อง ขณะเดียวกันก็อาจมีช่องทางให้ถูกนำไปใช้ในทางที่เป็นอันตรายได้ บริษัทจึงไม่สามารถตัดสินจากลักษณะของงานเพียงอย่างเดียวว่านักวิจัยกำลังทำสิ่งที่ผิดกฎหมายหรือกำลังพัฒนาอาวุธชีวภาพ
หลังตรวจพบการใช้งานที่เกี่ยวข้องกับการละเมิดมาตรการความปลอดภัยหรือข้อกำหนดการใช้งาน แอนโทรปิกได้ระงับบัญชีที่เกี่ยวข้องและตัดการเข้าถึงระบบในกรณีที่พบการละเมิด
การเปิดเผยครั้งนี้อยู่ในรายงานฉบับใหญ่ของแอนโทรปิกเกี่ยวกับการนำโมเดลเอไอของบริษัทไปใช้งานในทางที่ไม่เหมาะสม โดยกรณีนี้ทำให้เห็นว่า ความเสี่ยงของเอไอไม่ได้จำกัดอยู่แค่การสร้างข้อมูลเท็จหรือการนำไปใช้หลอกลวง แต่ยังเกี่ยวข้องกับการนำเอไอเข้าไปช่วยงานวิทยาศาสตร์ที่มีความซับซ้อนและมีความเสี่ยงสูงด้วย
ในกรณีนี้ Claude ไม่ได้ถูกระบุว่า เป็นผู้สร้างไวรัสหรืออาวุธชีวภาพขึ้นมาเอง แต่ถูกนำมาใช้เป็นเครื่องมือช่วยในกระบวนการทำงานของนักวิจัย ซึ่งรวมถึงการช่วยเตรียมเอกสารสำหรับขอทุนวิจัยที่เกี่ยวข้องกับการทดลองไวรัส ประเด็นที่แอนโทรปิกให้ความสำคัญจึงอยู่ที่ว่า เมื่อเอไอมีความสามารถมากขึ้น เครื่องมือเหล่านี้ก็สามารถเข้าไปช่วยงานวิจัยที่แต่เดิมต้องอาศัยผู้เชี่ยวชาญเฉพาะทางได้มากขึ้นเช่นกัน
เรื่องนี้เกิดขึ้นในช่วงเวลาเดียวกับที่ เจคอบ ค็อกซอน (Jacob Coxon) อดีตนักวิจัยของแอนโทรปิก ออกมาเตือนถึงความเสี่ยงจากการพัฒนาระบบเอไอที่มีความสามารถสูงขึ้นเรื่อยๆ โดยเขาให้สัมภาษณ์ว่า “มีความเป็นไปได้ที่เทคโนโลยีนี้จะสามารถฆ่าทุกคนได้” และย้ำว่า “นี่ไม่ใช่การพูดเกินจริง และไม่ใช่กลยุทธ์ทางการตลาด”
คำเตือนดังกล่าวเป็นการพูดถึงความเสี่ยงในภาพใหญ่ ขณะที่กรณีที่แอนโทรปิกเปิดเผยเป็นเหตุการณ์จากการใช้งานจริง ซึ่งแสดงให้เห็นว่าโมเดลเอไอสามารถเข้าไปมีส่วนร่วมกับงานวิจัยด้านชีววิทยาที่มีความละเอียดอ่อนได้แล้ว และในกรณีที่ความรู้ดังกล่าวสามารถนำไปใช้ได้ทั้งเพื่อประโยชน์ทางการแพทย์และเพื่อก่ออันตราย บริษัทจำเป็นต้องพิจารณาทั้งลักษณะของงาน วิธีการใช้งาน และความเสี่ยงที่อาจเกิดขึ้นควบคู่กันไป
อ้างอิง: New York Post BBC AP News และ The Guardian
