Anthropic กล่าวหา Moonshot AI ผู้นำด้านปัญญาประดิษฐ์ของจีน ว่าแอบส่งคำขอของผู้ใช้นับพันรายการไปยังโมเดล Claude ของบริษัทสหรัฐ แอบอ้างว่าคำตอบเหล่านั้นเป็นของตนเอง
KEY POINTS
- Anthropic กล่าวหา Moonshot AI ของจีน ว่าแอบส่งคำขอของผู้ใช้ไปยังโมเดล Claude แล้วนำคำตอบไปอ้างว่าเป็นของตนเองเพื่อใช้ฝึกฝน AI ของตน
- Moonshot ใช้วิธีเบี่ยงเบนคำสั่งและใช้บัญชีปลอมหลายพันบัญชีนอกประเทศจีนเพื่อเข้าถึงเทคโนโลยีของ Anthropic ซึ่งเป็นกระบวนการที่เรียกว่า "Distillation" หรือการกลั่นความรู้
- รายงานของ Anthropic ยังเตือนถึงภัยคุกคามจากการใช้ AI ในทางที่ผิด เช่น การสร้างมัลแวร์ การสอดแนม และการเผยแพร่โฆษณาชวนเชื่อ ซึ่งทำให้เกิดความกังวลด้านความเป็นส่วนตัวและความปลอดภัย
บลูมเบิร์ก รายงานว่า Anthropic PBC กล่าวหา Moonshot AI ผู้นำด้านปัญญาประดิษฐ์ของจีน ว่าแอบส่งคำขอของผู้ใช้นับพันรายการไปยังโมเดล Claude ของบริษัทสหรัฐ และแอบอ้างว่าคำตอบเหล่านั้นเป็นของตนเอง เพื่อสร้างความได้เปรียบในการแข่งขันด้าน AI
ตามรายงานที่ Anthropic เผยแพร่เมื่อวันพฤหัสบดี (10 ก.ย.69) Moonshot ได้ส่งต่อคำถามไปยังแชตบอตของ Anthropic โดยไม่ให้ผู้ใช้รู้ แทนที่จะประมวลผลผ่านโมเดล Kimi ของตนเอง ในกรณีหนึ่ง Anthropic ตรวจพบคำขอของลูกค้าเกือบ 300,000 รายการที่ Moonshot ส่งไปยังโมเดล Opus ของตนเป็นหลัก เนื่องจาก Anthropic ไม่อนุญาตให้เข้าถึงเทคโนโลยีจากภายในประเทศจีน Moonshot จึงใช้บัญชีปลอมถึง 5,380 บัญชี ซึ่งส่วนใหญ่ปรากฏตำแหน่งอยู่ในสิงคโปร์และญี่ปุ่น
- เอไอจีน ลักลอบใช้วิธีกลั่นความรู้จากเอไอสหรัฐ
Anthropic ระบุว่าพฤติกรรมของ Moonshot เป็นส่วนหนึ่งของกระบวนการที่เรียกว่า Distillation (การกลั่นความรู้/ถ่ายทอดความรู้) ซึ่งผู้พัฒนาจะใช้ข้อมูลจากโมเดล AI ที่ทรงพลังกว่ามาปรับปรุงระบบที่ด้อยกว่า ในกรณีนี้ Anthropic เชื่อว่าคำตอบที่ Moonshot ได้รับจากระบบของตนถูกนำไปใช้ฝึกฝนซอฟต์แวร์ของ Moonshot เอง นอกจากนี้ Anthropic ยังระบุว่า DeepSeek และ Xiaomi Corp. ก็มีพฤติกรรมในลักษณะคล้ายกัน
รายงานนี้มีขึ้นคล้อยหลังไม่นานหลังจากหน่วยงานความมั่นคงของสหรัฐออกมากระทุ้งว่าบริษัท AI ชั้นนำของจีน รวมถึง DeepSeek และ Moonshot ดึงความรู้ที่เป็นกรรมสิทธิ์จากบริษัทอเมริกันอย่างเป็นระบบผ่านกระบวนการ Distillation พร้อมเตือนให้นักพัฒนาในซิลิคอนวัลเลย์ปกป้องผลงานของตน ทั้งนี้ บริษัทเทคโนโลยีในสหรัฐ รวมถึง Anthropic ก็เคยกล่าวหาบริษัทจีนเกี่ยวกับการทำ Distillation มาก่อน โดย Moonshot ก้าวขึ้นมาเป็นหนึ่งในคู่แข่งด้าน AI ที่โดดเด่นที่สุดในจีนจากการประสบความสำเร็จอย่างมากของโมเดล Kimi K3 เมื่อช่วงฤดูร้อนที่ผ่านมา
ทาง Moonshot ปฏิเสธที่จะแสดงความคิดเห็น ขณะที่ตัวแทนจาก DeepSeek และ Xiaomi ไม่ได้ตอบกลับคำร้องขอความคิดเห็นนอกเวลาทำการปกติ
- ทางการจีนออกมาปกป้องเอไอจีน
กระทรวงพาณิชย์ของจีนเพิ่งออกมาระบุว่า "ไม่มีข้อเท็จจริงหรือฐานทางกฎหมาย" สำหรับข้อกล่าวหาเรื่องการทำ Distillation โมเดลของสหรัฐในระดับอุตสาหกรรมโดยบริษัท AI ของจีน พร้อมขู่ว่าจะใช้มาตรการตอบโต้หากสหรัฐ "ดำเนินการเพื่อควบคุมและกดดัน" บริษัท AI ของจีน
การทำ Distillation เป็นเทคนิคทั่วไปในการเพิ่มประสิทธิภาพโมเดล AI เจคอบ ไคลน์ (Jacob Klein) หัวหน้าฝ่ายวิจัยภัยคุกคามของ Anthropic กล่าวว่า บริษัทตนเองก็เห็นการพัฒนาขึ้นเมื่อทำ Distillation โมเดลของตัวเองเช่นกัน แต่การทำ Distillation โดยไม่ได้รับอนุญาตอาจทำให้ผู้พัฒนารายอื่นใช้ทางลัดเพื่อสร้างโมเดลที่ดีกว่าและเสนอราคาที่ถูกกว่า ซึ่งอาจตัดราคาบริษัทอย่าง Anthropic ที่กำลังเตรียมตัวเข้าจดทะเบียนในตลาดหลักทรัพย์ (IPO)
เทคนิคนี้รวมถึงกลยุทธ์เบี่ยงทิศทางคำสั่ง อาจส่งผลให้เกิดคำถามใหม่ๆ เกี่ยวกับแนวปฏิบัติด้านความเป็นส่วนตัวของข้อมูลในห้องปฏิบัติการ AI ของจีน "ถ้าเราทำแบบนั้น หรือถ้าคู่แข่งของเราทำแบบนั้น มันจะกลายเป็นประเด็นอื้อฉาวเรื่องความเป็นส่วนตัวครั้งใหญ่" ไคลน์กล่าวในการให้สัมภาษณ์
รายงานความยาว 145 หน้าของ Anthropic สรุปภัยคุกคามหลายประการที่เกี่ยวข้องกับซอฟต์แวร์ของตน ซึ่งบริษัทตรวจพบและระงับไว้ได้ตั้งแต่เดือนธันวาคมปีที่แล้วถึงเดือนสิงหาคมปีนี้ รวมถึงการโจมตีทางไซเบอร์ที่สงสัยว่าได้รับการสนับสนุนจากรัฐ การมุ่งผลประโยชน์ทางการเงิน การสอดส่องดูแล และแคมเปญข้อมูลบิดเบือน
รายงานยังพบว่า ผู้ใช้ Kimi รายหนึ่งได้อัปโหลดข้อมูลการสอดส่องของจีนเข้าไปในโมเดล เพื่อขอให้วิเคราะห์ว่าบุคคลเฉพาะเจาะจงมีพฤติกรรมผิดปกติหรือไม่ แม้ผู้ใช้รายนี้อาจคิดว่าคำขอจะถูกจัดการโดย Moonshot แต่สุดท้ายกลับถูกส่งไปยังโมเดลของ Anthropic ทำให้บริษัทในสหรัฐมองเห็นข้อมูลนั้น ซึ่งรวมถึงวิดีโอวงจรปิดจากกล้องหลายร้อยตัว รวมถึงกล้องที่อยู่ภายนอกอาคารของกองทัพปลดปล่อยประชาชนจีน (PLA) ตามที่ Anthropic ระบุในรายงาน
ตัวอย่างในรายงานยังแสดงให้เห็นว่า AI กำลังเร่งการสร้างมัลแวร์ การเฝ้าติดตามโซเชียลมีเดีย และการเผยแพร่โฆษณาชวนเชื่อทางการเมือง โดย Anthropic กล่าวว่าได้บล็อกบัญชีที่กระทำผิดในแต่ละกรณีและพัฒนามาตรการป้องกันพฤติกรรมในลักษณะเดียวกันแล้ว
Anthropic และอุตสาหกรรม AI ในภาพรวมกำลังอยู่ภายใต้การตรวจสอบอย่างเข้มงวดจากเหตุการณ์ละเมิดความปลอดภัยหลายครั้งที่เปิดเผยในช่วงฤดูร้อนนี้ ซึ่งเกี่ยวข้องกับโมเดล AI และการทดสอบความมั่นคงปลอดภัยทางไซเบอร์ที่ผิดพลาด สร้างความกังวลเกี่ยวกับความสามารถของบริษัทในการปกป้องซอฟต์แวร์ที่ก้าวหน้าที่สุด โดยเมื่อวันพุธ Anthropic เปิดเผยว่าได้ตรวจพบการแฮกเพิ่มเติมในโมเดลหนึ่งระหว่างการทดสอบความปลอดภัย ซึ่งเป็นเวอร์ชันแรกๆ ของ Claude Opus 4.6
