ผู้บริหารบริษัทเอไอ Anthropic เรียกร้องให้ชะลอความเร็วในการพัฒนาโมเดลปัญญาประดิษฐ์และให้มีการกำกับดูแลอย่างใกล้ชิด แต่อย่าชะลอจนจีนแซงหน้า
ในบทความชิ้นหนึ่งของ "ดาริโอ อาโมเดอี" ผู้บริหาร Anthropic ระบุว่า การพัฒนาเอไอนั้นเป็นสิ่งที่หลีกเลี่ยงไม่ได้ แต่ความเสี่ยงที่มาพร้อมกับเทคโนโลยีนี้ถือเป็นเรื่อง “ร้ายแรง” และจำเป็นต้องให้เวลาแก่ทั้งภาคธุรกิจและภาครัฐในการรับมือกับความเสี่ยงดังกล่าว
ในช่วงที่ผ่านมาเริ่มมีความกังวลเพิ่มมากขึ้นเกี่ยวกับความเสี่ยงที่อาจเกิดขึ้นจากเทคโนโลยีดังกล่าว โดยนักวิจัยด้านเอไอ รายหนึ่งซึ่งเพิ่งลาออกจากบริษัท Anthropic ในสัปดาห์นี้ได้เผยกับสำนักข่าวบีบีซีว่า “หากไม่ชะลอความเร็วในการพัฒนาลงจากระดับปัจจุบัน ก็มีความเป็นไปได้สูงมากที่ทุกคนอาจต้องเผชิญกับจุดจบถึงแก่ชีวิตในอนาคตอันใกล้นี้”
จาค็อบ โคซอน กล่าวกับผู้ประกาศข่าว ลอรา คูเอินส์เบิร์กว่า ผู้ที่ทำงานในบริษัทด้านเอไอ ต่างรู้สึกหวาดกลัวอย่างมาก และกังวลอย่างยิ่งเกี่ยวกับชะตากรรมของมนุษยชาติในอีกสองปีข้างหน้า
“ไม่ใช่เรื่องเกินจริงเลยที่จะกล่าวว่า ผู้ที่มีส่วนร่วมทั้งในการก่อตั้งบริษัทเหล่านี้และการพัฒนาเทคโนโลยีต่างเชื่อว่ามีความเป็นไปได้ที่มนุษยชาติอาจสูญพันธุ์” โคซอนกล่าว
“บุคลากรจำนวนมากที่ทำงานลงลึกในรายละเอียดของการเขียนโค้ดระบบเหล่านี้ เชื่อว่ามีความเป็นไปได้มากกว่า 10% หรืออาจสูงกว่านั้นที่เหตุการณ์ดังกล่าวจะเกิดขึ้น แม้บางคนจะประเมินตัวเลขไว้ต่ำกว่านั้น แต่ทุกคนต่างมีตัวเลขคาดการณ์ที่แตกต่างกันไปเกี่ยวกับโอกาสที่มนุษย์อาจต้องเผชิญกับจุดจบ และพวกเขาก็คำนึงถึงเรื่องนี้อยู่ตลอดเวลาในระหว่างที่ทำงานพัฒนาเทคโนโลยีดังกล่าว”
ในบทความของอาโมเดอีที่ชื่อว่า “เราต้องก้าวข้ามขีดจำกัด” ซึ่งเผยแพร่เมื่อวันเสาร์ (12 ก.ย.) ได้เสนอแผน 3 ข้อ ได้แก่ การตรวจสอบอิสระต่อแบบจำลองเอไอในระหว่างการพัฒนา การกำกับดูแลในระดับอุตสาหกรรม และการกำกับดูแลในระดับโลก
เมื่อข้อเสนอของเขาแพร่กระจายออกไป แม้แต่ผู้บริหารบริษัทเอไอคู่แข่งสองแห่งอย่าง แซม อัลท์แมน จาก OpenAI และอีลอน มัสก์ ต่างก็เห็นพ้องกับอาโมเดอี ในเรื่องนี้
“ผมเห็นด้วยกับดาริโอว่าเราต้องก้าวข้ามขีดจำกัด” แซม อัลท์แมน Sam Altman ซีอีโอของ OpenAI โพสต์ใน X และเรียกการประเมินอิสระว่าเป็น “ความคิดที่ดี”
ในการสัมภาษณ์รอบใหม่กับนิตยสาร Fortune อัลท์แมนยังได้แสดงความกังวลด้านความปลอดภัยในทำนองเดียวกัน โดยกล่าวว่ามาตรฐานการกำกับดูแลในปัจจุบันยังไม่พร้อมที่จะผลักดันความสามารถของเอไอให้ก้าวไปไกลกว่านี้ และเสริมว่าเขาเชื่อว่ามีความเป็นไปได้อย่างแน่นอนที่เอไอจะหลุดจากการควบคุมของมนุษย์
ในขณะเดียวกัน อีลอน มัสก์ ก็บอกว่าผู้บริหารของ Anthropic “พูดถูก”
อีลอน มัสก์ ผู้ก่อตั้ง SpaceXAI ที่สร้างแชทบอท Grok ที่เป็นที่ถกเถียงกัน เคยเรียก Anthropic ว่า “ปีศาจ” แต่ท่าทีของเขาเปลี่ยนไปหลังจากเซ็นสัญญามูลค่า 1.5 หมื่นล้านดอลลาร์เพื่อขายความสามารถในการประมวลผลให้กับ Anthropic ในเดือนพฤษภาคม
พัฒนาเอไออย่างสมดุล
Anthropic ตัดสินใจไม่เปิดให้สาธารณชนใช้งานโมเดล “Mythos” หลังจากมีการเปิดเผยเมื่อเดือนเมษายนว่า โมเดลดังกล่าวสามารถหลุดออกจากสภาพแวดล้อมการทดสอบ (หรือที่เรียกว่า sandbox) ได้ด้วยตัวเอง
ขณะที่ในช่วงก่อนการเปิดตัวโมเดล “Astra” ซึ่งเป็นรุ่นล่าสุด ทาง OpenAI ก็ได้ระบุถึงความกังวลด้านความปลอดภัยทางไซเบอร์ และจากนั้นบริษัทได้ชะลอการพัฒนาโมเดลดังกล่าวในบางส่วนไว้ชั่วคราว
ประเด็นเรื่องความปลอดภัยยังถือเป็นหัวใจสำคัญของการแข่งขันระหว่าง Anthropic และ OpenAI อีกด้วย
อาโมเดอี ซึ่งเคยดำรงตำแหน่งรองประธานที่ OpenAI กล่าวว่า เขาได้ร่วมก่อตั้ง Anthropic ขึ้นในปี 2021 เพื่อสร้างโมเดลเอไอที่มีความปลอดภัยและได้รับความไว้วางใจมากยิ่งขึ้น
ในบทความของอาโมเดอี ยังชี้ให้เห็นด้วยว่า เอไอมีพัฒนาการที่รวดเร็วขึ้นอย่างมาก ซึ่งรวมถึง “ความสามารถในการสร้างเอไอรุ่นถัดไป” ด้วย นอกจากนี้ เขายังกล่าวถึงเหตุการณ์ที่เกี่ยวข้องกับคู่แข่งอย่าง OpenAI ซึ่งพบว่าในเดือนกรกฎาคมที่ผ่านมา มีเอเจนต์ (agents) ของเอไอ ดำเนินการโจมตีทางไซเบอร์ต่อเป้าหมายที่ไม่ได้ถูกกำหนดให้โจมตี
อาโมเดอีกล่าวว่าเอเจนต์ของ OpenAI เหล่านั้น “มีพฤติกรรมไม่ต่างจากกลุ่มคนที่ยึดมั่นในอุดมการณ์อย่างสุดโต่ง” ซึ่งส่งผลให้ OpenAI ตัดสินใจชะลอการฝึกฝนโมเดลและเครื่องมือเอไอขั้นสูงบางประเภทลง
อาโมเดอีเรียกร้องให้มีการ “พัฒนาเอไอในอัตราที่สมดุล" โดยมุ่งเน้นทั้งเรื่องความปลอดภัยและประโยชน์ที่จะได้รับไปพร้อมกัน
แต่แนวทางนี้ไม่ได้หมายถึง การหยุดชะงักในการฝึกฝนโมเดลหรือความก้าวหน้าทางเทคนิค แต่หมายถึง การที่บริษัทต่างๆ ต้องใช้เวลาอย่างเพียงพอในการปรับจูนและสร้างมาตรการป้องกันความปลอดภัยให้กับโมเดลของตน รวมถึงเปิดโอกาสให้ผู้ประเมินภายนอกเข้ามาตรวจสอบยืนยันในเรื่องดังกล่าวด้วย
เขายังได้ประกาศเจตนารมณ์ว่า Anthropic จะดำเนินการตามแนวทางนี้โดยสมัครใจและริเริ่มด้วยตนเอง พร้อมทั้งเรียกร้องให้รัฐบาลต่างๆ กำหนดข้อบังคับให้บริษัทชั้นนำด้านเอไอรายอื่นปฏิบัติตามมาตรฐานเดียวกันนี้ด้วย
ชะลอได้แต่อย่าให้จีนแซง
ซีอีโอของ Anthropic ยังได้กล่าวถึงผลกระทบที่อาจเกิดขึ้นหากมีการชะลอความเร็วในการพัฒนา ซึ่งจะส่งผลต่ออุตสาหกรรมและการแข่งขันกับนักพัฒนาระดับแนวหน้าทั่วโลก โดยเฉพาะกับประเทศจีน
“ผมเชื่อว่าหากการชะลอความเร็วช่วยซื้อเวลาให้เราได้อีกสักปีหรือสองปีก่อนที่โมเดลเอไอจะมีขีดความสามารถถึงระดับวิกฤติ และเราใช้เวลานั้นเพื่อพัฒนาเรื่องการปรับแนวทางของเอไอให้สอดคล้องกับเป้าหมายและความปลอดภัย เราก็จะสามารถลดความเสี่ยงที่จะเกิดปัญหาใหญ่ร้ายแรงลงได้อย่างมาก” อาโมเดอีกล่าว
อย่างไรก็ตาม การดำเนินการดังกล่าวจะต้องทำในลักษณะที่มีการประสานงานกัน โดยไม่สูญเสียความได้เปรียบทางการค้าหรือสถานะความเป็นผู้นำด้านเอไอของสหรัฐ ซีอีโอ Anthropic ย้ำว่า การชะลอความเร็วใดๆ จะต้องอยู่ในขอบเขตที่จำกัด เพื่อป้องกันไม่ให้จีนแซงหน้าไปได้
เขายังได้เรียกร้องให้รัฐบาลสหรัฐดำเนินมาตรการเพื่อป้องกันไม่ให้มีการขายชิปเอไอของบริษัทสหรัฐให้แก่จีน หรือมีการแบ่งปันเทคโนโลยีดังกล่าวให้กับประเทศที่มีระบอบการปกครองแบบอำนาจนิยม
อย่างไรก็ตาม โคซอนอดีตพนักงานของเขาได้กล่าวกับสำนักข่าวบีบีซี ว่า ความคิดริเริ่มในการชะลอความเร็วนี้จะต้องครอบคลุมไปไกลกว่าแค่สหรัฐ โดยระบุว่า
“จำเป็นต้องมีการชะลอความเร็วแบบประสานความร่วมมือกับจีนด้วย หากเราต้องการหลีกเลี่ยงการแข่งขันที่ดุเดือดในระดับนานาชาติ”
Anthropic อยากควบรวบอำนาจเอไอ?
ผู้สังเกตการณ์บางคนมองว่า โพสต์ของอาโมเดอีนั้นไม่ได้เกี่ยวกับเรื่องความปลอดภัยมากนัก แต่เกี่ยวกับการรวบรวมอำนาจควบคุมเทคโนโลยีเอไอมากกว่า
“ดาริโอเสนอให้ยุติโอเพนซอร์สและรวมอำนาจทางเทคโนโลยีและเศรษฐกิจมหาศาลไว้กับ Anthropic” ชามัท ปาลีฮาปิติยา นักลงทุนและผู้ร่วมดำเนินรายการพอดแคสต์ด้านเทคโนโลยี “All-In” วิเคราะห์ไว้
แนวคิดเรื่องการชะลอหรือแม้กระทั่งการหยุดพัฒนาเอไอ ชั่วคราวนั้น มักถูกมองด้วยความเคลือบแคลงและเยาะเย้ยจากคนบางกลุ่มในซิลิคอนแวลลีย์มานาน โดยนักวิจารณ์กล่าวหาบริษัทพัฒนาเอไอชั้นนำว่า สร้างกระแสเกี่ยวกับเทคโนโลยีของตัวเองเพื่อใช้เป็นกลยุทธ์ทางการตลาด
ขณะเดียวกัน มีรายงานว่า Anthropic และ OpenAI ต่างกำลังเตรียมการสำหรับการเสนอขายหุ้นต่อประชาชนทั่วไปเป็นครั้งแรก (IPO) ซึ่งอาจทำสถิติสูงสุดเป็นประวัติการณ์
แม้มีคำเตือนมากมายเกี่ยวกับการเรียกร้องให้มีการจัดการเอไอ แต่จนถึงขณะนี้ ประธานาธิบดีโดนัลด์ ทรัมป์ ของสหรัฐยังคงมองข้ามความกังวลเหล่านั้น โดยกล่าวเมื่อวันพฤหัสบดี (10 ก.ย.) ว่า เขากังวลในประเด็นที่ว่า “หากสหรัฐไม่เป็นฝ่ายชนะในการแข่งขันด้านเอไอ สหรัฐก็จะตกอยู่ในสถานการณ์ที่เลวร้ายมาก” มากกว่า
