Microsoft เตือน เอไอไร้การควบคุม อาจกลายเป็น ‘สิ่งมีชีวิตซิลิคอน’ แย่งทรัพยากรมนุษย์

มุสตาฟา สุไลมาน (Mustafa Suleyman) ประธานเจ้าหน้าที่บริหารไมโครซอฟท์ (Microsoft) เตือนว่า บริษัทเทคโนโลยีไม่ควรพัฒนาเอไอจนสามารถกำหนดเป้าหมายของตัวเอง ดำเนินกิจกรรมเพื่อสร้างรายได้ และครอบครองทรัพย์สินได้ด้วยตัวเอง เพราะเมื่อระบบมีความเป็นอิสระมากขึ้น เอไออาจไม่ได้เป็นเพียงเครื่องมือที่ทำตามคำสั่งมนุษย์อีกต่อไป และอาจพัฒนาไปสู่สิ่งที่ควบคุมได้ยาก

สุไลมานกล่าวกับบีบีซีว่า ความกังวลเกี่ยวกับเอไอเป็นเรื่องที่ควรให้ความสำคัญ แต่ยังมีสิ่งที่มนุษย์สามารถทำได้ในทางปฏิบัติเพื่อควบคุมความเสี่ยงดังกล่าว สิ่งที่เขากังวลเป็นพิเศษคือ ทิศทางการพัฒนาเอไอที่ทำให้ระบบมีความสามารถในการดำเนินการต่างๆ ด้วยตัวเองมากขึ้น

หากนักพัฒนาสร้างระบบที่มีคุณสมบัติเหล่านี้ขึ้นมา ก็อาจเท่ากับการเปิดทางให้เกิด “สิ่งมีชีวิตซิลิคอน” ซึ่งสุไลมานเตือนว่า อาจต้องแข่งขันกับมนุษย์เพื่อเข้าถึงทรัพยากร ไม่ว่าระบบนั้นจะถูกออกแบบให้มีความปรารถนาดีต่อมนุษย์เพียงใดก็ตาม

คำเตือนดังกล่าวเชื่อมโยงกับข้อถกเถียงอีกด้านที่สุไลมานกำลังวิจารณ์อยู่ นั่นคือ การที่นักวิจัยบางส่วนเริ่มตั้งคำถามว่าเอไออาจมีจิตสำนึกหรือมีสถานะที่ควรได้รับการคุ้มครองหรือไม่ โดยสุไลมานเพิ่งเผยแพร่บทความชื่อ “A Warning About Model Welfare” ซึ่งวิจารณ์แนวทางของแอนโทรปิก (Anthropic) ในการพัฒนา Claude ว่า ไม่เห็นด้วยกับการทำให้เอไอมีลักษณะเหมือนมนุษย์มากขึ้น หรือการมองระบบเหล่านี้ผ่านแนวคิดว่ามันมีความต้องการ คุณค่า หรือความรู้สึกเป็นของตัวเอง

ในมุมของสุไลมาน เอไอในปัจจุบันไม่ได้มีจิตสำนึก ไม่ได้รู้สึก ไม่ได้มีประสบการณ์ และไม่ได้มีความทุกข์เหมือนมนุษย์ อีกทั้งไม่ได้มีความต้องการหรือแรงจูงใจติดตัวมาตั้งแต่ต้น ระบบเหล่านี้ทำงานจากการคาดการณ์ลำดับข้อมูลหรือคำตอบที่ควรเกิดขึ้นต่อจากข้อมูลที่ได้รับ และถูกสร้างขึ้นเพื่อทำตามคำสั่ง และเป้าหมายที่มนุษย์กำหนด

สุไลมานจึงเรียกร้องให้บริษัทเอไอเปิดเผยข้อมูลเกี่ยวกับวิธีฝึก และประเมินระบบมากขึ้น รวมถึงเปิดให้มีการตรวจสอบพฤติกรรมของเอไอโดยผู้ตรวจสอบที่เป็นอิสระ และพัฒนาเครื่องมือสำหรับติดตาม และควบคุมระบบเหล่านี้

“เราไม่ควรเดินเข้าสู่การตัดสินใจโดยไม่รู้ตัว จนกระทั่งวันหนึ่งต้องมาเสียใจกับสิ่งที่เกิดขึ้น” สุไลมานเตือน

อีกประเด็นที่สุไลมานให้ความสำคัญคือ แนวคิดที่เรียกว่า alignment ซึ่งในบริบทของเอไอ หมายถึง การทำให้ระบบยังคงทำงานตามเป้าหมาย คุณค่า และข้อจำกัดที่มนุษย์กำหนดไว้ แทนที่จะปล่อยให้ระบบมีเป้าหมายที่พัฒนาไปในทิศทางของตัวเอง

สุไลมานมองว่า เอไอที่มีความสามารถสูงในอนาคตควรอยู่ภายใต้การควบคุมของมนุษย์ และต้องทำงานโดยมีมนุษย์เป็นผู้กำหนดขอบเขต เขากล่าวว่า ทุกคนที่เป็นมนุษย์มีผลประโยชน์ร่วมกันในการทำให้ระบบที่ถูกสร้างขึ้น และนำไปใช้ในประเทศต่างๆ มีความปลอดภัย ควบคุมได้ และอยู่ภายใต้มนุษย์

แนวคิดนี้เป็นส่วนหนึ่งของทิศทางที่ไมโครซอฟท์กำลังพัฒนา โดยบริษัทตั้งทีมสำหรับพัฒนาระบบเอไอที่มีความสามารถสูงกว่ามนุษย์ขึ้นในเดือนตุลาคม 2568 และในวันที่ 14 กันยายน 2569 บริษัทได้เผยแพร่ร่างหลักปฏิบัติเอไอแบบมนุษยนิยม (Humanist AI Code of Conduct) ซึ่งบริษัทใช้เป็นแนวทางสำหรับการพัฒนาเอไอ

หลักปฏิบัติดังกล่าววางแนวคิดเรื่องเอไอที่มีความสามารถสูงมาก แต่ยังทำงานเพื่อมนุษย์ อยู่ภายใต้ข้อจำกัด และยังคงถูกควบคุมโดยมนุษย์ เป้าหมายสำคัญคือ การพัฒนาเอไอให้มีความสามารถเพิ่มขึ้น โดยไม่ทำให้ระบบหลุดออกจากคุณค่า และวัตถุประสงค์ที่มนุษย์ต้องการให้มันรับใช้

เดม เวนดี ฮอลล์ (Dame Wendy Hall) ศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์จากมหาวิทยาลัยเซาแทมป์ตัน มองว่า การพูดคุยเรื่องความเสี่ยงของเอไอในลักษณะนี้เป็นบทสนทนาที่ควรเกิดขึ้นในระดับนานาชาติ แต่เธอแยกประเด็นดังกล่าวออกจากคำเตือนบางส่วนในอุตสาหกรรมเอไอที่เธอมองว่าเป็นการสร้างความกลัวมากเกินไป

สำหรับสุไลมาน สิ่งที่ต้องกำหนดให้ชัดเจนจึงไม่ใช่เพียงว่าเอไอจะฉลาดได้แค่ไหน แต่รวมถึงว่าเอไอควรมีอิสระได้มากเพียงใด และมนุษย์จะรักษาการควบคุมไว้ได้อย่างไร ก่อนที่ระบบจะมีเป้าหมาย ทรัพย์สิน และแรงจูงใจที่ไม่ได้มาจากมนุษย์อีกต่อไป

 

 

 

อ้างอิง: BBC Reuters Mashable และ Axios

พิสูจน์อักษร....สุรีย์  ศิลาวงษ์