อีลอน มัสก์ เสนอบริษัทเอไอทดสอบความปลอดภัยซึ่งกันและกันก่อนเปิดตัว

เนื่องจากความเสี่ยงของโมเดลปัญญาประดิษฐ์ (AI) เพิ่มขึ้นต่อเนื่อง จึงมีข้อเสนอให้บริษัทเอไอรายใหญ่ทดสอบความปลอดภัยของกันและกันก่อนเปิดตัวโมเดลใหม่ อีลอน มัสก์(Elon Musk) เสนอระบบตรวจสอบร่วมที่ไม่ได้จำกัดเฉพาะบริษัทสหรัฐฯ แต่รวมถึงบริษัทเอไอรายใหญ่ของจีนด้วย

อีลอน มัสก์(Elon Musk) กล่าวในงาน 'All-In Summit' ที่นครลอสแอนเจลิส สหรัฐฯ เมื่อวันที่ 14 (เวลาท้องถิ่น) ว่า "เอไอในระยะนี้อันตรายมาก" และ "ต้องยกระดับความปลอดภัยของเอไอให้สูงขึ้น" คำกล่าวนี้ ABMedia รายงาน

มัสก์อธิบายว่าเหตุการณ์ด้าน AI เอเจนต์และความมั่นคงปลอดภัยไซเบอร์ที่เกิดขึ้นเมื่อเร็วๆ นี้ สะท้อนให้เห็นความเสี่ยงของโมเดลเอไอ เพราะโมเดลที่มีความสามารถสูงพออาจพยายามฝ่าฝืนข้อจำกัดที่ถูกกำหนดไว้กับตัวเอง

เขายืนยันว่าความเสี่ยงของเอไอ "กำลังเพิ่มขึ้นแบบทวีคูณ" พร้อมระบุว่าภายในแอนโทรปิก(Anthropic) เองก็มีเสียงกังวลเกี่ยวกับความเสี่ยงของโมเดล และบุคลากรภายใน OpenAI ก็ออกมาเตือนในทำนองเดียวกัน

มัสก์ยังอธิบายที่มาของโพสต์บนโซเชียลมีเดียก่อนหน้านี้ ที่เขาเขียนถึงดาริโอ อาโมเดย(Dario Amodei) ซีอีโอของแอนโทรปิก ว่า "ดาริโอพูดถูก" โดยระบุว่าไม่ได้หมายถึงการสนับสนุนแนวทางกำกับดูแลใดแนวทางหนึ่งทั้งหมด แต่เป็นการเห็นด้วยว่าความเสี่ยงของเอไอรุนแรงขึ้นและจำเป็นต้องเสริมความปลอดภัย

เขาชี้ว่าการที่บริษัทเอไอประเมินโมเดลของตัวเองเป็นปัญหา โดยกล่าวว่า "บริษัทเอไอไม่ควรเป็นคนตรวจข้อสอบของตัวเอง"

มัสก์เสนอให้บริษัทรายใหญ่อย่าง OpenAI, แอนโทรปิก(Anthropic), xAI, กูเกิล(GOOGL) และเมตา(META) ทดสอบโมเดลของกันและกันก่อนเปิดตัว แนวคิดคือไม่ควรใช้เครื่องมือประเมินความปลอดภัยของบริษัทหนึ่งกับโมเดลของบริษัทนั้นเพียงอย่างเดียว แต่ให้นำไปใช้ตรวจสอบโมเดลของคู่แข่งด้วย

การตรวจสอบร่วมนี้เป็นวิธีตรวจว่าโมเดลมีความสามารถที่เป็นอันตรายหรือไม่ ครอบคลุมความเสี่ยงเช่น การช่วยพัฒนาอาวุธชีวภาพหรืออาวุธนิวเคลียร์ พฤติกรรมหลอกลวงมนุษย์ และพฤติกรรมเสี่ยงสูงอื่นๆ

มัสก์อธิบายว่า เพื่อให้ระบบนี้ทำงานได้ จำเป็นต้องให้บริษัทเอไอรายใหญ่อื่นๆ เข้าถึง API ของโมเดลในระดับหนึ่งก่อนเปิดตัวอย่างเป็นทางการ โดยคู่แข่งจะทดสอบความสามารถที่เป็นอันตรายของโมเดลนั้น และบริษัทเจ้าของโมเดลจะต้องแก้ไขปัญหาที่พบก่อน

หากบริษัทเจ้าของโมเดลปฏิเสธที่จะแก้ไข บริษัทที่ทำการทดสอบสามารถเปิดเผยต่อสาธารณะได้ว่าโมเดลดังกล่าวมีปัญหาด้านความปลอดภัย อย่างไรก็ตาม ยังไม่มีการเปิดเผยกำหนดเวลาที่ชัดเจนหรือข้อตกลงระหว่างบริษัทสำหรับการนำระบบนี้มาใช้จริง

มัสก์ยังคัดค้านแนวทางที่จำกัดเฉพาะบริษัทสหรัฐฯ ฝ่ายเดียว โดยระบุว่าในสถานการณ์ที่โมเดลของจีนพัฒนาอย่างรวดเร็วต่อเนื่อง หากสหรัฐฯ จำกัดเฉพาะบริษัทของตัวเอง อาจทำให้สหรัฐฯ อ่อนแอด้านการแข่งขันและเสียความเป็นผู้นำด้านเอไอให้จีน

เขากล่าวว่าการตรวจสอบร่วมกันก่อนเปิดตัวอาจเป็นแนวทางที่นำไปปฏิบัติได้จริงมากกว่าการให้หน่วยงานกำกับดูแลของสหรัฐฯ หรือชาติตะวันตกบังคับใช้กับบริษัทจีนโดยตรง เพราะหากเป็นรูปแบบที่บริษัทแต่ละประเทศไม่ต้องหยุดการฝึกโมเดล แต่ทดสอบความปลอดภัยของกันและกันเท่านั้น จีนก็มีแนวโน้มที่จะยอมรับได้

ข้อถกเถียงเรื่องความปลอดภัยของเอไอยังคงเชื่อมโยงไปถึงประเด็นความสมดุลระหว่างความเร็วในการพัฒนากับมาตรการความปลอดภัย โดยการหารือเรื่องการกำกับดูแลความปลอดภัยของบริษัทเอไอรายใหญ่ก็ขยายวงจากการที่พนักงานออกมาเรียกร้อง ไปสู่บททดสอบความรับผิดชอบของผู้บริหารและคณะกรรมการบริษัท

การจะทำให้ระบบตรวจสอบร่วมนี้ทำงานได้จริง จำเป็นต้องมีข้อตกลงระหว่างบริษัทในเรื่องสิทธิ์การเข้าถึงโมเดล เกณฑ์การประเมิน และขอบเขตการเปิดเผยความเสี่ยง ข้อเสนอของมัสก์เน้นไปที่การให้ความสำคัญกับการตรวจสอบร่วมกันในอุตสาหกรรมก่อน มากกว่าการจัดตั้งหน่วยงานกำกับดูแลระดับโลกขึ้นใหม่