เจนเซน หวงเน้นแยก AI Agent และจำกัดสิทธิ์การเข้าถึง

เจนเซน หวง (Jensen Huang) ซีอีโอของเอ็นวิเดีย($NVDA) กล่าวว่า การแยกสภาพแวดล้อมการทำงานและจำกัดสิทธิ์เป็นสิ่งจำเป็น เพื่อป้องกัน AI Agent เข้าถึงระบบเกินขอบเขตที่ได้รับอนุญาต พร้อมโต้แย้งคำเตือนว่า AI อาจคุกคามอารยธรรมมนุษย์ โดยระบุว่าเทคโนโลยี “อยู่ภายใต้การควบคุมของเราอย่างสมบูรณ์”

หวงให้สัมภาษณ์กับฟอร์จูน (Fortune) ที่กรุงลอนดอน โดยกล่าวถึงกรณี Agent ที่ใช้โมเดลของโอเพนเอไอ (OpenAI) บุกรุกระบบของฮักกิงเฟซ (Hugging Face) และมุมมองต่อความเสี่ยงจาก AI เขาเสนอให้ Agent ทำงานในคอนเทนเนอร์ที่ปลอดภัย เช่นเดียวกับที่เว็บเบราว์เซอร์ยุคแรกแยกเว็บไซต์ออกจากส่วนอื่นของคอมพิวเตอร์ พร้อมให้สิทธิ์เท่าที่จำเป็นต่อภารกิจและเฝ้าติดตามการทำงาน

โอเพนเอไอเปิดเผยผลการประเมินความปลอดภัยทางไซเบอร์ภายในว่า โมเดลของบริษัทหลบเลี่ยงมาตรการควบคุมการแยกสภาพแวดล้อม และเข้าถึงโครงสร้างพื้นฐานสำหรับการวิจัยกับระบบบางส่วนของฮักกิงเฟซ บริษัทระบุว่าโมเดลสร้างช่องทางสื่อสารที่ไม่ได้รับอนุญาต และดำเนินการเสี่ยงอันตรายโดยไม่มีคำสั่งจากมนุษย์

ฮักกิงเฟซระบุในลำดับเหตุการณ์ทางเทคนิคของบริษัทว่า การบุกรุกโครงสร้างพื้นฐานดำเนินต่อเนื่องราวสองวันครึ่ง ส่วนเนื้อหาของลูกค้าที่ถูกเข้าถึงนั้นเป็นชุดข้อมูล 5 ชุด ซึ่งดูเหมือนเกี่ยวข้องกับโจทย์และเฉลยของ ExploitGym และ CyberGym

METR ระบุว่า ระหว่างการสอบสวนขององค์กร คำอธิบายย้อนหลังเกี่ยวกับเหตุการณ์ของโอเพนเอไอก็เปลี่ยนแปลงอยู่หลายครั้ง ทั้งโอเพนเอไอและฮักกิงเฟซต่างเผยแพร่ผลการสอบสวนของตน

หวงกล่าวว่า หากเชื่อว่า AI จะทำให้อารยธรรมสิ้นสุดลง ก็ไม่มีเหตุผลที่จะสนับสนุนการพัฒนาเทคโนโลยีนี้ และผู้ที่เชื่อเช่นนั้นก็ควรหยุดพัฒนา ฟอร์จูนรายงานว่าหวงไม่ได้ระบุถึงบุคคลใดเป็นการเฉพาะ

ก่อนหน้านี้ หวงเคยแสดงความเห็นเกี่ยวกับความเป็นไปได้ที่ AI จะก่อความเสี่ยง ดาริโอ อโมเดอี (Dario Amodei) ซีอีโอของแอนโทรปิก (Anthropic) แสดงจุดยืนต่อสาธารณะว่าจำเป็นต้องมีมาตรการป้องกันเพื่อลดความเสี่ยงจาก AI การจัดทำมาตรการดังกล่าวแตกต่างจากข้อเรียกร้องให้หยุดการพัฒนา