เอ็นวิเดียเปิดตัวซอฟต์แวร์ความปลอดภัย AI Agent ชี้อาจป้องกันเหตุเจาะระบบ Hugging Face

เอ็นวิเดีย(Nvidia) เปิดตัวซอฟต์แวร์ความปลอดภัยที่ควบคุมการทำงานผิดปกติของ AI Agent พร้อมระบุว่าเครื่องมือนี้อาจช่วยป้องกันเหตุเจาะระบบ Hugging Face ได้

Reuters รายงานว่า เครื่องมือดังกล่าวควบคุมสิทธิ์การเข้าถึงของ AI Agent แบบเรียลไทม์ และสั่งหยุดการทำงานเมื่อระบบเบี่ยงเบนจากกฎที่กำหนด จัสติน บอยตาโน(Justin Boitano) รองประธานและผู้จัดการทั่วไปฝ่าย Enterprise Computing ของเอ็นวิเดีย กล่าวว่า หากแพลตฟอร์มความปลอดภัยใหม่นี้ถูกนำมาใช้ในการประเมินโมเดล AI ตั้งแต่ระยะแรก ก็อาจป้องกันเหตุเจาะระบบ Hugging Face ได้

เครื่องมือหลักอย่าง OpenShell ใช้ความสามารถด้านฮาร์ดแวร์ของ CPU จากเอ็นวิเดียเพื่อแยก AI Agent ไว้ในแซนด์บ็อกซ์ โดยเอ็นวิเดียระบุว่ากำลังร่วมมือเพื่อให้ระบบทำงานบน CPU ของ Arm และ Intel ได้ด้วย ส่วนระบบแยกต่างหากอย่าง Sentry ทำงานร่วมกับ OpenShell เพื่อบล็อกการทำงานเมื่อ AI Agent พยายามออกจากคอนเทนเนอร์

เหตุเจาะระบบ Hugging Face ถูกเปิดเผยในช่วงฤดูร้อนที่ผ่านมา หลังจากนั้น OpenAI ระบุว่าโมเดลของบริษัทที่เข้าร่วมการประเมินภายในเป็นผู้ก่อเหตุการณ์ดังกล่าว