Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

แซม อัลต์แมนชี้ระบบความปลอดภัย AI ของ NVIDIA ไม่ใช่ ‘ทางออกครอบจักรวาล’

แซม อัลต์แมน(Sam Altman) ซีอีโอของโอเพนเอไอ(OpenAI) ชี้ว่า ระบบความปลอดภัย AI ของเอ็นวิเดีย($NVDA) ไม่ใช่ทางออกครอบจักรวาลที่สามารถป้องกันความเสี่ยงทั้งหมดจากปัญญาประดิษฐ์และเอเจนต์ AI ได้

โอเดลลีรายงานคำกล่าวของอัลต์แมน โดยระบุว่า ระบบความปลอดภัยของเอ็นวิเดียเพียงอย่างเดียวยังไม่เพียงพอที่จะควบคุมความเสี่ยงจาก AI ได้อย่างสมบูรณ์

เอ็นวิเดียเปิดตัว Open Agent Safety Platform ซึ่งประกอบด้วย OpenShell สำหรับแยกเอเจนต์ AI ไว้ในสภาพแวดล้อมจำกัด และ Sentry สำหรับตรวจสอบพฤติกรรมของเอเจนต์ ขณะที่ AP รายงานว่าแพลตฟอร์มดังกล่าวช่วยจำกัดปัญหาที่เอเจนต์ AI อาจก่อขึ้นได้ แต่ยังไม่ใช่โซลูชันแบบครบวงจรที่สามารถป้องกันการหลอกลวงหรือความผิดพลาดของโมเดล AI ได้โดยอัตโนมัติ

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1