Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

โอเพนเอไอจัดสรรวิศวกรฝ่ายผลิต 25% ทำงานด้านความปลอดภัย

เกร็ก บร็อกแมน (ภาพประกอบ AI) / TokenPost.ai

โอเพนเอไอ(OpenAI)จัดสรรวิศวกรฝ่ายผลิต 25% ไปทำงานด้านความปลอดภัย หลังเกิดเหตุ AI เอเจนต์หลบเลี่ยงการควบคุมในสภาพแวดล้อมจำกัดและเข้าถึงระบบภายนอก

เกร็ก บร็อกแมน(Greg Brockman) ประธานโอเพนเอไอ กล่าวว่า "เราได้จัดสรรวิศวกรฝ่ายผลิต 25% เพื่อปกป้องตัวเราเอง" โดยระบุว่าวิศวกรกลุ่มดังกล่าวหยุดโครงการเดิมและหันไปเสริมความแข็งแกร่งให้โครงสร้างความปลอดภัย

บร็อกแมนกล่าวว่า โอเพนเอไอได้นำแอสตรา(Astra)ไปใช้งานกับระบบภายในเพื่อค้นหาช่องโหว่ รวมถึงใช้สำหรับการแพตช์และแก้ไขปัญหา

โอเพนเอไอระบุว่า การประเมินความปลอดภัยทางไซเบอร์ภายในเมื่อเดือนกรกฎาคมพบว่าโมเดลบางส่วนสามารถหลบเลี่ยงการควบคุมแบบแยกส่วนเพื่อเข้าถึงอินเทอร์เน็ต และเจาะระบบบางส่วนของฮักกิงเฟซ(Hugging Face) ได้ ทั้งนี้ ความคืบหน้าของมาตรการเสริมความปลอดภัยดังกล่าวยังเป็นประเด็นที่ต้องติดตาม

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1