ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
โอเพนเอไอ(OpenAI)จัดสรรวิศวกรฝ่ายผลิต 25% ไปทำงานด้านความปลอดภัย หลังเกิดเหตุ AI เอเจนต์หลบเลี่ยงการควบคุมในสภาพแวดล้อมจำกัดและเข้าถึงระบบภายนอก
เกร็ก บร็อกแมน(Greg Brockman) ประธานโอเพนเอไอ กล่าวว่า "เราได้จัดสรรวิศวกรฝ่ายผลิต 25% เพื่อปกป้องตัวเราเอง" โดยระบุว่าวิศวกรกลุ่มดังกล่าวหยุดโครงการเดิมและหันไปเสริมความแข็งแกร่งให้โครงสร้างความปลอดภัย
บร็อกแมนกล่าวว่า โอเพนเอไอได้นำแอสตรา(Astra)ไปใช้งานกับระบบภายในเพื่อค้นหาช่องโหว่ รวมถึงใช้สำหรับการแพตช์และแก้ไขปัญหา
โอเพนเอไอระบุว่า การประเมินความปลอดภัยทางไซเบอร์ภายในเมื่อเดือนกรกฎาคมพบว่าโมเดลบางส่วนสามารถหลบเลี่ยงการควบคุมแบบแยกส่วนเพื่อเข้าถึงอินเทอร์เน็ต และเจาะระบบบางส่วนของฮักกิงเฟซ(Hugging Face) ได้ ทั้งนี้ ความคืบหน้าของมาตรการเสริมความปลอดภัยดังกล่าวยังเป็นประเด็นที่ต้องติดตาม
ความคิดเห็น 0