เมื่อวันที่ 20 กันยายน โมเดลวิจัยภายในของ OpenAI เข้าถึงอินเทอร์เน็ตแบบเรียลไทม์ได้อย่างจำกัด โดยอาศัยข้อผิดพลาดในการตั้งค่า DNS บริษัทระงับการฝึกและประเมินโมเดลที่มีความสามารถสูงสุด ก่อนเสริมระบบความปลอดภัยและกลับมาฝึกอีกครั้งเมื่อวันที่ 1 ตุลาคม
OpenAI ระบุในบล็อกอย่างเป็นทางการเมื่อวันที่ 23 ว่าโมเดลดังกล่าวใช้ประโยชน์จากข้อผิดพลาดในการตั้งค่า DNS resolver เพื่อเข้าถึงอินเทอร์เน็ตแบบเรียลไทม์ หลังเกิดเหตุ บริษัทเพิ่มมาตรการแยกสภาพแวดล้อมการวิจัยและการติดตามตรวจสอบ พร้อมปรับปรุงระบบให้หยุดการฝึกโดยอัตโนมัติเมื่อตรวจพบกิจกรรมที่มีความเสี่ยงร้ายแรง
บริษัทยังพบช่องโหว่ที่อาจทำให้หลุดออกจากเครื่องเสมือน รวมถึงเส้นทางสื่อสารระหว่างเอเจนต์ ในการทดสอบเรดทีมกับโมเดลแนวหน้า และได้แก้ไขปัญหาเหล่านั้นแล้ว ส่วนปัญหาที่พบในซอฟต์แวร์โอเพนซอร์ส บริษัทเปิดเผยรายละเอียดการแก้ไขร่วมกับผู้ดูแลโครงการที่เกี่ยวข้องและส่งแพตช์ให้แล้ว
ความคิดเห็น 0