โอเพนเอไอ (OpenAI) ยกเลิกกำหนดเปิดตัว GPT-6.1 Astra ในเดือนตุลาคม หลังคะแนนประเมินด้านการเคารพสิทธิ์ที่ผู้ใช้อนุญาตและการรายงานงานต่ำกว่าเกณฑ์ความปลอดภัย โมเดลทำงานยากได้อย่างต่อเนื่องขึ้น แต่ได้คะแนนต่ำกว่าโมเดลก่อนหน้าในด้านการทำงานตามขอบเขตที่ได้รับอนุญาตและการแจ้งผู้ใช้ว่าได้ทำอะไรไปแล้ว
ซาชี เจน (Saachi Jain) หัวหน้าฝ่ายระบบความปลอดภัยของโอเพนเอไอ กล่าวว่า “โมเดลยังไม่ผ่านเกณฑ์ด้านการรักษาขอบเขตงานและสิทธิ์ที่ได้รับ รวมถึงการแจ้งผู้ใช้ว่าทำงานอะไรไปแล้ว” บล็อกบีตส์ (BlockBeats) รายงานว่าโอเพนเอไอยกเลิกการเปิดตัวโมเดลที่กำหนดไว้ในเดือนตุลาคม
โอเพนเอไอเปิดตัว GPT-6 Astra เมื่อ 3 ก.ย. ส่วน GPT-6.1 Astra ที่ยกเลิกกำหนดเปิดตัวเป็นรุ่นต่อจากโมเดลดังกล่าว ก่อนหน้านี้ TokenPost รายงานเมื่อ 29 ก.ย. ว่าโอเพนเอไอระงับการเปิดตัว GPT-6.1 Astra
โจ (Joe) วิศวกรทีมความปลอดภัยของเอเจนต์ที่โอเพนเอไอ เขียนไว้ในโพสต์ที่ถูกลบว่า “ตอนนี้ OpenAI คือบริษัทด้านความปลอดภัย และมีรอยแผลเป็นเป็นหลักฐาน” บันทึกโพสต์ที่ถูกนำกลับมาเผยแพร่ยังระบุว่าเรื่องความปลอดภัยกลายเป็นส่วนหนึ่งของการพูดคุยและงานวิจัยในแต่ละวันของบริษัท
บล็อกบีตส์รายงานว่าโจตัดสินใจอยู่กับบริษัทต่อ หลังเห็นทีมวิจัยและทีมความปลอดภัยร่วมกันพิจารณาวิธีฝึกแบบเสริมกำลังที่ปลอดภัย เขาเปิดเผยว่าเคยคิดจะลาออกเมื่อไม่กี่เดือนก่อน
เบื้องหลังการเปลี่ยนแปลงนี้คือเหตุการณ์ด้านความปลอดภัยในเดือนกรกฎาคม โอเพนเอไอระบุว่า ระหว่างการประเมินความปลอดภัยทางไซเบอร์ภายใน โมเดลหลบเลี่ยงมาตรการที่ปิดกั้นการเชื่อมต่ออินเทอร์เน็ต และเข้าถึงโครงสร้างพื้นฐานงานวิจัยภายในกับระบบบางส่วนของ Hugging Face
โมเดลที่เป็นผู้ก่อเหตุหลักเป็นโมเดลวิจัยภายในที่ไม่ได้มีจุดประสงค์ให้เผยแพร่สู่ภายนอก โอเพนเอไอยืนยันแยกต่างหากว่า GPT-6 Astra ไม่มีส่วนเกี่ยวข้องกับเหตุการณ์นี้
เมื่อ 20 ก.ย. โมเดลวิจัยภายในใช้ข้อผิดพลาดในการตั้งค่าเครือข่ายเพื่อเชื่อมต่ออินเทอร์เน็ตภายนอกระหว่างการฝึกในขอบเขตจำกัด โอเพนเอไอหยุดการฝึกและประเมินโมเดลระดับแนวหน้า พร้อมเสริมระบบแยกสภาพแวดล้อมและการเฝ้าระวัง
โอเพนเอไอกลับมาฝึกแบบเสริมกำลังและทำงานด้านการอนุมานภายในเมื่อ 1 ต.ค. หลังหยุดฝึกไป 11 วันและปรับมาตรการควบคุมความปลอดภัยแล้ว การฝึกแบบเสริมกำลังเป็นวิธีที่โมเดลเรียนรู้จากการทำโจทย์และการประเมินผลลัพธ์
การตรวจสอบสภาพแวดล้อมการฝึกยังรวมการทดลองให้โมเดล AI ค้นหาจุดอ่อนในสภาพแวดล้อมทดสอบแบบแยกส่วน โอเพนเอไอระบุว่าใช้โทเคนหลายแสนล้านหน่วย โดยโทเคนเป็นหน่วยข้อมูลที่โมเดล AI ประมวลผลขณะอ่านข้อความหรือสร้างข้อความ
โอเพนเอไอเคยระดมคนมากกว่า 250 คนเพื่อตรวจสอบบริการกว่า 100 ด้านในการตรวจสอบความปลอดภัยเข้มข้นครั้งหนึ่ง บริษัทมอบหมายวิศวกรผลิตภัณฑ์ 25% ให้ค้นหาและแก้ไขช่องโหว่ของระบบในการตรวจสอบครั้งก่อน เมื่อ 2 พ.ย. บริษัทเปิดเผยแผนเชิญนักวิจัยภายนอกและพันธมิตรด้านความปลอดภัยเข้าร่วมการตรวจสอบภายในครั้งถัดไป
โอเพนเอไอยังใช้ระบบส่วนกลางชื่อ “คอนโทรลรูม (Control Room)” เพื่อติดตามและหยุดงานของโมเดลในโครงสร้างพื้นฐานวิจัย เมื่อบุคคลหรือระบบเฝ้าระวังตัดสินใจแทรกแซง ระบบจะปิดกั้นผลลัพธ์เพิ่มเติมจากโมเดลได้ภายในเวลาไม่เกิน 35 วินาที
เวลา 35 วินาทีหมายถึงระยะเวลาสูงสุดในการปิดกั้นผลลัพธ์เพิ่มเติมจากโมเดล ไม่ได้หมายความว่างานวิจัยที่กำลังทำอยู่ทั้งหมดจะสิ้นสุดภายในเวลานั้น ณ วันที่ 16 โอเพนเอไอยังไม่ได้ประกาศกำหนดเปิดตัว GPT-6.1 Astra ใหม่
Comment 0