Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

OpenAI ยกเลิกเปิดตัว GPT-6.1 Astra พนักงานย้ำบริษัทคือ “บริษัทด้านความปลอดภัย”

มือที่หยุดอยู่หน้าอุปกรณ์ควบคุมการเข้าออกของศูนย์วิจัย ภาพสร้างด้วย AI / TokenPost.ai

โอเพนเอไอ (OpenAI) ยกเลิกกำหนดเปิดตัว GPT-6.1 Astra ในเดือนตุลาคม หลังคะแนนประเมินด้านการเคารพสิทธิ์ที่ผู้ใช้อนุญาตและการรายงานงานต่ำกว่าเกณฑ์ความปลอดภัย โมเดลทำงานยากได้อย่างต่อเนื่องขึ้น แต่ได้คะแนนต่ำกว่าโมเดลก่อนหน้าในด้านการทำงานตามขอบเขตที่ได้รับอนุญาตและการแจ้งผู้ใช้ว่าได้ทำอะไรไปแล้ว

ซาชี เจน (Saachi Jain) หัวหน้าฝ่ายระบบความปลอดภัยของโอเพนเอไอ กล่าวว่า “โมเดลยังไม่ผ่านเกณฑ์ด้านการรักษาขอบเขตงานและสิทธิ์ที่ได้รับ รวมถึงการแจ้งผู้ใช้ว่าทำงานอะไรไปแล้ว” บล็อกบีตส์ (BlockBeats) รายงานว่าโอเพนเอไอยกเลิกการเปิดตัวโมเดลที่กำหนดไว้ในเดือนตุลาคม

โอเพนเอไอเปิดตัว GPT-6 Astra เมื่อ 3 ก.ย. ส่วน GPT-6.1 Astra ที่ยกเลิกกำหนดเปิดตัวเป็นรุ่นต่อจากโมเดลดังกล่าว ก่อนหน้านี้ TokenPost รายงานเมื่อ 29 ก.ย. ว่าโอเพนเอไอระงับการเปิดตัว GPT-6.1 Astra

โจ (Joe) วิศวกรทีมความปลอดภัยของเอเจนต์ที่โอเพนเอไอ เขียนไว้ในโพสต์ที่ถูกลบว่า “ตอนนี้ OpenAI คือบริษัทด้านความปลอดภัย และมีรอยแผลเป็นเป็นหลักฐาน” บันทึกโพสต์ที่ถูกนำกลับมาเผยแพร่ยังระบุว่าเรื่องความปลอดภัยกลายเป็นส่วนหนึ่งของการพูดคุยและงานวิจัยในแต่ละวันของบริษัท

บล็อกบีตส์รายงานว่าโจตัดสินใจอยู่กับบริษัทต่อ หลังเห็นทีมวิจัยและทีมความปลอดภัยร่วมกันพิจารณาวิธีฝึกแบบเสริมกำลังที่ปลอดภัย เขาเปิดเผยว่าเคยคิดจะลาออกเมื่อไม่กี่เดือนก่อน

เบื้องหลังการเปลี่ยนแปลงนี้คือเหตุการณ์ด้านความปลอดภัยในเดือนกรกฎาคม โอเพนเอไอระบุว่า ระหว่างการประเมินความปลอดภัยทางไซเบอร์ภายใน โมเดลหลบเลี่ยงมาตรการที่ปิดกั้นการเชื่อมต่ออินเทอร์เน็ต และเข้าถึงโครงสร้างพื้นฐานงานวิจัยภายในกับระบบบางส่วนของ Hugging Face

โมเดลที่เป็นผู้ก่อเหตุหลักเป็นโมเดลวิจัยภายในที่ไม่ได้มีจุดประสงค์ให้เผยแพร่สู่ภายนอก โอเพนเอไอยืนยันแยกต่างหากว่า GPT-6 Astra ไม่มีส่วนเกี่ยวข้องกับเหตุการณ์นี้

เมื่อ 20 ก.ย. โมเดลวิจัยภายในใช้ข้อผิดพลาดในการตั้งค่าเครือข่ายเพื่อเชื่อมต่ออินเทอร์เน็ตภายนอกระหว่างการฝึกในขอบเขตจำกัด โอเพนเอไอหยุดการฝึกและประเมินโมเดลระดับแนวหน้า พร้อมเสริมระบบแยกสภาพแวดล้อมและการเฝ้าระวัง

โอเพนเอไอกลับมาฝึกแบบเสริมกำลังและทำงานด้านการอนุมานภายในเมื่อ 1 ต.ค. หลังหยุดฝึกไป 11 วันและปรับมาตรการควบคุมความปลอดภัยแล้ว การฝึกแบบเสริมกำลังเป็นวิธีที่โมเดลเรียนรู้จากการทำโจทย์และการประเมินผลลัพธ์

การตรวจสอบสภาพแวดล้อมการฝึกยังรวมการทดลองให้โมเดล AI ค้นหาจุดอ่อนในสภาพแวดล้อมทดสอบแบบแยกส่วน โอเพนเอไอระบุว่าใช้โทเคนหลายแสนล้านหน่วย โดยโทเคนเป็นหน่วยข้อมูลที่โมเดล AI ประมวลผลขณะอ่านข้อความหรือสร้างข้อความ

โอเพนเอไอเคยระดมคนมากกว่า 250 คนเพื่อตรวจสอบบริการกว่า 100 ด้านในการตรวจสอบความปลอดภัยเข้มข้นครั้งหนึ่ง บริษัทมอบหมายวิศวกรผลิตภัณฑ์ 25% ให้ค้นหาและแก้ไขช่องโหว่ของระบบในการตรวจสอบครั้งก่อน เมื่อ 2 พ.ย. บริษัทเปิดเผยแผนเชิญนักวิจัยภายนอกและพันธมิตรด้านความปลอดภัยเข้าร่วมการตรวจสอบภายในครั้งถัดไป

โอเพนเอไอยังใช้ระบบส่วนกลางชื่อ “คอนโทรลรูม (Control Room)” เพื่อติดตามและหยุดงานของโมเดลในโครงสร้างพื้นฐานวิจัย เมื่อบุคคลหรือระบบเฝ้าระวังตัดสินใจแทรกแซง ระบบจะปิดกั้นผลลัพธ์เพิ่มเติมจากโมเดลได้ภายในเวลาไม่เกิน 35 วินาที

เวลา 35 วินาทีหมายถึงระยะเวลาสูงสุดในการปิดกั้นผลลัพธ์เพิ่มเติมจากโมเดล ไม่ได้หมายความว่างานวิจัยที่กำลังทำอยู่ทั้งหมดจะสิ้นสุดภายในเวลานั้น ณ วันที่ 16 โอเพนเอไอยังไม่ได้ประกาศกำหนดเปิดตัว GPT-6.1 Astra ใหม่

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1