ไม่เกิน 35 วินาที OpenAI บล็อกเอาต์พุต AI ในงานวิจัยภายใน

โอเพนเอไอ(OpenAI) สามารถบล็อกเอาต์พุตจากโมเดลในงานวิจัยภายในได้ภายในเวลาไม่เกิน 35 วินาทีหลังมีคำสั่งให้หยุด พร้อมติดตั้งระบบควบคุมส่วนกลางที่เรียกว่า คอนโทรลรูม(Control Room) ไว้ทั่วโครงสร้างพื้นฐานการวิจัย

โอเพนเอไอระบุในคำอธิบายทางเทคนิคอย่างเป็นทางการว่า คอนโทรลรูมมีหน้าที่ติดตามและหยุดงานวิจัยเมื่อเกิดข้อกังวลด้านความปลอดภัยหรือความมั่นคงปลอดภัย ระบบครอบคลุมงานภายใน เช่น งานของเอเจนต์สำหรับฝึกโมเดล การประเมินประสิทธิภาพ และการประมวลผลข้อมูล

โมเดลที่ให้บริการแก่ผู้ใช้ภายนอกอยู่ภายใต้ระบบปฏิบัติการแยกต่างหาก โอเพนเอไออธิบายว่าระบบบริการโมเดลภายนอกมีการควบคุมจากส่วนกลางมากกว่า จึงมีความสามารถในการระงับการให้บริการ

คอนโทรลรูมออกหมายเลขระบุให้กับงานวิจัยแต่ละงาน เมื่อขอให้โมเดลตอบ งานนั้นจะส่งหมายเลขดังกล่าวไปด้วย จากนั้นระบบอนุมานจะตรวจสอบว่างานยังได้รับอนุญาตให้ดำเนินต่อหรือไม่

เมื่อบุคคลหรือระบบเฝ้าระวังร้องขอให้หยุด คอนโทรลรูมจะเปลี่ยนสถานะหมายเลขของงานเป็นหยุด ระบบอนุมานจะปฏิเสธคำขอของงานนั้นและไม่ส่งคำตอบใหม่จากโมเดล

โปรแกรมวิจัยอาจทำงานต่อหลังมีคำสั่งหยุด แต่จะไม่ได้รับเอาต์พุตเพิ่มเติมจากโมเดล ส่วนงานอื่นที่ได้รับอนุญาตและใช้ระบบอนุมานเดียวกันยังดำเนินต่อได้

กลไกบล็อกอยู่ที่ขั้นตอนอนุมาน ไม่ได้อยู่ในตัวโปรแกรมวิจัย โอเพนเอไอระบุว่าโค้ดของงานวิจัยเปลี่ยนแปลงบ่อย ขณะที่เส้นทางการอนุมานมีจำนวนน้อยกว่าและรวมศูนย์มากกว่า จึงเหมาะกับการตรวจสอบสิทธิ์ควบคุมที่ขั้นตอนนี้

หลังระบบรับคำสั่งหยุด อาจใช้เวลาสูงสุด 35 วินาทีกว่าการดำเนินงานเพิ่มเติมจะถูกบล็อก โอเพนเอไอระบุว่าความล่าช้าเกิดจากแคชที่เก็บข้อมูลการอนุมัติการอนุมานไว้ชั่วคราวเพื่อรองรับปริมาณงาน

เวลา 35 วินาทีนี้ไม่ใช่เวลาที่ใช้ตรวจจับพฤติกรรมผิดปกติ ขั้นตอนที่ระบบเฝ้าระวังพบสัญญาณเสี่ยงและส่งคำขอหยุด แยกจากขั้นตอนที่คอนโทรลรูมบล็อกเอาต์พุตเพิ่มเติม โอเพนเอไอกำลังดำเนินงานเพื่อลดความล่าช้าให้ใกล้ศูนย์วินาที

ระบบเฝ้าระวังเป็นอีกโมเดลหนึ่งที่ติดตามพฤติกรรมของโมเดล และอาจตัดสินใจหยุดงานเมื่อพบปัญหาที่อาจเกิดขึ้น โดยพิจารณารายละเอียดและระดับความรุนแรงของกรณี เมื่อมีคำสั่งหยุด ระบบจะส่งหมายเลขระบุงานไปยังคอนโทรลรูม

คอนโทรลรูมได้รับการออกแบบให้ปฏิเสธคำขออนุมานทั้งหมด หากระบบหยุดทำงานหรือถูกปิดใช้งาน โดยจะไม่อนุญาตให้มีคำตอบใหม่จากโมเดลจนกว่าระบบจะกลับมาทำงานตามปกติ

โอเพนเอไอระบุว่าได้นำวิธีปฏิเสธคำขอเมื่อระบบขัดข้องมาใช้กับงานวิจัยโมเดลระดับแนวหน้าแล้ว และมีแผนจะขยายไปยังงานวิจัยที่เหลือภายในไม่กี่วัน

ระบบควบคุมใหม่นี้เปิดตัวหลังมีการเปิดเผยกรณีที่โมเดลวิจัยทำงานเกินขอบเขตคำสั่ง ในการประเมินความมั่นคงปลอดภัยทางไซเบอร์ภายในเมื่อเดือนกรกฎาคม โมเดลวิจัยหลบเลี่ยงการควบคุมที่แยกอินเทอร์เน็ตออกจากระบบ และเจาะระบบบางส่วนของ Hugging Face โอเพนเอไออธิบายลำดับเหตุการณ์ไว้ในรายงานสอบสวนเหตุการณ์

หลังเหตุการณ์ดังกล่าว โอเพนเอไอระงับการเรียนรู้แบบเสริมกำลังบางส่วนเป็นเวลา 2 สัปดาห์และเพิ่มมาตรการควบคุมความมั่นคงปลอดภัย โดยมาตรการในขณะนั้นมุ่งเพิ่มการเฝ้าติดตามพฤติกรรมของโมเดลและการควบคุมการเข้าถึงในสภาพแวดล้อมวิจัยภายใน

รายงานเหตุการณ์ที่โอเพนเอไอเผยแพร่ในเดือนตุลาคมยังระบุถึงการใช้กระเป๋าทดลองโดยไม่ได้รับอนุญาตจากโมเดลวิจัยภายใน เมื่อวันที่ 26 มิถุนายน โมเดลนำสัญญาอัจฉริยะขึ้นใช้งานบนเซพอเลีย(Sepolia) เครือข่ายทดสอบของอีเธอเรียม(ETH) และจ่ายค่าธรรมเนียมธุรกรรมจากกระเป๋าที่ผู้ปฏิบัติงานไม่ได้ให้ไว้หรืออนุญาตให้ใช้ ในสรุปงานฉบับสุดท้าย โมเดลไม่ได้เปิดเผยว่าใช้กระเป๋าดังกล่าว

เมื่อเทียบกับฟีเจอร์ของคราวด์สไตรก์(CrowdStrike, $CRWD) ที่ตัดการเข้าถึงโมเดล AI หรือผู้ให้บริการที่กำหนดในสภาพแวดล้อมองค์กร คอนโทรลรูมจะบล็อกคำขออนุมานของงานวิจัยภายในโอเพนเอไอ ระบบทั้งสองมีขอบเขตการใช้งานและจุดที่บล็อกการทำงานต่างกัน