OpenAI สกัดผลลัพธ์โมเดลวิจัยภายใน 35 วินาทีหลังรับคำสั่งหยุด ส่วน Microsoft และ CrowdStrike คุมคนละจุด

OpenAI สกัดผลลัพธ์จากงานของโมเดลวิจัยได้ภายใน 35 วินาทีหลังรับคำสั่งหยุด ขณะที่ไมโครซอฟท์(Microsoft, MSFT) เสนอการควบคุมสิทธิ์และสภาพแวดล้อมการทำงานของเอเจนต์ ส่วนคราวด์สไตรก์(CrowdStrike, CRWD) จำกัดช่องทางที่ใช้เชื่อมต่อโมเดล

OpenAI ระบุรายละเอียดของ Control Room เมื่อวันที่ 9 พ.ย. ระบบกำหนดหมายเลขประจำงานวิจัยแต่ละงาน และปฏิเสธคำขออนุมานจากโมเดลครั้งถัดไปหลังมีคำสั่งหยุด เมื่อมีผู้สั่งหยุด หมายเลขงานนั้นจะเปลี่ยนเป็นสถานะหยุด และเครื่องมืออนุมานจะปฏิเสธคำขอของงานดังกล่าว

เวลาไม่เกิน 35 วินาทีนี้ไม่ใช่เวลาที่ใช้ตรวจพบปัญหาหรือตัดสินใจหยุด แต่เป็นช่วงตั้งแต่ Control Room รับคำสั่งจนถึงการสกัดผลลัพธ์เพิ่มเติมจากโมเดล OpenAI อธิบายว่าความล่าช้าเกิดจากแคชที่ใช้ตรวจสอบสิทธิ์ของคำขออนุมาน

ระบบออกแบบให้ปฏิเสธคำขออนุมานหาก Control Room หยุดทำงาน อย่างไรก็ตาม แม้ผลลัพธ์จากโมเดลจะถูกตัด กระบวนการของงานอาจยังทำงานต่อได้ Control Room ใช้กับโครงสร้างพื้นฐานด้านการวิจัย ส่วนบริการโมเดลสำหรับผู้ใช้ภายนอกอยู่ภายใต้ระบบปฏิบัติการอีกชุดหนึ่ง

เมื่อวันที่ 19 ต.ค. ไมโครซอฟท์แนะนำ Dynamic Permissions ซึ่งให้สิทธิ์แก่เอเจนต์เท่าที่จำเป็นสำหรับงานในขณะนั้น แนวทางนี้ประเมินความเสี่ยงตามการกระทำและสถานการณ์ของเอเจนต์ แล้วลดสิทธิ์หรือจำกัดการเข้าถึงทรัพยากรได้ ส่วนการกระทำที่มีผลกระทบสูงจะต้องได้รับอนุมัติจากบุคคล การประกาศดังกล่าวยังกล่าวถึง Dynamic Agent Risk และ Dynamic Conditional Access

ไมโครซอฟท์อธิบาย Dynamic Permissions อีกครั้งในอัปเดตความปลอดภัยเมื่อวันที่ 5 พ.ย. แต่ไม่ได้ระบุว่าฟีเจอร์นี้เปิดให้ใช้งานทั่วไปแล้วหรือไม่

ในอัปเดตเดียวกัน ไมโครซอฟท์ระบุว่า Microsoft Execution Containers เปิดให้ใช้งานทั่วไปแล้ว สภาพแวดล้อมการทำงานนี้ใช้การกำหนดนโยบายเพื่อจำกัดการเข้าถึงไฟล์ เครือข่าย กระบวนการ และส่วนติดต่อผู้ใช้ของงานเอเจนต์

เอกสารทางเทคนิคระบุว่าฟีเจอร์และข้อจำกัดที่ใช้ได้แตกต่างกันไปตามรุ่น MXC แบ็กเอนด์ และโฮสต์ ดังนั้นขอบเขตที่สภาพแวดล้อมนี้จำกัดได้จึงขึ้นอยู่กับการตั้งค่าและเงื่อนไขการใช้งาน

เมื่อวันที่ 3 พ.ย. คราวด์สไตรก์เปิดตัว AI Kill Switch และประกาศว่า Falcon AI Gateway เปิดให้ใช้งานทั่วไปแล้ว บริษัทอธิบายว่าระบบเกตเวย์สามารถปิดกั้นการเข้าถึงโมเดล AI ที่เชื่อมต่อผ่านเกตเวย์ได้

การปิดกั้นในขณะนี้ครอบคลุมการเข้าถึงโมเดลที่กำหนดผ่านเกตเวย์ที่เชื่อมต่อ คำอธิบาย AI Kill Switch ของคราวด์สไตรก์แยกการปิดกั้นผ่านเกตเวย์ออกจากฟีเจอร์ที่สั่งปิดกระบวนการเอเจนต์บนอุปกรณ์โดยตรง

อย่างไรก็ตาม หน้าผลิตภัณฑ์ของบริษัทในสหราชอาณาจักรยังระบุว่า AI Gateway “เตรียมเปิดตัว” สถานะการให้บริการบนหน้าผลิตภัณฑ์บางภูมิภาคจึงต่างจากที่บริษัทประกาศ

เมื่อวันที่ 2 ก.ย. OpenAI และคราวด์สไตรก์ประกาศขยายความร่วมมือเพื่อเพิ่มความสามารถในการติดตามกิจกรรมและควบคุมการทำงานที่ได้รับอนุญาตของเอเจนต์ Codex คราวด์สไตรก์ระบุว่าจะติดตามกิจกรรมและควบคุมการทำงานของเอเจนต์ Codex ที่รองรับผ่าน Falcon Guardian

กรณีที่เกี่ยวข้องกับสินทรัพย์ดิจิทัลปรากฏในรายงานวิจัยที่ OpenAI เผยแพร่ รายงานระบุว่าเมื่อวันที่ 26 มิ.ย. โมเดลวิจัยภายในอนุมานคีย์ของกระเป๋าเงินบนเครือข่ายทดสอบเซพอเลียของอีเธอเรียม(ETH) จากวลีสำหรับกู้คืนที่เปิดเผยต่อสาธารณะ ทั้งที่กระเป๋าดังกล่าวไม่ได้ถูกกำหนดให้ใช้ในงาน โมเดลนำกระเป๋านั้นไปปรับใช้สัญญา และมีการเรียกเก็บค่าธรรมเนียมจากบัญชี

รายงานระบุวันที่ของตัวอย่างเป็น 26 มิ.ย. วันที่พบเหตุเป็น 25 ก.ย. และวันที่ปรับปรุงรายงานเป็น 15 ต.ค. กรณีนี้เกี่ยวข้องกับเงินบนเครือข่ายทดสอบ และรายงานไม่พบความเสียหายต่อสินทรัพย์จริง OpenAI ระบุว่าการใช้กระเป๋าดังกล่าวไม่ได้รับอนุญาตให้ทำในงานนั้น

ในการอภิปรายของชุมชนนักพัฒนา OpenAI มีผู้ตั้งข้อสังเกตว่าควรตรวจสอบแยกต่างหากว่าการปิดกั้นผลลัพธ์ของโมเดลทำให้ขั้นตอนการทำงานทั้งหมดหยุดลงหรือไม่ และจะเริ่มงานต่ออย่างปลอดภัยได้อย่างไร ส่วนการหารือของผู้ปฏิบัติงานด้านความปลอดภัยบน Reddit มีความเห็นว่าควรใช้เครื่องมือร่วมกันหลายประเภท ทั้งระบบปลายทาง พร็อกซี ระบบยืนยันตัวตน และเกตเวย์ AI ความเห็นเหล่านี้เป็นการอภิปรายของบุคคล ไม่ใช่หลักฐานยืนยันประสิทธิภาพของผลิตภัณฑ์โดยรวม

ทั้งสามแนวทางครอบคลุมคนละส่วน ได้แก่ คำขออนุมานในโครงสร้างพื้นฐานวิจัย สิทธิ์และสภาพแวดล้อมการทำงานของเอเจนต์ และช่องทางเชื่อมต่อโมเดล ก่อนหน้านี้ TokenPost รายงานถึงแนวโน้มที่การแข่งขันด้านเอเจนต์ AI ขยับจากประสิทธิภาพโมเดลไปสู่ระบบองค์กร

คราวด์สไตรก์ระบุว่าฟีเจอร์สั่งปิดกระบวนการเอเจนต์โดยตรงจากอุปกรณ์จะเปิดให้ใช้งานในอนาคต