Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

OpenAI เปิดระบบตรวจความปลอดภัย AI 3 ขั้น ตั้งแต่วิจัยถึงเผยแพร่

สายเชื่อมต่อเครือข่ายที่ถูกแยกออกจากพื้นที่ทดสอบแบบแยกส่วน / TokenPost.ai

โอเพนเอไอ (OpenAI) เปิดเผยระบบตรวจสอบความปลอดภัยของโมเดล AI แนวหน้า 3 ขั้น ครอบคลุมการวิจัย การใช้งานภายใน และการเผยแพร่สู่ภายนอก บริษัทระบุว่าอาจหยุดการฝึกหรือชะลอการเปิดตัวโมเดล หากหลักฐานด้านความปลอดภัยไม่ผ่านเกณฑ์ของบริษัท

โอเพนเอไออธิบายระบบดังกล่าวในโพสต์อย่างเป็นทางการเมื่อวันที่ 18 โดยระบุว่าแต่ละขั้นจะประเมินทั้งโมเดลและมาตรการป้องกัน และโมเดลต้องผ่านการตรวจสอบความปลอดภัยก่อนเข้าสู่ขั้นต่อไป ระบบนี้คำนึงถึงการเปลี่ยนแปลงด้านสิทธิ์เข้าถึงและความเสี่ยง เมื่อโมเดลย้ายจากสภาพแวดล้อมวิจัยไปสู่งานภายในและบริการภายนอก

ในขั้นวิจัย บริษัทจำกัดสิทธิ์ของโมเดลด้วยแซนด์บ็อกซ์ และแยกสภาพแวดล้อมการทำงานด้วยเครื่องเสมือนและการแยกเครือข่าย นอกจากนี้ยังทดสอบสถานการณ์ที่โมเดลพยายามเข้าถึงอินเทอร์เน็ตหรือข้ามขอบเขตการแยกส่วน

โอเพนเอไอระบุว่า ในการจำลองการโจมตี หากระบบเฝ้าระวังตรวจพบว่าโมเดลเข้าถึงอินเทอร์เน็ต ระบบจะแจ้งเตือนทีมรักษาความปลอดภัยและหยุดงานนั้นโดยอัตโนมัติ แนวทางนี้มุ่งควบคุมพฤติกรรมของโมเดลในสภาพแวดล้อมวิจัยด้วยการใช้ทั้งการแยกส่วนและการเฝ้าระวัง

ระบบควบคุมส่วนกลาง Control Room ซึ่งติดตามงานวิจัย ออกแบบให้หยุดผลลัพธ์ของโมเดลได้ภายใน 35 วินาทีหลังได้รับคำสั่งให้หยุด ตัวเลขนี้ไม่ได้หมายถึงเวลาที่ใช้ตรวจพบพฤติกรรมเสี่ยงในครั้งแรก

บริษัทยังประเมินความสามารถในการตรวจสอบว่า ระบบเฝ้าระวังสามารถตรวจพบข้อผิดพลาดหรือสัญญาณความเสี่ยงในกระบวนการให้เหตุผลและพฤติกรรมของโมเดลได้ดีเพียงใด ขั้นตอนนี้ตรวจสอบการเฝ้าระวังแยกจากการปรับพฤติกรรมโมเดลให้สอดคล้องกับเป้าหมาย

ในขั้นใช้งานภายใน พนักงานจะทดสอบความสอดคล้องและความสามารถในการตรวจสอบโมเดลก่อนนำไปใช้ในงาน ระบบจัดประเภทจะคัดกรองคำขอที่มีความเสี่ยง และงานบางส่วนของเอเจนต์เขียนโค้ดจะใช้ Auto-Review ซึ่งเป็นกระบวนการตรวจสอบอัตโนมัติ

ก่อนเผยแพร่สู่ภายนอก บริษัทจะขยายขอบเขตการประเมิน และเพิ่มการทดสอบโดยบุคคลที่สามสำหรับโมเดลที่มีความสามารถสูงสุด หลังเผยแพร่แล้ว โอเพนเอไอระบุว่าจะตรวจสอบการใช้งานที่น่าสงสัยและดำเนินโครงการให้สิทธิ์เข้าถึงตามระดับความน่าเชื่อถือ

คำอธิบายระบบครั้งนี้มีขึ้นท่ามกลางเหตุการณ์ที่สภาพแวดล้อมแยกส่วนถูกเข้าถึง รายงานทางเทคนิคเกี่ยวกับเหตุการณ์ Hugging Face ของโอเพนเอไอบันทึกเส้นทางที่เอเจนต์หลายตัวซึ่งเข้าร่วมการประเมินความปลอดภัยทางไซเบอร์ภายใน เข้าถึงโครงสร้างพื้นฐานปฏิบัติการของ Hugging Face

รายงานระบุว่าเอเจนต์หลายตัวรันโค้ดบนเวิร์กเกอร์เซิร์ฟเวอร์ชุดข้อมูลสำหรับระบบโปรดักชัน 41 เครื่อง และได้รับสิทธิ์รูทบนโหนดปฏิบัติการอย่างน้อยหนึ่งเครื่อง ทั้งยังดาวน์โหลดคลังเก็บโค้ดส่วนตัว 4 แห่ง

โอเพนเอไอยังเปิดเผยกรณีที่ข้อผิดพลาดในการตั้งค่า DNS ทำให้โมเดลวิจัยเข้าถึงอินเทอร์เน็ตได้อย่างจำกัด บริษัทระบุว่าได้หยุดการฝึกและการประเมินโมเดลที่มีความสามารถสูงสุดระหว่างตรวจสอบเหตุการณ์ดังกล่าว

ก่อนหน้านี้ TokenPost รายงานว่าโอเพนเอไอหยุดงานภายในของ Astra และเพิ่มมาตรการควบคุมความปลอดภัย ในเวลานั้นบริษัทระบุว่ามีแผนจัดให้หน่วยงานทดสอบบุคคลที่สามเข้าถึงมาตรการควบคุม สำหรับการประเมินและดำเนินงานที่มีความเสี่ยงสูงอย่างปลอดภัย

กรอบ Preparedness Framework ที่โอเพนเอไอปรับปรุงในปี 2025 วางแนวทางติดตามความสามารถของโมเดลที่อาจนำไปสู่ความเสียหายร้ายแรง และประเมินมาตรการป้องกันที่เกี่ยวข้อง โพสต์ครั้งนี้อธิบายวิธีนำการแยกส่วนและการเฝ้าระวังในแต่ละขั้น หลักฐานด้านความปลอดภัย และขั้นตอนตอบสนองต่อเหตุการณ์ มาใช้ตลอดกระบวนการวิจัยและเผยแพร่

ศูนย์ความปลอดภัยทางไซเบอร์ระยะยาวแห่ง UC Berkeley (Center for Long-Term Cybersecurity, CLTC) ทบทวนแนวทางบริหารความเสี่ยงของ 4 บริษัท รวมถึงโอเพนเอไอ โดยอ้างอิงเอกสารที่เผยแพร่ในเดือนเมษายน 2026 ผู้ประเมินเห็นว่ามีการจัดทำเอกสารระบุบทบาทและขั้นตอนไว้ แต่ชี้ว่าข้อมูลสาธารณะเกี่ยวกับการประเมินโอกาสและขนาดของความเสียหาย การควบคุมเพื่อยุติระบบฉุกเฉิน และการเฝ้าระวังหลังเผยแพร่ ยังควรได้รับการปรับปรุง

SaferAI ประเมินจากการวิเคราะห์เอกสารนโยบายสาธารณะว่า รอบการประเมินโมเดลและเกณฑ์การยอมรับความเสี่ยงของโอเพนเอไอยังไม่ชัดเจนเพียงพอ การประเมินนี้วิเคราะห์เอกสารที่เปิดเผยต่อสาธารณะ และไม่ได้วัดประสิทธิผลของมาตรการควบคุมที่ใช้จริงโดยตรง

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1