OpenAI ระงับพัฒนา Astra บางส่วน หวั่นเสี่ยงไซเบอร์ระดับ 'วิกฤต'

OpenAI ประกาศระงับกิจกรรมพัฒนาภายในบางส่วนที่เกี่ยวข้องกับโมเดลปัญญาประดิษฐ์ (AI) รุ่นใหม่ 'Astra' หลังไม่สามารถตัดความเป็นไปได้ที่โมเดลนี้จะมี 'ขีดความสามารถโจมตีไซเบอร์ระดับวิกฤต' ออกไปได้

OpenAI เปิดเผยเมื่อวันที่ 7 (เวลาท้องถิ่น) ว่า จากผลการประเมินภายในและการตรวจสอบโดยผู้เชี่ยวชาญล่าสุด พบว่า Astra อาจมีขีดความสามารถด้านไซเบอร์ถึงระดับ 'วิกฤต' (Critical) ตามกรอบการเตรียมความพร้อมรับมือความเสี่ยง (Preparedness Framework) ของบริษัท ระดับดังกล่าวหมายถึงความสามารถในการค้นหาและโจมตีช่องโหว่แบบ zero-day ในระบบสำคัญจริงได้เองโดยไม่ต้องมีมนุษย์เข้าแทรกแซง หรือสามารถออกแบบและดำเนินการโจมตีไซเบอร์รูปแบบใหม่ตั้งแต่ต้นจนจบได้ด้วยตัวเองเพียงจากเป้าหมายระดับสูงเท่านั้น

OpenAI ระงับกิจกรรมภายในที่เกี่ยวข้องกับ Astra ในส่วนที่ยังไม่ผ่านมาตรฐานความปลอดภัยที่เข้มงวดขึ้นใหม่ไว้ก่อนเป็นการชั่วคราว พร้อมนำมาตรการต่างๆ มาใช้ อาทิ △จำกัดให้ทดสอบเฉพาะในสภาพแวดล้อมที่แยกออกจากระบบอื่น (isolated environment) △จำกัดสิทธิ์เข้าถึงเครือข่ายและเครื่องมือ △เข้ารหัสค่าน้ำหนักของโมเดล (model weights) △เฝ้าระวังพฤติกรรมเสี่ยงตลอดเวลา และมีแผนจะทดสอบเพิ่มเติมร่วมกับหน่วยงานภาครัฐและองค์กรด้านความปลอดภัย AI ต่อไป