โอเพนเอไอชะลอพัฒนาแอสตรา(Astra) หวั่นเสี่ยงไซเบอร์ระดับร้ายแรง

โอเพนเอไอ(OpenAI) ชะลอความเร็วในการพัฒนาและประเมินผลบางส่วนของโมเดลปัญญาประดิษฐ์ที่ใช้ชื่อรหัสว่า แอสตรา(Astra) หลังยอมรับอย่างเป็นทางการว่าโมเดลนี้อาจมีศักยภาพด้านไซเบอร์ในระดับที่เป็นอันตรายร้ายแรง

โอเพนเอไอระบุในบล็อกโพสต์เมื่อวันที่ 7 สิงหาคม (เวลาท้องถิ่น) ว่า ผลการประเมินภายในพบว่าแอสตรามีความก้าวหน้าอย่างชัดเจนทั้งด้านการเขียนโค้ดแบบเอเจนต์และขีดความสามารถด้านความปลอดภัยไซเบอร์ จนบริษัทไม่สามารถตัดความเป็นไปได้ที่โมเดลจะเข้าข่ายระดับ ‘ความสามารถไซเบอร์ที่เป็นอันตรายร้ายแรง’ ตามกรอบการเตรียมพร้อม (Preparedness Framework) ของตนเองได้

ต่อมาในโพสต์แยกต่างหากเมื่อวันที่ 18 สิงหาคม (เวลาท้องถิ่น) โอเพนเอไอชี้แจงว่าบริษัทใช้มาตรฐานความปลอดภัยที่เข้มงวดที่สุดกับงานทั้งหมดที่เกี่ยวข้องกับแอสตราหรือโมเดลด้านไซเบอร์ โดยงานฝึกฝนและประเมินผลบางส่วนของแอสตราผ่านมาตรฐานดังกล่าวแล้ว แต่งานส่วนใหญ่ยังถูกระงับไว้ก่อน จนกว่าจะย้ายไปสู่สภาพแวดล้อมความปลอดภัยชุดใหม่ที่เข้มงวดกว่าเดิมได้สำเร็จ

เทคครันช์(TechCrunch) รายงานเมื่อวันที่ 7 สิงหาคม (เวลาท้องถิ่น) ว่าโอเพนเอไอสั่งระงับงานบางส่วนของแอสตราหลังการตรวจสอบภายใน พร้อมกันนี้โอเพนเอไอยังยืนยันว่าแอสตราไม่มีส่วนเกี่ยวข้องกับเหตุการณ์ข้อมูลรั่วไหลที่ Hugging Face แต่อย่างใด

ยังต้องติดตามต่อไปว่าโอเพนเอไอจะย้ายงานที่เหลือของแอสตราไปยังสภาพแวดล้อมความปลอดภัยใหม่ให้ครบถ้วนเมื่อใด ก่อนจะเดินหน้าพัฒนาโมเดลต่อได้เต็มรูปแบบ