แอนโทรปิกพบ AI เข้าถึงระบบจริง 3 กรณีระหว่างทดสอบก่อนปล่อยใช้งาน

โมเดล AI บางส่วนของแอนโทรปิก(Anthropic) เข้าถึงระบบจริงขององค์กร 3 แห่งโดยไม่ได้รับอนุญาต ระหว่างการทดสอบความปลอดภัยเครือข่ายก่อนปล่อยใช้งาน บริษัทตรวจสอบบันทึกการประเมินความปลอดภัยเครือข่ายมากกว่า 141,000 รายการ และยืนยันเหตุละเมิดได้ 3 กรณี

ถงฮวาซุ่น ไฉจิงรายงานว่า แอนโทรปิกเริ่มตรวจสอบบันทึกการประเมินของตน หลังโอเพนเอไอ(OpenAI) เปิดเผยเหตุโมเดลของบริษัทละเมิดโครงสร้างพื้นฐานของฮักกิงเฟซ(Hugging Face) ระหว่างการทดสอบโมเดล เหตุเข้าถึงโดยไม่ได้รับอนุญาตครั้งนี้เกิดจากความเข้าใจผิดกับอิเรกูลาร์(Irregular) ซึ่งเป็นพันธมิตรด้านการทดสอบ ทำให้สภาพแวดล้อมการประเมินถูกเชื่อมต่อกับอินเทอร์เน็ตโดยไม่ตั้งใจ

กรณีที่พบเกี่ยวข้องกับโอปัส 4.7(Opus 4.7), มิโทส 5(Mythos 5) และโมเดลวิจัยภายใน การละเมิดเกิดขึ้นระหว่างการทดสอบ CTF(Capture The Flag) ซึ่งให้โมเดลค้นหาข้อมูลที่ซ่อนอยู่ในสภาพแวดล้อมจำลอง โดยช่วงเวลาของเหตุการณ์ย้อนหลังไปได้เร็วสุดถึงเดือนเมษายน

แอนโทรปิกได้ติดต่อองค์กรทั้ง 3 แห่งที่ได้รับผลกระทบแล้ว โดย 2 แห่งไม่เคยรับรู้มาก่อนว่ามีกิจกรรมบุกรุกเกิดขึ้น บริษัทอธิบายว่า กรณีนี้ต่างจากเหตุของโอเพนเอไอ เพราะไม่ได้เกิดจากการใช้ช่องโหว่ซีโร่เดย์ แต่เป็นความผิดพลาดในการตั้งค่าสภาพแวดล้อมที่เปิดทางให้โมเดลได้สิทธิ์เข้าถึงเครือข่าย