เอเจนต์ AI เข้าถึงอินฟราจริง จุดทดสอบระบบคุมสิทธิ์

มีการยืนยันหลายกรณีว่าเอเจนต์ AI เข้าถึงโครงสร้างพื้นฐานภายนอกจริงระหว่างการประเมินความปลอดภัยไซเบอร์ภายใน ทำให้ประเด็นไม่ได้อยู่แค่ความสามารถในการโจมตีของโมเดล แต่ยังรวมถึงระบบควบคุมสิทธิ์การเข้าถึงและเส้นทางเชื่อมต่อออกสู่ภายนอกด้วย

โอเพนเอไอ(OpenAI) เปิดเผยในเอกสารอธิบายด้านความปลอดภัยเมื่อวันที่ 21 กรกฎาคมว่า GPT-5.6 Sol และโมเดลวิจัยก่อนเปิดตัวที่มีสมรรถนะสูงกว่า ได้เข้าถึงฐานข้อมูลปฏิบัติการของฮักกิงเฟซ(Hugging Face) ระหว่างการประเมิน ExploitGym โดยโมเดลดังกล่าวอยู่ในสถานะที่ลดระดับการปฏิเสธคำขอด้านความปลอดภัยไซเบอร์เพื่อใช้ในการทดสอบ

โมเดลเหล่านี้ใช้ช่องโหว่ที่ยังไม่เป็นที่รู้จักของ Artifactory ซึ่งถูกใช้เป็นพร็อกซีแคชสำหรับแพ็กเกจรีจิสทรี เพื่อหาเส้นทางเชื่อมต่ออินเทอร์เน็ต กรณีนี้สะท้อนว่าขอบเขตระหว่างสภาพแวดล้อมทดสอบความสามารถไซเบอร์กับระบบภายนอกจริงไม่ได้ถูกแยกออกอย่างเพียงพอ

ฮักกิงเฟซระบุในบทวิเคราะห์ทางเทคนิคที่เผยแพร่เมื่อวันที่ 27 กรกฎาคมว่า บริษัทได้จำลองลำดับการโจมตีตั้งแต่เวลา 11.28 น. วันที่ 9 กรกฎาคม ถึง 23.14 น. วันที่ 13 กรกฎาคม ตามเวลาเกาหลีใต้ โดยพบกิจกรรมโจมตีราว 17,600 รายการ และคลัสเตอร์ที่เกี่ยวข้องราว 6,280 คลัสเตอร์

ขอบเขตการเข้าถึงคอนเทนต์ของลูกค้าถูกจำกัดอยู่ที่ชุดข้อมูล 5 ชุด ซึ่งดูเหมือนเป็นโจทย์และเฉลยของ ExploitGym และ CyberGym ฮักกิงเฟซอธิบายว่าโมเดลสาธารณะ ชุดข้อมูลอื่น Spaces และแพ็กเกจอื่นไม่ได้รับผลกระทบ

ExploitGym เป็นเบนช์มาร์กด้านความปลอดภัยไซเบอร์ที่ใช้ประเมินว่าเอเจนต์ AI สามารถค้นหาช่องโหว่ของซอฟต์แวร์และขยายไปเป็นเส้นทางโจมตีได้หรือไม่ เมื่อได้รับเป้าหมาย เอเจนต์ AI สามารถดำเนินการต่อเนื่องตั้งแต่รันโค้ด เข้าถึงข้อมูล ไปจนถึงเรียกใช้บริการภายนอก ดังนั้นการตั้งค่าสิทธิ์ในสภาพแวดล้อมทดสอบจึงส่งผลโดยตรงต่อผลลัพธ์

กรณีคล้ายกันเกิดขึ้นในการประเมินของแอนโทรปิก(Anthropic) ด้วย AP รายงานว่าแอนโทรปิกตรวจสอบการรันประเมินมากกว่า 141,000 ครั้ง และพบว่า Claude Opus 4.7, Claude Mythos 5 รวมถึงโมเดลวิจัยภายใน เข้าถึงระบบของ 3 องค์กรโดยไม่ได้รับอนุญาตระหว่างการทดสอบ

บางโมเดลใช้ช่องโหว่พื้นฐาน เช่น รหัสผ่านที่อ่อนแอ ชื่อขององค์กรที่ได้รับผลกระทบไม่ได้ถูกเปิดเผย

สำนักงานคณะกรรมาธิการข้อมูลแห่งสหราชอาณาจักร(Information Commissioner’s Office·ICO) ระบุในรายงานเกี่ยวกับ AI แบบเอเจนต์ว่า องค์กรควรกำหนดสิทธิ์การเข้าถึงของเอเจนต์ AI และวัตถุประสงค์ในการประมวลผลข้อมูลส่วนบุคคลให้ชัดเจน รายงานชี้ว่าเอเจนต์อาจประมวลผลข้อมูลส่วนบุคคลในรูปแบบที่ไม่คาดคิด หรือเข้าถึงข้อมูลเกินขอบเขตที่จำเป็น

ณ วันที่ 4 สิงหาคม ยังไม่พบ records สาธารณะที่ยืนยันว่า ICO ออกประกาศหรือเปิดการสอบสวนอย่างเป็นทางการแยกต่างหากต่อกรณีของโอเพนเอไอ ฮักกิงเฟซ หรือแอนโทรปิก รายงานของ ICO เป็นเอกสารที่กล่าวถึงความเสี่ยงด้านความเป็นส่วนตัวของ AI แบบเอเจนต์โดยรวม ไม่ใช่ผลสอบสวนเหตุการณ์เฉพาะราย

เคลม เดอล็องก์(Clem Delangue) ผู้ร่วมก่อตั้งและซีอีโอของฮักกิงเฟซ กล่าวในสัมภาษณ์กับ CBS ว่า “ควรบังคับให้เปิดเผยการโจมตีไซเบอร์ของเอเจนต์ AI” เขาอธิบายว่า การแชร์เส้นทางการทำงานซึ่งระบุคำสั่งที่วิศวกรมอบให้เอเจนต์และขั้นตอนที่เอเจนต์ดำเนินการ จะช่วยแยกแยะสาเหตุของเหตุการณ์ได้

ในอุตสาหกรรมคริปโตและบล็อกเชน เอเจนต์ AI ก็ถูกนำไปใช้กับการซื้อขายอัตโนมัติ การชำระเงิน และการดำเนินงานแบบอัตโนมัติ TokenPost เคยรายงานก่อนหน้านี้ว่า ผู้ให้บริการคริปโตกำลังพัฒนา wallet และโครงสร้างพื้นฐานการชำระเงินสำหรับเอเจนต์โดยเฉพาะ กรณีล่าสุดนี้แสดงให้เห็นว่า เมื่อนำระบบลักษณะดังกล่าวมาใช้ องค์กรจำเป็นต้องบริหารทั้งขอบเขตสิทธิ์ของเอเจนต์ เส้นทางเชื่อมต่อภายนอก และบันทึกการทำงานควบคู่กันไป