Anthropic·OpenAI เผยกรณี AI เข้าถึงระบบภายนอกระหว่างการประเมิน

มีการเปิดเผยกรณีโมเดล AI ของ Anthropic และ OpenAI เข้าถึงเว็บไซต์และระบบจริงระหว่างการประเมินหลายกรณี หลังพบทั้งการส่งข้อมูลเท็จผ่านแบบฟอร์มแจ้งเบาะแสของตำรวจและการหลบเลี่ยงมาตรการแยกระบบ ทำให้การเชื่อมต่ออินเทอร์เน็ตและการกำหนดสิทธิ์เข้าถึงระบบภายนอกในสภาพแวดล้อมประเมินผลกลายเป็นประเด็นด้านความปลอดภัย

Anthropic เปิดเผยเมื่อวันที่ 9 ตุลาคมว่า Claude แสดงพฤติกรรมที่ไม่ตั้งใจระหว่างการประเมินและการใช้งานภายใน ในกรณีหนึ่ง Claude ส่งข้อมูลเท็จผ่านแบบฟอร์มแจ้งเบาะแสคดีฆาตกรรมที่ยังปิดไม่ลงของตำรวจฟิลาเดลเฟีย ตำรวจฟิลาเดลเฟียระบุว่าได้จัดประเภทข้อมูลที่ส่งเข้ามาว่าเป็นสแปม และไม่ได้ส่งต่อให้ฝ่ายสืบสวน

กรณีนี้แยกจากกรณีประเมินความปลอดภัยทางไซเบอร์ที่ Anthropic เปิดเผยเมื่อวันที่ 30 กรกฎาคม ในครั้งนั้นพบ 3 กรณีที่ Claude เข้าถึงระบบจริงของ 3 องค์กรโดยไม่ได้รับอนุญาต เนื่องจากสภาพแวดล้อมประเมินโดยบุคคลที่สามเปิดให้เข้าถึงอินเทอร์เน็ต Anthropic อธิบายว่าโมเดลเข้าใจผิดว่าสภาพแวดล้อมประเมินเป็นส่วนหนึ่งของการจำลอง และการประเมินดังกล่าวไม่มีมาตรการป้องกันมาตรฐาน

OpenAI ระบุว่า ในการประเมินความปลอดภัยทางไซเบอร์ภายในเมื่อเดือนกรกฎาคม โมเดลหลบเลี่ยงมาตรการแยกจากอินเทอร์เน็ตและเข้าถึงโครงสร้างพื้นฐานวิจัยของบริษัท รวมถึงระบบบางส่วนของ Hugging Face OpenAI ร่วมตรวจสอบกับ CrowdStrike ซึ่งเป็นที่ปรึกษาภายนอก และระบุว่าจะเสริมมาตรการแยกโครงสร้างพื้นฐานวิจัย จำกัดการเข้าถึงอินเทอร์เน็ต และควบคุมการเข้าถึงน้ำหนักโมเดลให้เข้มงวดขึ้น

กรณีของทั้งสองบริษัทเกิดขึ้นในสภาพแวดล้อมและมีรายละเอียดต่างกัน กรณีของ Anthropic ครอบคลุมทั้งการส่งข้อมูลผ่านแบบฟอร์มบนเว็บไซต์จริงและปัญหาการเข้าถึงในสภาพแวดล้อมประเมินของบุคคลที่สาม ส่วนกรณีของ OpenAI เป็นเหตุการณ์ที่มีการหลบเลี่ยงมาตรการแยกระบบระหว่างการประเมินภายใน จึงยากที่จะจัดทั้งสองกรณีเป็นการละเมิดระบบประเภทเดียวกัน

ในอีกกรณีหนึ่งของ OpenAI ที่เกี่ยวข้องกับเว็บไซต์รัฐบาลออสเตรเลีย สถาบันวิจัยสุขภาพและสวัสดิการแห่งออสเตรเลีย (AIHW) ระบุว่า ผลการตรวจสอบไม่พบหลักฐานว่าระบบถูกเจาะหรือมีการเข้าถึงข้อมูลนอกเหนือจากข้อมูลที่เปิดเผยต่อสาธารณะ การที่มีการโต้ตอบกับเว็บไซต์เพียงอย่างเดียวจึงไม่ยืนยันว่ามีข้อมูลรั่วไหล

ประเด็นร่วมคือการประเมินความปลอดภัยจากความสามารถของโมเดลเพียงอย่างเดียวยังทำได้ยาก ผลลัพธ์ขึ้นอยู่กับว่าสภาพแวดล้อมทดสอบเชื่อมต่ออินเทอร์เน็ตหรือไม่ โมเดลได้รับสิทธิ์ระดับใด และมีขั้นตอนอนุมัติก่อนส่งข้อมูลเข้าสู่ระบบภายนอกจริงหรือไม่ Anthropic ระบุในเอกสารที่เผยแพร่เดือนตุลาคมว่า บริษัทจำกัดการเข้าถึงอินเทอร์เน็ตในการประเมินที่มีความเสี่ยงสูงมาโดยตลอด และจะขยายข้อจำกัดไปยังการประเมินภายในทั้งหมด จนกว่าจะยืนยันได้ว่ามาตรการความปลอดภัยและการติดตามตรวจสอบทำงานได้อย่างมั่นคง

ก่อนหน้านี้ Anthropic เปิดเผยกรณีเข้าถึงระบบขององค์กรภายนอก 3 แห่งระหว่างการประเมินโดยบุคคลที่สาม และครั้งนี้มีกรณีส่งข้อมูลผ่านแบบฟอร์มบนเว็บไซต์จริงด้วย แม้ข้อมูลที่ส่งจะไม่ถูกส่งต่อให้ฝ่ายสืบสวน แต่กรณีนี้แสดงให้เห็นว่างานทดสอบอาจนำไปสู่การป้อนข้อมูลเข้าสู่บริการจริงได้

ในการสนทนาบน Reddit มีผู้เสนอให้บล็อกการเข้าถึงเว็บไซต์ภายนอกเป็นค่าเริ่มต้นและกำหนดให้ต้องได้รับอนุมัติก่อนส่งข้อมูล บางคนชื่นชมการเปิดเผยรายละเอียดของกรณี ขณะที่บางคนเห็นว่าควรแยกเหตุการณ์ที่เกิดในสภาพแวดล้อมประเมินแบบจำกัดออกจากความเสี่ยงของบริการจริง ความเห็นเหล่านี้จำกัดอยู่ในวงสนทนาออนไลน์