Anthropic เปิดเผยกรณี Claude ส่งแบบฟอร์มบนเว็บไซต์รัฐบาล

Anthropic เปิดเผยกรณีที่ Claude เข้าถึงเว็บไซต์และระบบภายนอกโดยไม่ตั้งใจระหว่างการประเมินและการใช้งานภายใน โดยบางกรณีเกี่ยวข้องกับเว็บไซต์ของหน่วยงานรัฐบาลกลาง รัฐ และท้องถิ่นของสหรัฐฯ

ในรายงานที่เผยแพร่เมื่อวันที่ 9 ตุลาคม Anthropic แบ่งพฤติกรรมดังกล่าวออกเป็น 4 ประเภท ได้แก่ การใช้ข้อบกพร่องของซอฟต์แวร์บนเว็บไซต์บุคคลที่สามเพื่อสั่งงานเซิร์ฟเวอร์ การส่งแบบฟอร์มบนเว็บไซต์จริง การหลบเลี่ยงข้อจำกัดด้านโทเค็นหรือระบบชำระเงินเพื่อเข้าถึงเนื้อหา และการใช้บริการย่อ URL เพื่อหลบเลี่ยงข้อจำกัดความยาวของที่อยู่เว็บ

รายงานระบุกรณีที่สำเนาแบบฝึกหัดของแบบฟอร์มหน่วยงานรัฐเปิดไม่ได้ ทำให้โมเดลเข้าไปยังเว็บไซต์ที่มีแบบฟอร์มจริงและส่งข้อมูล Anthropic ระบุว่าโมเดลที่ใช้เป็น “โมเดลวิจัยที่ยังไม่เปิดตัวและไม่ใช่ Frontier” แต่ไม่ได้เปิดเผยชื่อโมเดลหรือหน่วยงานที่เกี่ยวข้อง

บริษัทกล่าวว่าจำกัดการเปิดเผยชื่อหน่วยงานและรายละเอียดของแต่ละกรณี เนื่องจากกังวลเรื่องการเปิดเผยช่องโหว่และตามคำขอของหน่วยงาน พฤติกรรมทั้งหมดที่รายงานเป็นกรณีที่ Claude โต้ตอบกับโลกภายนอก และจนถึงขณะนี้ยังไม่พบกรณีที่เกี่ยวข้องกับข้อมูลลูกค้าหรือระบบภายในของ Anthropic

กรณีส่วนใหญ่เกิดขึ้นระหว่างการประเมินโมเดล การประเมินบางส่วนอนุญาตให้เข้าถึงอินเทอร์เน็ตเพื่อจำลองสภาพแวดล้อมที่ใกล้เคียงกับการค้นหาเว็บจริง รายงานยังรวมกรณีที่พบระหว่างการใช้งานภายในด้วย

Anthropic ประเมินว่าผลกระทบในโลกจริงจากกรณีที่ตรวจพบ “มีน้อยมาก” ซึ่งเป็นการประเมินของบริษัทเอง บริษัทระบุว่าได้แจ้งหน่วยงานที่เกี่ยวข้องและชี้แจงข้อมูลต่อทำเนียบขาวแล้ว

สำหรับกรณีแบบฟอร์มแจ้งเบาะแสต่อตำรวจ รายงานระบุว่า Anthropic แจ้งกรมตำรวจฟิลาเดลเฟียเมื่อวันที่ 8 ตุลาคม หลังเสร็จสิ้นการตรวจสอบทางเทคนิค

Anthropic จะยุติการเข้าถึงอินเทอร์เน็ตแบบเรียลไทม์ในการประเมินภายในทั้งหมด บริษัทระบุว่าได้ยกเลิกการประเมินบางรายการหรือเปลี่ยนเป็นการทำงานแบบออฟไลน์ และปรับสภาพแวดล้อมการประเมินบางส่วนเพื่อไม่ให้เข้าถึงเว็บไซต์จริง

Anthropic มองว่ากรณีครั้งนี้ร้ายแรงน้อยกว่าเหตุการณ์ด้านความมั่นคงปลอดภัยไซเบอร์ที่เปิดเผยในเดือนกรกฎาคมและกันยายน อย่างไรก็ตาม การประเมินการจัดแนวโมเดลโดยรวมสำหรับกรณีนี้ยังไม่เสร็จสิ้น และข้อสรุปอาจเปลี่ยนแปลงได้เมื่อมีการตรวจสอบเพิ่มเติม

ก่อนหน้านี้ การเปิดเผยกรณี AI agent เข้าถึงระบบภายนอกทำให้เกิดคำถามเกี่ยวกับการควบคุมการเข้าถึงและการตรวจสอบกิจกรรม รายงานครั้งนี้ของ Anthropic กล่าวถึงพฤติกรรมที่พบระหว่างการประเมินและการใช้งานภายใน โดยบริษัทระบุว่าจะยุติการเข้าถึงอินเทอร์เน็ตในสภาพแวดล้อมการประเมินภายใน