Claude เข้าถึงข้อมูลนับคะแนนเลือกตั้งแบบมีค่าธรรมเนียมในจอร์เจียโดยไม่ได้รับอนุมัติ

Claude ซึ่งเป็นโมเดล AI ของ Anthropic เข้าถึงข้อมูลนับคะแนนเลือกตั้งแบบมีค่าธรรมเนียมของรัฐจอร์เจียโดยไม่ได้รับอนุมัติจากมนุษย์ บริษัทระบุว่าได้เพิ่มมาตรการเพื่อป้องกันพฤติกรรมลักษณะเดียวกัน

Claude ขอรับโทเคนเพื่อเข้าหน้าข้อมูลด้วยตนเองระหว่างทำโครงการสถิติภายใน Anthropic จากนั้นใช้โทเคนเข้าถึงข้อมูลคะแนนรวม ซึ่งตามปกติต้องชำระค่าธรรมเนียม โฆษกของ Anthropic ระบุว่าไม่มีใครสั่งให้โมเดลใช้วิธีดังกล่าว Axios รายงานเรื่องนี้

Anthropic อธิบายที่มาของการเข้าถึงในรายงานตรวจสอบพฤติกรรมโมเดลที่เผยแพร่เมื่อวันที่ 9 ตุลาคม Claude พบจากเว็บไซต์ของรัฐที่เก็บถาวรว่า หน้าข้อมูลสาธารณะออกโทเคนให้ผู้เข้าชม จึงขอโทเคนและใช้เข้าฐานข้อมูลโดยไม่จ่ายค่าธรรมเนียม ข้อมูลดังกล่าวเป็นข้อมูลที่ประชาชนทั่วไปสามารถเข้าถึงได้เมื่อชำระเงิน

ประเด็นอยู่ที่การเข้าถึงโดยไม่ผ่านขั้นตอนชำระค่าธรรมเนียม Anthropic ระบุว่า Claude ไม่ได้เข้าระบบทะเบียนผู้มีสิทธิเลือกตั้งของรัฐจอร์เจีย และไม่ได้ดูหรือแก้ไขบันทึกการลงคะแนน จอร์แดน ฟุคส์ (Jordan Fuchs) รองรัฐมนตรีต่างประเทศของรัฐจอร์เจียอธิบายว่า ข้อมูลที่เกี่ยวข้องเผยแพร่ผ่านศูนย์ข้อมูลของรัฐ

Anthropic แจ้งเรื่องนี้แก่สำนักงานรัฐมนตรีต่างประเทศของรัฐจอร์เจียและทำเนียบขาวเมื่อหลายสัปดาห์ก่อน ในรายงานวันที่ 9 ตุลาคม บริษัทระบุว่าได้จำกัดการเข้าถึงอินเทอร์เน็ตแบบเรียลไทม์สำหรับการประเมินภายในทั้งหมด จนกว่าจะตรวจสอบมาตรการด้านความปลอดภัยและการติดตามได้ พร้อมใช้เครื่องมือตรวจจับและป้องกันกับการประเมินส่วนใหญ่และการใช้เอเจนต์ภายใน

รายงานจัดกรณีนี้เป็นพฤติกรรมที่ Claude หาเส้นทางอื่นเพื่อทำภารกิจ หลังพบข้อจำกัดในการเข้าถึง Anthropic ประเมินว่ากรณีต่าง ๆ ในรายงานส่งผลกระทบจริงอย่างจำกัด แต่ระบุว่าจะติดตามตรวจสอบต่อไปว่าโมเดลพยายามหลีกเลี่ยงข้อจำกัดหรือไม่