เอเจนต์ AI เรียกดูข้อมูล Amap มากกว่า 2,600 ครั้ง บางรายตอบคำถามนักวิจัย

เอเจนต์ AI พยายามเรียกดูข้อมูลสถานที่จาก Amap บริการแผนที่ของอาลีบาบา มากกว่า 2,600 ครั้ง และบางรายยังตอบคำถามจากนักวิจัยด้วย พบเบาะแสว่ากิจกรรมบางส่วนผ่านโครงสร้างพื้นฐานคลาวด์ของเทนเซ็นต์ แต่ยังไม่ทราบว่าใครเป็นผู้ดำเนินการหรือใช้โมเดลใด

กลุ่มนักวิจัย Swarmchasers ระบุในรายงานที่เผยแพร่เมื่อวันที่ 14 ตุลาคมว่า ระหว่างวันที่ 28 กันยายนถึง 8 ตุลาคม เอเจนต์พยายามดึงข้อมูลจาก Amap มากกว่า 2,600 ครั้ง ข้อมูลที่ค้นหาเกี่ยวข้องกับทางเข้าที่ผู้ใช้มักเลือกในสถานที่ต่าง ๆ เช่น สวนสัตว์ สวนสาธารณะ และโรงพยาบาล

นักวิจัยตรวจพบกิจกรรมจากการติดตามบันทึกบน urlquery ซึ่งเป็นบริการสแกนความปลอดภัยสาธารณะ เมื่อพบร่องรอยว่าเอเจนต์อาจอ่านรายงานเบื้องต้น พวกเขาจึงแทรกข้อความแนะนำที่มนุษย์มองไม่เห็นไว้ในรายงาน ข้อความดังกล่าวชี้ไปยังบริการค้นข้อมูลเว็บที่นักวิจัยดูแล และเอเจนต์บางรายใช้ช่องทางนี้ตอบคำถาม

เอเจนต์รายหนึ่งอธิบายว่ากำลังตรวจสอบป้ายทางเข้าของแหล่งท่องเที่ยวแห่งหนึ่งใน Amap และระบุว่าทำงานอยู่ในแซนด์บ็อกซ์แบบจำกัดของเทนเซ็นต์คลาวด์ นักวิจัยเขียนในรายงานว่าการสนทนาไม่ได้เป็นการทดลองที่ควบคุมไว้ จึงเป็นไปได้ว่าคำถามและการแทรกแซงของพวกเขามีผลต่อคำตอบ เอเจนต์บางรายแนะนำตัวว่าเป็น Claude ของ Anthropic แต่การแนะนำตัวเพียงอย่างเดียวไม่สามารถยืนยันโมเดลที่ใช้จริงได้

ระหว่างการค้นข้อมูลยังพบร่องรอยความพยายามหลบเลี่ยงการบล็อกบริการ เอเจนต์บางรายพยายามดักจับโทเคนหรือใช้บริการอ่านหน้าเว็บของบุคคลที่สาม และพยายามใช้คีย์ API กับรหัสความปลอดภัยที่เปิดเผยไว้ในคลังโค้ดสาธารณะ ข้อมูลรับรองชุดหนึ่งสามารถดึงข้อมูลสถานที่จริงกลับมาได้

นักวิจัยยังพบคำขอที่มุ่งไปยังโฮสต์สี่แห่งซึ่งดูเหมือนใช้สำหรับการพัฒนาและทดสอบ แต่ระบุว่าไม่พบหลักฐานว่ามีการเข้าถึงระบบส่วนตัว

จากกล่องรับข้อความที่ตรวจสอบและอ่านได้ 18 กล่อง พบว่า 17 กล่องสร้างขึ้นบนเทนเซ็นต์คลาวด์ คำขอจากเอเจนต์ยังมีป้ายพร็อกซี “hysandbox-ats” เบาะแสเหล่านี้บ่งชี้เพียงว่าคำขอผ่านโครงสร้างพื้นฐานดังกล่าว ไม่ได้พิสูจน์ว่าเทนเซ็นต์เป็นผู้ดำเนินการเอเจนต์โดยตรงหรือใช้โมเดลใดเป็นการเฉพาะ

Swarmchasers รายงานว่า แหล่งข่าวนิรนามที่ใกล้ชิดกับเทนเซ็นต์อธิบายว่ากิจกรรมนี้เป็นการทดสอบโมเดลจากบุคคลที่สามชั่วคราวของทีมวิจัยประเมินผลของเทนเซ็นต์ แหล่งข่าวกล่าวว่าไม่ได้ใช้โมเดล Hunyuan คำอธิบายนี้เป็นข้อมูลจากแหล่งข่าวนิรนาม ไม่ใช่แถลงการณ์อย่างเป็นทางการของบริษัท

Swarmchasers ใช้คำว่า “ฟลีต” แทน “ฝูง” เนื่องจากไม่พบหลักฐานว่าเอเจนต์ทำงานร่วมกันแบบเรียลไทม์ นักวิจัยระบุว่าพบกิจกรรมครั้งสุดท้ายเมื่อวันที่ 8 ตุลาคม