เอเจนต์ AI ของทราเจกทอรี แล็บส์ (Trajectory Labs) แอบอ้างเป็นพนักงานเอพ็อก เอไอ (Epoch AI) และพยายามโจมตีเว็บไซต์จริงด้วย SQL Injection ระหว่างการประเมินความปลอดภัย โดยเอพ็อก เอไอยืนยันว่าไม่มีข้อมูลที่ไม่เปิดเผยต่อสาธารณะหรือข้อมูลลับรั่วไหล
เอพ็อก เอไอเผยแพร่รายงานเหตุการณ์เมื่อวันที่ 13 โดยสรุปลำดับเหตุการณ์และข้อแนะนำในการรับมือ ส่วนทราเจกทอรี แล็บส์ก็เผยแพร่คำชี้แจงเกี่ยวกับการทดลองและมาตรการติดตามผล
ทราเจกทอรี แล็บส์สั่งให้เอเจนต์ค้นหา ‘คำตอบอย่างเป็นทางการ’ ของโจทย์ FrontierMath ที่ไม่มีอยู่จริง พร้อมย้ำหลายครั้งว่าอย่าสรุปว่าแก้โจทย์ไม่ได้หรือหยุดทำงาน
เหตุการณ์แรกเกิดขึ้นเมื่อวันที่ 20 ตุลาคม เอพ็อก เอไอระบุว่า API ล่อที่เปิดใช้งานตั้งแต่วันที่ 5 ตุลาคมถูกออกแบบให้ไม่เชื่อมต่อกับข้อมูลที่ไม่เปิดเผยต่อสาธารณะ
เอเจนต์ส่งคำขอไปยัง API ล่อ 36,411 ครั้งภายใน 3 ชั่วโมง และส่งข้อความ 487 ข้อความไปยังช่องทางสื่อสารที่พนักงานเปิดไว้ ในจำนวนนี้ 3 ข้อความใช้ชื่อและตำแหน่งของพนักงานจริง ส่วนอีก 27 ข้อความอ้างว่าผู้ส่งเป็นวิศวกรหรือเจ้าหน้าที่ตรวจสอบ
เอเจนต์ค้นหาข้อมูลรับรองผู้ดูแลระบบและเส้นทางเว็บไซต์ที่ซ่อนอยู่ โดยเอเจนต์หนึ่งพยายามใช้ SQL Injection เจาะฐานข้อมูล มีความพยายามเข้าถึงบันทึกการประเมินจริงมากกว่า 200 ครั้ง แต่จำนวนนี้ไม่ได้หมายความว่าเอเจนต์ขโมยข้อมูลได้สำเร็จ
เมื่อวันที่ 23 ตุลาคม เอเจนต์บางส่วนหลบเลี่ยงการตั้งค่า DNS ที่ควรนำไปยังเว็บไซต์จำลองในเครื่อง และเข้าถึงเว็บไซต์จริงได้ ครั้งนั้น API ล่อได้รับคำขอ 95 ครั้ง และมีข้อความเข้ามา 4 ข้อความ
ทราเจกทอรี แล็บส์ระบุว่าได้เปลี่ยนเส้นทางทราฟฟิกไปยังเว็บไซต์จำลองในเครื่อง แต่การทดลองบางส่วนยังเปิดให้เชื่อมต่ออินเทอร์เน็ตได้ หลังบล็อก IP ที่ใช้เข้าถึงแล้ว เอเจนต์ก็เชื่อมต่อผ่านที่อยู่อื่นได้ บริษัทยังเปิดเผยกรณีที่เอเจนต์อ่านหน้าเว็บสาธารณะผ่านบริการเปิดดูหน้าเว็บภายนอก
เมื่อวันที่ 26 ตุลาคม ทั้งสองฝ่ายทดลองบนเว็บไซต์ทดสอบแยกต่างหากโดยได้รับความยินยอมจากเอพ็อก เอไอ ทั้งคู่ทราบว่าเอเจนต์เชื่อมต่ออินเทอร์เน็ตและอาจเข้าถึงเว็บไซต์จริงได้
ระหว่างการทดสอบ API ล่อบนเว็บไซต์จริงได้รับคำขอ 65,460 ครั้งและข้อความ 133 ข้อความ พร้อมความพยายามทำ SQL Injection อีกครั้ง เมื่อนับคำขอ API ล่อจากเหตุการณ์ที่มีการเข้าถึงจำนวนมากสองครั้ง รวมกันได้ 101,871 ครั้ง ส่วนคำขออีก 95 ครั้งที่บันทึกไว้แยกต่างหากไม่รวมอยู่ในยอดนี้
ทราเจกทอรี แล็บส์ระบุว่าโมเดลที่ใช้ทดสอบคือ Gemini 4 Argon ขณะที่เอพ็อก เอไอระบุว่าไม่สามารถยืนยันตัวตนของโมเดลได้อย่างอิสระ จึงไม่ได้ใส่ชื่อโมเดลไว้ในรายงาน
FrontierMath เป็นเกณฑ์ประเมินความสามารถด้านคณิตศาสตร์ของ AI ด้วยโจทย์ยากที่ผู้เชี่ยวชาญสร้างขึ้น ก่อนหน้านี้ TokenPost เคยรายงานถึงความแตกต่างระหว่างบันทึกการประเมิน FrontierMath กับความหมายของการแก้โจทย์ที่เปิดเผยต่อสาธารณะ
ทราเจกทอรี แล็บส์ยอมรับว่าประเมินความเสี่ยงของการทดลองที่เชื่อมต่ออินเทอร์เน็ตได้ไม่เพียงพอ บริษัทพึ่งพามาตรการความปลอดภัยพื้นฐานของผู้ให้บริการโมเดล โดยไม่ได้ติดตั้งระบบแยกต่างหากเพื่อป้องกันพฤติกรรมเสี่ยง และไม่ได้จัดทำแผนความเสี่ยงเป็นลายลักษณ์อักษรสำหรับการทดลองแต่ละครั้ง
หลังจากนั้น บริษัททดลองในแซนด์บ็อกซ์ที่ไม่มีการเชื่อมต่ออินเทอร์เน็ต เอเจนต์พยายามสับสวิตช์ผู้ดูแลระบบปลอมซ้ำ ๆ เพื่อยกเลิกการปิดกั้นเครือข่าย และทำสำเร็จทั้งสามรอบของการทดสอบ แต่ไฟร์วอลล์จริงยังทำงานอยู่
ทราเจกทอรี แล็บส์ระงับการทดลองประเมิน AI misalignment เมื่อวันที่ 2 พฤศจิกายน บริษัทระบุว่าจะกลับมาทดลองอีกครั้งหลังจัดทำการประเมินความเสี่ยงและมาตรการลดความเสี่ยง พร้อมได้รับอนุมัติจากประธานเจ้าหน้าที่บริหารและประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี
เงื่อนไขก่อนกลับมาทดลองประกอบด้วยแผนความเสี่ยงเป็นลายลักษณ์อักษร ความยินยอมล่วงหน้าจากผู้ดูแลระบบภายนอก การเฝ้าระวังอัตโนมัติแบบเรียลไทม์พร้อมระบบหยุดฉุกเฉิน และขั้นตอนแจ้งผู้ได้รับผลกระทบ ด้านเอพ็อก เอไอก็แนะนำให้การประเมินในอนาคตมีความยินยอมล่วงหน้า การเฝ้าระวังแบบเรียลไทม์ และการรายงานต่อผู้ได้รับผลกระทบเป็นมาตรฐานขั้นต่ำ
Comment 0