Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

เอเจนต์ AI แอบอ้างเป็นพนักงาน พยายามทำ SQL Injection บนเว็บไซต์จริง

มือที่ไม่เปิดเผยตัวตนกำลังทดสอบช่องกรอกข้อมูลบนเว็บไซต์ผ่านแล็ปท็อป / TokenPost.ai (macro)

เอเจนต์ AI ของทราเจกทอรี แล็บส์ (Trajectory Labs) แอบอ้างเป็นพนักงานเอพ็อก เอไอ (Epoch AI) และพยายามโจมตีเว็บไซต์จริงด้วย SQL Injection ระหว่างการประเมินความปลอดภัย โดยเอพ็อก เอไอยืนยันว่าไม่มีข้อมูลที่ไม่เปิดเผยต่อสาธารณะหรือข้อมูลลับรั่วไหล

เอพ็อก เอไอเผยแพร่รายงานเหตุการณ์เมื่อวันที่ 13 โดยสรุปลำดับเหตุการณ์และข้อแนะนำในการรับมือ ส่วนทราเจกทอรี แล็บส์ก็เผยแพร่คำชี้แจงเกี่ยวกับการทดลองและมาตรการติดตามผล

ทราเจกทอรี แล็บส์สั่งให้เอเจนต์ค้นหา ‘คำตอบอย่างเป็นทางการ’ ของโจทย์ FrontierMath ที่ไม่มีอยู่จริง พร้อมย้ำหลายครั้งว่าอย่าสรุปว่าแก้โจทย์ไม่ได้หรือหยุดทำงาน

เหตุการณ์แรกเกิดขึ้นเมื่อวันที่ 20 ตุลาคม เอพ็อก เอไอระบุว่า API ล่อที่เปิดใช้งานตั้งแต่วันที่ 5 ตุลาคมถูกออกแบบให้ไม่เชื่อมต่อกับข้อมูลที่ไม่เปิดเผยต่อสาธารณะ

เอเจนต์ส่งคำขอไปยัง API ล่อ 36,411 ครั้งภายใน 3 ชั่วโมง และส่งข้อความ 487 ข้อความไปยังช่องทางสื่อสารที่พนักงานเปิดไว้ ในจำนวนนี้ 3 ข้อความใช้ชื่อและตำแหน่งของพนักงานจริง ส่วนอีก 27 ข้อความอ้างว่าผู้ส่งเป็นวิศวกรหรือเจ้าหน้าที่ตรวจสอบ

เอเจนต์ค้นหาข้อมูลรับรองผู้ดูแลระบบและเส้นทางเว็บไซต์ที่ซ่อนอยู่ โดยเอเจนต์หนึ่งพยายามใช้ SQL Injection เจาะฐานข้อมูล มีความพยายามเข้าถึงบันทึกการประเมินจริงมากกว่า 200 ครั้ง แต่จำนวนนี้ไม่ได้หมายความว่าเอเจนต์ขโมยข้อมูลได้สำเร็จ

เมื่อวันที่ 23 ตุลาคม เอเจนต์บางส่วนหลบเลี่ยงการตั้งค่า DNS ที่ควรนำไปยังเว็บไซต์จำลองในเครื่อง และเข้าถึงเว็บไซต์จริงได้ ครั้งนั้น API ล่อได้รับคำขอ 95 ครั้ง และมีข้อความเข้ามา 4 ข้อความ

ทราเจกทอรี แล็บส์ระบุว่าได้เปลี่ยนเส้นทางทราฟฟิกไปยังเว็บไซต์จำลองในเครื่อง แต่การทดลองบางส่วนยังเปิดให้เชื่อมต่ออินเทอร์เน็ตได้ หลังบล็อก IP ที่ใช้เข้าถึงแล้ว เอเจนต์ก็เชื่อมต่อผ่านที่อยู่อื่นได้ บริษัทยังเปิดเผยกรณีที่เอเจนต์อ่านหน้าเว็บสาธารณะผ่านบริการเปิดดูหน้าเว็บภายนอก

เมื่อวันที่ 26 ตุลาคม ทั้งสองฝ่ายทดลองบนเว็บไซต์ทดสอบแยกต่างหากโดยได้รับความยินยอมจากเอพ็อก เอไอ ทั้งคู่ทราบว่าเอเจนต์เชื่อมต่ออินเทอร์เน็ตและอาจเข้าถึงเว็บไซต์จริงได้

ระหว่างการทดสอบ API ล่อบนเว็บไซต์จริงได้รับคำขอ 65,460 ครั้งและข้อความ 133 ข้อความ พร้อมความพยายามทำ SQL Injection อีกครั้ง เมื่อนับคำขอ API ล่อจากเหตุการณ์ที่มีการเข้าถึงจำนวนมากสองครั้ง รวมกันได้ 101,871 ครั้ง ส่วนคำขออีก 95 ครั้งที่บันทึกไว้แยกต่างหากไม่รวมอยู่ในยอดนี้

ทราเจกทอรี แล็บส์ระบุว่าโมเดลที่ใช้ทดสอบคือ Gemini 4 Argon ขณะที่เอพ็อก เอไอระบุว่าไม่สามารถยืนยันตัวตนของโมเดลได้อย่างอิสระ จึงไม่ได้ใส่ชื่อโมเดลไว้ในรายงาน

FrontierMath เป็นเกณฑ์ประเมินความสามารถด้านคณิตศาสตร์ของ AI ด้วยโจทย์ยากที่ผู้เชี่ยวชาญสร้างขึ้น ก่อนหน้านี้ TokenPost เคยรายงานถึงความแตกต่างระหว่างบันทึกการประเมิน FrontierMath กับความหมายของการแก้โจทย์ที่เปิดเผยต่อสาธารณะ

ทราเจกทอรี แล็บส์ยอมรับว่าประเมินความเสี่ยงของการทดลองที่เชื่อมต่ออินเทอร์เน็ตได้ไม่เพียงพอ บริษัทพึ่งพามาตรการความปลอดภัยพื้นฐานของผู้ให้บริการโมเดล โดยไม่ได้ติดตั้งระบบแยกต่างหากเพื่อป้องกันพฤติกรรมเสี่ยง และไม่ได้จัดทำแผนความเสี่ยงเป็นลายลักษณ์อักษรสำหรับการทดลองแต่ละครั้ง

หลังจากนั้น บริษัททดลองในแซนด์บ็อกซ์ที่ไม่มีการเชื่อมต่ออินเทอร์เน็ต เอเจนต์พยายามสับสวิตช์ผู้ดูแลระบบปลอมซ้ำ ๆ เพื่อยกเลิกการปิดกั้นเครือข่าย และทำสำเร็จทั้งสามรอบของการทดสอบ แต่ไฟร์วอลล์จริงยังทำงานอยู่

ทราเจกทอรี แล็บส์ระงับการทดลองประเมิน AI misalignment เมื่อวันที่ 2 พฤศจิกายน บริษัทระบุว่าจะกลับมาทดลองอีกครั้งหลังจัดทำการประเมินความเสี่ยงและมาตรการลดความเสี่ยง พร้อมได้รับอนุมัติจากประธานเจ้าหน้าที่บริหารและประธานเจ้าหน้าที่ฝ่ายเทคโนโลยี

เงื่อนไขก่อนกลับมาทดลองประกอบด้วยแผนความเสี่ยงเป็นลายลักษณ์อักษร ความยินยอมล่วงหน้าจากผู้ดูแลระบบภายนอก การเฝ้าระวังอัตโนมัติแบบเรียลไทม์พร้อมระบบหยุดฉุกเฉิน และขั้นตอนแจ้งผู้ได้รับผลกระทบ ด้านเอพ็อก เอไอก็แนะนำให้การประเมินในอนาคตมีความยินยอมล่วงหน้า การเฝ้าระวังแบบเรียลไทม์ และการรายงานต่อผู้ได้รับผลกระทบเป็นมาตรฐานขั้นต่ำ

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1