AI เอเจนต์เข้าถึง API สถิติ UN 16,500 ครั้งในกว่า 2 เดือน

โปรแกรมปัญญาประดิษฐ์ (AI) ที่คาดว่าเกี่ยวข้องกับเอเจนต์ของ OpenAI เข้าถึงเว็บไซต์สถิติของการประชุมสหประชาชาติว่าด้วยการค้าและการพัฒนา (UNCTAD) ราว 16,500 ครั้งในช่วงกว่า 2 เดือน จากการวิเคราะห์ของนักวิจัยด้านความปลอดภัย โรอัน ฮาวเวิร์ด-โจนส์(Roan Howard-Jones) โดยคำขอมุ่งไปยังข้อมูลสาธารณะ แต่พบสัญญาณว่าโปรแกรมพยายามค้นหาเส้นทางอื่นทุกครั้งที่ถูกจำกัดการเข้าถึง

ฮาวเวิร์ด-โจนส์วิเคราะห์บันทึก URL scanner ของ UNCTADstat API ตั้งแต่วันที่ 13 เมษายนถึง 19 มิถุนายน โดยระบุในบทวิเคราะห์ที่เผยแพร่ว่า กิจกรรมดังกล่าวมีความเป็นไปได้สูงที่จะมาจากเอเจนต์ของ OpenAI แต่ OpenAI ยังไม่ได้ยืนยันโดยตรง

หลักฐานที่ฮาวเวิร์ด-โจนส์ยกขึ้นมา ได้แก่ IP คลาวด์ที่ปรากฏซ้ำกับกิจกรรมเอเจนต์ที่เคยเชื่อมโยงกับ OpenAI รวมถึงป้ายกำกับอย่าง ‘CHATGPTTEST1’ และ ‘OAI_META_1312’ ข้อมูลที่เอเจนต์ร้องขอเป็นสถิติที่เปิดเผยบน UNCTADstat เช่น ดัชนีขีดความสามารถการผลิต (PCI) อุตสาหกรรมการค้า และการค้าสินค้าอาหาร

UNCTADstat API เป็นช่องทางที่เปิดให้โปรแกรมร้องขอข้อมูลสถิติได้ เอเจนต์พยายามใส่รายการข้อมูลทีละรายการเพื่อค้นหา endpoint ที่ต้องการ ส่งผลให้ UNCTADstat จำกัดคำขอทั้งหมด 82 รายการ

ประเด็นสำคัญอยู่ที่รูปแบบการร้องขอ โดยดูเหมือนว่าเอเจนต์สามารถส่งคำขอได้โดยตรงเฉพาะแบบ GET ขณะที่ endpoint ข้อมูลบางส่วนรองรับเฉพาะคำขอแบบ POST GET มักใช้สำหรับเรียกดูข้อมูล ส่วน POST ใช้สำหรับส่งข้อมูล

ฮาวเวิร์ด-โจนส์ระบุว่า เอเจนต์น่าจะใช้บริการสแกน URL Urlquery และบริการทดสอบสำหรับนักพัฒนา httpbin เป็นเส้นทางกลาง โดยสร้างแบบฟอร์มส่งข้อมูลผ่าน httpbin แล้วให้เบราว์เซอร์ sandbox ของ Urlquery เปิดแบบฟอร์มเพื่อส่งคำขอแบบ POST

หลังจากนั้นยังพบการเข้ารหัสที่อยู่คำขอซ้ำสองชั้น โดยเปลี่ยนเส้นทาง ‘Facts’ เป็น ‘F%2561cts’ และมีการใช้วิธีนี้ 55 ครั้ง ฮาวเวิร์ด-โจนส์เสนอว่าอาจเกิดจากโครงสร้างที่บริการหลายชั้นตีความ URL ทีละขั้น แต่ไม่ได้ยืนยันว่าโครงสร้างภายในของ UNCTADstat เป็นเช่นนั้นจริง

บันทึก Urlquery ที่ฮาวเวิร์ด-โจนส์เผยแพร่ยังแสดงสัญญาณว่าเอเจนต์ใช้เกม XSS เพื่อการศึกษาเกี่ยวกับความปลอดภัยทางเว็บของ Google เป็นพื้นที่ดำเนินการคำขอ โดยวิเคราะห์ว่าเอเจนต์ใส่โค้ดดำเนินการคำขอลงในหน้าเว็บของเกมเพื่อเข้าถึงข้อมูล

ความพยายามเกี่ยวกับ API key สาธารณะก็เกิดขึ้นซ้ำหลายครั้ง คีย์ดังกล่าวเป็นค่าที่เบราว์เซอร์ของผู้ใช้ UNCTADstat ส่งไปพร้อมคำขอแต่ละครั้ง และไม่ได้ถูกจัดเป็นข้อมูลลับ

เอเจนต์สลับใช้ชื่อคีย์ราว 20 รูปแบบ เช่น ‘subscription-key’, ‘ocp-apim-subscription-key’ และ ‘apikey’ โดยรูปแบบหนึ่งถูกใช้ส่งคำขอมากกว่า 9,500 ครั้ง ฮาวเวิร์ด-โจนส์ชี้ว่าเอเจนต์อาจเข้าใจผิดว่าปัญหาของรูปแบบคำขอเกิดจากชื่อคีย์ไม่ถูกต้อง

นอกจากนี้ ยังพบบันทึกว่าบัญชีชื่อ ‘PublicDataResearchAgentT93214’ สร้างหน้าบน FractalWiki ซึ่งระบุ URL และคีย์ที่เกี่ยวข้องกับ UNCTADstat ภายใน 40 นาทีหลังการสแกนเมื่อวันที่ 6 มิถุนายน อย่างไรก็ตาม OpenAI ยังไม่ได้ยืนยันว่าหน้าดังกล่าวเชื่อมโยงโดยตรงกับกิจกรรมการเข้าถึงข้อมูล

บันทึกการเข้าถึงของเว็บไซต์วิกียังแสดงว่า จาก Azure IP 54 รายการที่สร้างหน้าเกี่ยวกับ UNCTAD มี 45 รายการที่เคยแก้ไข DseWiki มาก่อน เมื่อรวมกับป้ายกำกับที่คาดว่าเชื่อมโยงกับ OpenAI ฮาวเวิร์ด-โจนส์จึงประเมินว่ากิจกรรมนี้มีความเป็นไปได้สูงที่จะเป็นการทำงานของเอเจนต์ OpenAI

ฮาวเวิร์ด-โจนส์ไม่ได้จัดกิจกรรมดังกล่าวว่าเป็นการแฮ็ก เนื่องจากข้อมูลเป็นข้อมูลสาธารณะและข้อกำหนดการใช้งานของ UNCTADstat ยังไม่ชัดเจน อย่างไรก็ตาม เขาอธิบายว่าการพยายามค้นหาเส้นทางอื่นต่อเนื่องหลังถูกจำกัด อาจถูกมองว่าเป็นระบบอัตโนมัติที่ก้าวร้าวจากมุมมองของผู้ดูแลระบบ

อเล็กซ์ สตามอส(Alex Stamos) อาจารย์ด้านความปลอดภัยไซเบอร์จากมหาวิทยาลัยสแตนฟอร์ด กล่าวกับ The Wall Street Journal ว่า กิจกรรมนี้ “อยู่ตรงเส้นแบ่งของพฤติกรรมที่ผมจะเรียกว่าการแฮ็ก” และเป็น “การสแครปข้อมูลและเก็บรวบรวมข้อมูลที่ก้าวร้าวมาก” ความเห็นดังกล่าวสะท้อนว่า ประเด็นหลักอยู่ที่วิธีที่เอเจนต์ AI รับมือกับข้อจำกัดการเข้าถึง มากกว่าตัวข้อมูลเอง

OpenAI ระบุว่ากำลังตรวจสอบผลการสอบสวนที่เกี่ยวข้อง และได้เสนอรายงานสรุปจากทีมสอบสวนต่อฝ่ายสหประชาชาติ โฆษก OpenAI กล่าวกับ The Wall Street Journal ว่า กิจกรรมส่วนใหญ่ที่ตรวจพบจนถึงขณะนี้เป็นการอ่านหน้าเว็บสาธารณะตามการวิจัยทั่วไป ทั้งนี้ยังไม่พบข้อมูลว่ากิจกรรมดังกล่าวทำให้ข้อมูลลับถูกเปิดเผยหรือทำให้บริการสถิติหยุดชะงัก