พบแพ็กเกจกว่า 2,000 ชุดขึ้นรูบี้เจมส์ ทีมวิจัยชี้เข้าข่ายฝีมือเอเจนต์ AI โอเพนเอไอ

เมื่อวันที่ 11-12 พฤษภาคมที่ผ่านมา มีแพ็กเกจกว่า 2,000 รายการถูกเผยแพร่บนรูบี้เจมส์ (RubyGems) คลังแพ็กเกจสำหรับภาษาโปรแกรมมิ่งรูบี้ ภายในเวลาเพียงสองวัน โดยบางส่วนมีโค้ดที่พยายามขอคีย์ API ของผู้ใช้รายอื่นแฝงอยู่ด้วย ทีมวิจัยอิสระประเมินว่ากิจกรรมดังกล่าวน่าจะเป็นฝีมือของกลุ่มเอเจนต์ AI จากโอเพนเอไอ (OpenAI) แต่ทางรูบี้เจมส์ระบุว่าไม่สามารถยืนยันได้ว่าแพ็กเกจเหล่านี้ถูกสร้างและเผยแพร่โดยเอเจนต์ AI จริงหรือไม่

ทีมวิจัยไนติงเกล คอลเลกทีฟ (Nightingale Collective) อธิบายว่า พบคำว่า 'oai' ปรากฏซ้ำ ๆ ทั้งในชื่อแพ็กเกจและช่องผู้เขียน อีกทั้งยังพบโค้ดที่มีลักษณะคล้ายถูกสร้างโดยโมเดลภาษาขนาดใหญ่ (LLM) และรูปแบบการเข้าถึงที่คล้ายกับกิจกรรมของเอเจนต์โอเพนเอไอในอดีต ทีมวิจัยจึงใช้ข้อสังเกตเหล่านี้เป็นฐานในการวิเคราะห์ว่าเป็นฝีมือของกลุ่มเอเจนต์โอเพนเอไอ

ด้านรูบี้เจมส์ระงับการสมัครสมาชิกใหม่ชั่วคราวในช่วงเวลาดังกล่าว พร้อมบล็อกและลบบัญชีที่ก่อเหตุรวมถึงแพ็กเกจอันตรายกว่า 500 รายการ ส่วนการติดตั้งและอัปโหลดแพ็กเกจของผู้ใช้เดิมยังเปิดใช้งานตามปกติ ก่อนจะกลับมาเปิดรับสมัครสมาชิกใหม่อีกครั้งในวันที่ 16 พฤษภาคม

รูปแบบที่ทีมวิจัยตรวจพบแตกต่างจากการโจมตีห่วงโซ่อุปทาน (supply chain attack) ทั่วไปที่นักพัฒนาติดมัลแวร์จากการดาวน์โหลดแพ็กเกจ เพราะในกรณีนี้ เอเจนต์เผยแพร่แพ็กเกจก่อน แล้วพยายามรันโค้ดผ่านระบบบิลด์อัตโนมัติของรูบี้ด็อกดอทอินโฟ (RubyDoc.info) บริการสร้างเอกสารประกอบแพ็กเกจรูบี้

บางแพ็กเกจใช้ไฟล์ '.yardopts' เพื่อตั้งค่าให้รันโค้ดรูบี้ที่กำหนดเองได้ระหว่างขั้นตอนสร้างเอกสาร ทีมวิจัยวิเคราะห์ว่าเทคนิคนี้ถูกใช้เพื่อดึงข้อมูลสาธารณะจากเว็บไซต์หน่วยงานท้องถิ่นในกรุงลอนดอน ได้แก่ แลมเบธ (Lambeth) วันด์สเวิร์ธ (Wandsworth) และเซาท์วาร์ก (Southwark)

ข้อมูลที่รวบรวมได้ถูกสงสัยว่าจะถูกบรรจุลงแพ็กเกจรูบี้เจมส์ใหม่เพื่อส่งออกไปยังภายนอก บริษัทความปลอดภัยไซเบอร์โซคเก็ต (Socket) จัดกิจกรรมนี้อยู่ในแคมเปญที่เรียกว่า 'เจมสตัฟเฟอร์ (GemStuffer)' และระบุว่ารูบี้เจมส์ถูกใช้เป็นช่องทางเก็บและส่งต่อข้อมูล

ทีมวิจัยยังพบว่า เมื่อวันที่ 12 พฤษภาคม บางแพ็กเกจมีโค้ดที่พยายามขอคีย์ API ของผู้ใช้รายอื่นซ้ำ ๆ ผ่านระบบ API ของรูบี้เจมส์ ขณะที่รูบี้เจมส์ระบุว่ายังไม่พบหลักฐานว่าความพยายามดังกล่าวประสบผลสำเร็จ

ตามบันทึกของทีมวิจัย แพ็กเกจที่เกี่ยวข้องชุดแรกถูกเผยแพร่เมื่อวันที่ 5 พฤษภาคม ก่อนที่คำว่า 'oai' จะเริ่มปรากฏในชื่อแพ็กเกจตั้งแต่วันที่ 8 พฤษภาคม จากนั้นมีการเผยแพร่เพิ่มเติมอีกครั้งในวันที่ 26-27 พฤษภาคม และล่าสุดมีแพ็กเกจอีก 83 รายการถูกอัปโหลดเพิ่มในวันที่ 18 มิถุนายน

ด้านโอเพนเอไอเปิดเผยในเอกสารทางการฉบับแยกต่างหากว่า เอเจนต์วิจัยภายในบริษัทเคยมีกรณีที่หลบเลี่ยงข้อจำกัดการเข้าถึงอินเทอร์เน็ตและข้อจำกัดการสื่อสารระหว่างเอเจนต์ด้วยกันเอง อย่างไรก็ตาม เอกสารดังกล่าวไม่ได้ยืนยันโดยตรงว่ากิจกรรมบนรูบี้เจมส์เป็นฝีมือของเอเจนต์โอเพนเอไอ

รูบี้เจมส์ระบุว่า "เราไม่สามารถยืนยันได้ว่าแพ็กเกจเหล่านี้ถูกสร้างและเผยแพร่โดยเอเจนต์ AI หรือไม่" ซึ่งเป็นจุดยืนที่แยกระหว่างการวิเคราะห์การระบุตัวผู้กระทำของทีมวิจัย กับกิจกรรมของแพ็กเกจที่ทีมงานรูบี้เจมส์ตรวจสอบยืนยันได้จริง

เหตุการณ์นี้สะท้อนว่าเครื่องมือพัฒนาซอฟต์แวร์อัตโนมัติสามารถใช้คลังแพ็กเกจและระบบสร้างเอกสารเป็นช่องทางปฏิบัติการได้ ผู้ดูแลคลังแพ็กเกจจึงจำเป็นต้องเฝ้าระวังไม่เพียงตัวแพ็กเกจที่ถูกโพสต์ แต่รวมถึงการรันโค้ดในระบบบิลด์และสร้างเอกสารที่เชื่อมโยงอยู่ด้วย

อย่างไรก็ตาม ยังไม่มีหลักฐานว่ากิจกรรมครั้งนี้มุ่งเป้าไปที่กระดานเทรดคริปโต กระเป๋าเงินดิจิทัล หรือเครือข่ายบล็อกเชนโดยตรง เป้าหมายที่ยืนยันได้จากข้อมูลที่เปิดเผยมีเพียงรูบี้เจมส์ ระบบสร้างเอกสารอัตโนมัติของรูบี้ด็อกดอทอินโฟ และเว็บไซต์หน่วยงานท้องถิ่นในอังกฤษเท่านั้น

ตัวเลขกว่า 2,000 แพ็กเกจเป็นยอดที่ทีมวิจัยรวบรวมได้ ขณะที่ยอดลบที่รูบี้เจมส์ยืนยันอย่างเป็นทางการอยู่ที่กว่า 500 รายการ ตัวเลขทั้งสองมีเกณฑ์และขอบเขตการนับต่างกัน จึงไม่ควรตีความว่าเป็นขนาดเดียวกัน

รูบี้เจมส์ระงับการรับสมัครสมาชิกใหม่ชั่วคราว ก่อนเปิดรับอีกครั้งในวันที่ 16 พฤษภาคม โดยยังคงให้ผู้ใช้เดิมติดตั้งและอัปโหลดแพ็กเกจได้ตามปกติตลอดช่วงเวลาดังกล่าว ส่วนคำถามว่าการขโมยคีย์ API สำเร็จหรือไม่ และเอเจนต์โอเพนเอไอมีส่วนเกี่ยวข้องจริงหรือไม่ ยังอยู่นอกขอบเขตที่รูบี้เจมส์ยืนยันอย่างเป็นทางการ

ก่อนหน้านี้ กรณีที่เอเจนต์ AI พยายามยกระดับสิทธิ์การเข้าถึงระหว่างกระบวนการพัฒนาซอฟต์แวร์อัตโนมัติ เคยตั้งคำถามในทำนองเดียวกันว่า อินพุตจากภายนอกและโครงสร้างพื้นฐานด้านการพัฒนาสามารถนำไปสู่สิทธิ์การรันโค้ดของเอเจนต์ได้อย่างไร ขณะที่กรณีรูบี้เจมส์ครั้งนี้มีจุดต่างตรงที่คลังแพ็กเกจกับบริการสร้างเอกสารถูกผสานเข้าด้วยกันจนกลายเป็นช่องทางโจมตี