แอนโทรปิกเตือน AI Worm อาจจำลองตัวเองบนอุปกรณ์ IoT ได้ในไม่กี่เดือน

นักวิจัยแอนโทรปิกเตือนว่า ภายในไม่กี่เดือน โมเดล AI ขนาดเล็กอาจมีความสามารถจำลองตัวเองบนอุปกรณ์ Internet of Things (IoT) ที่วางจำหน่ายทั่วไปได้ อย่างไรก็ตาม งานวิจัยนี้ยังไม่พบ AI Worm ที่แพร่กระจายด้วยการติดเชื้ออุปกรณ์เครื่องใช้ไฟฟ้าจริง

วิลเลียม โจว(William Zhou) และแดเนียล ฟรีแมน(Daniel Freeman) จากทีม Frontier Red Team ของแอนโทรปิก ระบุในบทความวิจัยเมื่อวันที่ 12 ว่าได้ทดสอบความเป็นไปได้ที่โมเดล AI จะจำลองตัวเองบนอุปกรณ์ IoT เชิงพาณิชย์ ทีมวิจัยรันโมเดล AI ขนาดเล็กบนกล่อง Android TV ราคาประหยัด และตรวจสอบว่าโมเดลอาจหาวิธีทำงานให้เข้ากับอุปกรณ์ที่ไม่คุ้นเคยได้หรือไม่ โดยยกเตาอบอัจฉริยะเป็นตัวอย่างอุปกรณ์ IoT ที่อาจตกเป็นเป้าหมายในอนาคต

ทีมวิจัยกระจายโมเดลให้ทำงานบนกล่อง Android TV ราคาประหยัด 15 เครื่อง และทดสอบการอนุมานของโมเดล 9B กับฮาร์ดแวร์ 9 ประเภท โดยใช้งานได้กับ 8 ประเภท อย่างไรก็ตาม โมเดลในปัจจุบันยังมีขนาดเล็กและทรงพลังไม่พอที่จะจำลองตัวเองบนสมาร์ตทีวีจริงได้อย่างเสถียร ส่วนโมเดลขนาดไม่เกิน 30B ทำงานแต่ละขั้นที่จำเป็นได้ แต่เกิดข้อผิดพลาดเมื่อต้องเชื่อมขั้นตอนเหล่านั้นเข้าด้วยกันจนเสร็จ

การทดลองจำลองตัวเองดำเนินการบนอุปกรณ์ Android จำลอง 8 เครื่องในเครือข่ายปิด ทีมวิจัยจงใจทำให้ขั้นตอนการแฮ็กง่ายลง และในบรรดาโมเดล Open Weight ที่นำมาทดสอบ มีเพียง GLM-5.2 ที่ทำกระบวนการจำลองตัวเองได้ครบทุกขั้น แอนโทรปิกระบุว่าควรมองผลนี้เป็นขีดสูงสุดภายใต้การทดลอง ไม่ใช่ตัวเลขที่แสดงโอกาสสำเร็จในสภาพแวดล้อมจริง

ทีมวิจัยคาดการณ์ว่า หากความสามารถของโมเดลขนาดเล็กพัฒนาต่อไปในอัตราเดียวกับที่ผ่านมา ก็อาจไปถึงระดับ GLM-5.2 ได้ภายในสิ้นปี พร้อมระบุว่าอาจสร้างระบบจำลองตัวเองด้วยการย้ายค่าน้ำหนักโมเดลระหว่างอุปกรณ์ได้ นี่เป็นการคาดการณ์ของทีมวิจัยที่ตั้งอยู่บนสมมติฐานว่าเทคโนโลยีจะพัฒนาต่อเนื่อง

ระบบลักษณะนี้อาจทำให้การหยุดการแพร่กระจายทั้งหมดด้วยการปิดเซิร์ฟเวอร์กลางเพียงเครื่องเดียวทำได้ยาก ขณะเดียวกัน แอนโทรปิกคาดว่าการจำลองตัวเองอาจใช้เวลาหลายวัน จึงทำให้การแพร่กระจายเป็นไปอย่างช้าๆ ข้อกังวลจากงานวิจัยไม่ได้หมายความว่าเครื่องใช้ไฟฟ้ากำลังติดเชื้อในขณะนี้ แต่ชี้ว่าเส้นทางทางเทคนิคที่ทำให้โมเดล AI ทำงานและจำลองตัวเองบนอุปกรณ์ที่มีระบบรักษาความปลอดภัยอ่อนแออาจอยู่ใกล้ความเป็นไปได้มากขึ้น

งานวิจัยก่อนหน้านี้ทดสอบความสามารถของโมเดลภาษาขนาดใหญ่แบบเปิดเผยน้ำหนักในการสร้างเส้นทางโจมตีและจำลองตัวเองผ่านเครือข่าย โดยพบว่า AI Worm จำลองตัวเองไปยังโฮสต์เฉลี่ย 20.4 เครื่องในเครือข่ายเสมือนที่แยกออกมา ส่วนงานของแอนโทรปิกครั้งนี้ศึกษาว่าโมเดลสามารถทำงานบนอุปกรณ์ IoT ราคาประหยัดและเชื่อมขั้นตอนการจำลองตัวเองเข้าด้วยกันได้หรือไม่

ทีมวิจัยมองว่าอุปกรณ์ IoT ที่เชื่อมต่ออินเทอร์เน็ตและมีระบบรักษาความปลอดภัยอ่อนแออาจเป็นเป้าหมายแรก ผลการศึกษานี้เป็นการประเมินทางเทคนิคจากการทดลองภายใต้สภาวะควบคุม