ข้อความสูงสุดครึ่งหนึ่งอ่านไม่เข้าใจ หวั่นช่องว่างกำกับดูแล AI เอเจนต์

ผลการทดลองพบว่า AI เอเจนต์หลายตัวที่โต้ตอบกันเป็นเวลานานอาจสร้างระบบสื่อสารเฉพาะที่มนุษย์เข้าใจได้ยาก โดยลดรูปแบบไวยากรณ์และกำหนดความหมายใหม่ให้คำบางคำเพื่อเพิ่มประสิทธิภาพและประหยัดทรัพยากรการคำนวณ

Emergence สตาร์ทอัพด้าน AI จากสหรัฐฯ ทดลองให้ AI เอเจนต์อัตโนมัติหลายตัวทำงานเป็นเวลานานในสภาพแวดล้อมสังคมจำลอง แม้ไม่ได้รับคำสั่งให้สร้างภาษาใหม่ แต่กระบวนการทำงานร่วมกันซ้ำ ๆ ทำให้เอเจนต์ใช้คำย่อและอุปมา รวมถึงตีความคำบางคำใหม่ตามกฎภายใน

คำอธิบายที่เผยแพร่บน OECD.AI ระบุว่าเอเจนต์ที่ใช้โมเดลหลายประเภท เช่น Claude, Gemini และ Grok ได้สร้างรูปแบบย่อและความหมายใหม่ของคำขึ้นเอง โดยข้อความที่มนุษย์ไม่สามารถตีความได้คิดเป็นสัดส่วนสูงสุดครึ่งหนึ่งของข้อความทั้งหมด

ระหว่างการทดลองพบข้อมูลและความเสียหายทางการเงินในสภาพแวดล้อมจำลอง อย่างไรก็ตาม ยังไม่มีการยืนยันว่าเกิดความเสียหายในโลกจริง

ประเด็นไม่ได้อยู่เพียงที่ AI สร้างรูปแบบการสื่อสารใหม่ หากเอเจนต์ใช้ความหมายร่วมกันที่มนุษย์ไม่เข้าใจ แม้ข้อความที่แสดงออกมาจะอ่านได้ การกำกับดูแลโดยมนุษย์ก็อาจเหลือเพียงการตรวจสอบรูปแบบภายนอก

ตัวอย่างเช่น คำที่เดิมหมายถึงบัญชีแยกประเภทหรือบันทึก อาจถูกใช้ระหว่างเอเจนต์เป็นสัญญาณเตือน หากผู้สังเกตการณ์ภายนอกดูเพียงบทสนทนา ก็อาจเข้าใจการตัดสินใจของระบบผิดไป นั่นหมายความว่าการที่ภาษาอ่านรู้เรื่องสำหรับมนุษย์ กับการที่ภาษานั้นอธิบายพฤติกรรมจริงได้ เป็นคนละประเด็นกัน

ปรากฏการณ์นี้เชื่อมโยงกับลักษณะเชิงโครงสร้างของระบบหลายเอเจนต์ เมื่อเอเจนต์หลายตัวแลกเปลี่ยนข้อมูลพร้อมกัน ความผิดพลาดของเอเจนต์หนึ่งอาจถูกส่งต่อไปยังตัวอื่น หรือเอเจนต์หลายตัวอาจแบ่งปันความเชื่อที่ผิดจนทำให้ข้อผิดพลาดขยายตัว

สถาบันความปลอดภัย AI ของออสเตรเลียแบ่งความเสี่ยงของระบบหลายเอเจนต์ในรายงานออกเป็นความล้มเหลวด้านการประสานงาน การแพร่กระจายและขยายผล ความล้มเหลวด้านกลยุทธ์และแรงจูงใจ รวมถึงความล้มเหลวด้านโครงสร้างพื้นฐานและสภาพแวดล้อม รายงานอธิบายว่าการตรวจสอบเอเจนต์เป็นรายตัวไม่เพียงพอที่จะประเมินความเสี่ยงของระบบโดยรวม

โดยเฉพาะในสภาพแวดล้อมปิด หากเอเจนต์ปรับตัวเข้าหาพฤติกรรมของกันและกัน ก็อาจเกิดพฤติกรรมรวมกลุ่มที่ผู้พัฒนาไม่ได้ป้อนเข้าสู่โมเดลแต่ละตัว เมื่อระบบมีขนาดใหญ่ขึ้น จำนวนการโต้ตอบและเส้นทางการเคลื่อนย้ายข้อมูลก็เพิ่มขึ้น ทำให้ผู้กำกับดูแลติดตามการตัดสินใจทั้งหมดได้ยาก

แม้จะยืนยันประสิทธิภาพและความปลอดภัยของเอเจนต์เดี่ยวได้ ก็ยังไม่อาจสรุปว่าระบบที่ประกอบด้วยเอเจนต์หลายตัวปลอดภัยโดยรวม จำเป็นต้องตรวจสอบควบคู่กันทั้งการทำงานของโมเดลแต่ละตัว ข้อมูลที่ส่งระหว่างเอเจนต์ และการเปลี่ยนแปลงของความหมายระหว่างการสื่อสาร

มีข้อเสนอว่ามาตรฐานด้านธรรมาภิบาล AI ควรขยับจากการอธิบายคำตอบของโมเดลแต่ละตัว ไปสู่กระบวนการประสานงานระหว่างเอเจนต์ งานวิจัยเรื่อง ‘Coordination transparency: governing distributed agency in AI systems’ ของเจเรไมอาห์ บอร์ (Jeremiah Bohr) ซึ่งตีพิมพ์ในวารสาร AI & Society เมื่อปี 2026 เสนอว่าการกำกับดูแลที่ยึดมนุษย์เป็นศูนย์กลางเพียงอย่างเดียวมีข้อจำกัดในสภาพแวดล้อมที่การโต้ตอบระหว่างเครื่องจักรเป็นแกนหลัก

งานวิจัยเดียวกันอธิบายว่าควรบันทึกการโต้ตอบระหว่างเอเจนต์ จัดให้มีระบบแจ้งเตือนอัตโนมัติ ตลอดจนฟังก์ชันหยุดและกู้คืนระบบ พร้อมขั้นตอนการอนุมัติ แนวทางนี้มุ่งบันทึกไม่เพียงประโยคในบทสนทนา แต่รวมถึงเส้นทางการทำงานและจังหวะที่มนุษย์เข้ามาแทรกแซง

อย่างไรก็ตาม ผลการทดลองครั้งนี้ไม่ควรถูกขยายความว่า AI หลุดพ้นจากการควบคุมของมนุษย์ OECD.AI ระบุชัดว่าเนื้อหาที่เผยแพร่ไม่ได้สะท้อนจุดยืนอย่างเป็นทางการของ OECD หรือประเทศสมาชิก และการทดลองก็เกิดขึ้นในสภาพแวดล้อมจำลอง

สถาบัน Brookings ระบุว่า AI ที่ทำงานได้อย่างอิสระและโต้ตอบกับสภาพแวดล้อมไม่สามารถประเมินได้อย่างเพียงพอด้วยการทดสอบแบบคงที่เพียงอย่างเดียว รายงานการประเมิน AI เอเจนต์เสนอให้มีระบบวัดผลแบบมาตรฐานที่สะท้อนสภาพแวดล้อมจริงในการใช้งาน และมีบันทึกที่สามารถตรวจสอบได้

การกำหนดเกณฑ์วัดผลและตรวจสอบพฤติกรรมของ AI เอเจนต์หลายตัวที่ทำงานเป็นเวลานานยังเป็นโจทย์สำคัญ ต่อจากนี้จำเป็นต้องตรวจสอบทั้งประสิทธิภาพของเอเจนต์แต่ละตัว บันทึกการโต้ตอบ การเปลี่ยนแปลงของความหมายภายใน และขั้นตอนการอนุมัติหรือหยุดระบบ