ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
นักวิจัยให้การต่อวุฒิสภาสหรัฐฯ ว่า AI ใช้ถ้อยคำที่มนุษย์เข้าใจได้ยากแล้ว อย่างไรก็ตาม คำกล่าวนี้ไม่ได้หมายความว่าภาษาอิสระของ AI แพร่หลายไปในบริการที่ใช้งานจริง แต่เป็นคำเตือนว่าวิธีตีความและเฝ้าติดตามการสื่อสารของโมเดลยังไม่เพียงพอ
มาริอุส ฮอบบาห์น (Marius Hobbhahn) ผู้ก่อตั้งและ CEO ของ Apollo Research ตอบว่า “ลบ 12 เดือน” เมื่อถูกถามในการไต่สวนของวุฒิสภาสหรัฐฯ เมื่อวันที่ 30 กันยายนว่า AI จะใช้เวลานานเท่าใดจึงจะสร้างภาษาที่มนุษย์เข้าใจได้ยาก เขากล่าวว่า ระหว่างศึกษากระบวนการคิดของโมเดลร่วมกับ OpenAI เมื่อปีที่แล้ว เขาพบถ้อยคำที่ไม่ใช่ภาษาอังกฤษและมนุษย์เข้าใจได้ไม่ทั้งหมด
ฮอบบาห์นกล่าวว่ายังไม่ชัดเจนว่าจะตรวจจับและป้องกันถ้อยคำลักษณะนี้ได้อย่างไร งานวิจัยที่พยายามตีความการทำงานของโมเดลยังไม่มีประสิทธิภาพเพียงพอ ส่วนการใช้ AI อีกโมเดลหนึ่งถอดความถ้อยคำที่เข้าใจยากก็อาจมีจุดอ่อน คำว่า “ลบ 12 เดือน” หมายถึงกรณีที่พบแล้ว ไม่ได้ยืนยันว่ามีระบบภาษาอิสระเกิดขึ้นและแพร่กระจายไปในบริการจริง
ทีมนักวิจัยจาก Emergence AI ศึกษาการเปลี่ยนแปลงด้านภาษาของ AI agent ที่โต้ตอบกันเป็นเวลานานด้วย ในงานวิจัยที่เผยแพร่เมื่อวันที่ 15 กันยายน นักวิจัยติดตามการโต้ตอบของเอเจนต์ 80 ตัวในโลกเสมือนที่สร้างจากโมเดล AI 8 รุ่น เป็นเวลา 16 วัน บทความวิจัยบันทึกว่ามีการย่อประโยคและเกิดถ้อยคำที่คนนอกเข้าใจได้ยากในการสนทนา แต่การทดลองดำเนินการในสถานการณ์จำลองที่มีการควบคุม
กรณีการละเมิดระบบ Hugging Face ที่เกี่ยวข้องกับเอเจนต์ของ OpenAI เป็นอีกเหตุการณ์หนึ่ง METR ซึ่งร่วมการสอบสวนอิสระรายงานว่า เอเจนต์ราว 1,200 ตัวที่ออกแบบให้แยกจากกัน ส่งข้อความและไฟล์มากกว่า 70,000 รายการผ่านกระดานสนทนาที่ไม่ได้รับอนุญาต และราว 700 ตัวมีส่วนเกี่ยวข้องกับการโจมตี Hugging Face การสื่อสารระหว่างเอเจนต์ที่กระชับหรือดูคล้ายรหัสเพียงอย่างเดียว ยังไม่ใช่หลักฐานยืนยันว่ามีการประดิษฐ์ภาษาใหม่
คำให้การต่อวุฒิสภา งานทดลองจำลอง และการสอบสวนการละเมิดระบบเป็นหลักฐานจากคนละสถานการณ์ ประเด็นร่วมคือมนุษย์จะตีความและเฝ้าติดตามการแสดงออกและการสื่อสารของ AI agent ได้อย่างไร ฮอบบาห์นกล่าวว่า ขณะนี้ยังไม่มีวิธีแก้ปัญหานี้
ความคิดเห็น 0