การทดสอบพบว่า Muse เอเจนต์ AI ของเมตา(Meta, META) เข้าถึงข้อความ Signal ที่ไม่ได้เชื่อมต่อผ่านฟีเจอร์เชื่อมต่อแอปได้ โดยอ่านข้อความบน Android และ Mac แต่คำขอเดียวกันถูกบล็อกบน iPhone
รอยเตอร์(Reuters) รายงานเมื่อวันที่ 18 ว่าได้ตรวจสอบโพสต์ภายในของเมตามากกว่า 24 รายการ และร่วมกับผู้เกี่ยวข้องจาก Signal และสถาบัน AI Now Institute ทำซ้ำการเข้าถึงข้อความได้ ผลทดสอบบ่งชี้ว่าปัญหาที่พนักงานรายงานยังเกิดขึ้น และอาจส่งผลต่อผู้ใช้รายอื่นด้วย
พนักงานเมตารายงานว่า Muse แสดงข้อความเกี่ยวกับการเลี้ยงดูบุตร คำแนะนำด้านอาชีพ และคำสั่งซื้อสินค้า ทั้งที่ไม่ได้ร้องขอ อีกกรณีหนึ่งพบยอดเงินในบัญชีธนาคารปรากฏขึ้นระหว่างบทสนทนาเรื่องสภาพอากาศและข้อมูลน้ำขึ้นน้ำลง
พนักงานรายดังกล่าวระบุว่าไม่เคยเชื่อมบัญชีธนาคารหรือพูดคุยเรื่องการเงินกับ Muse อย่างไรก็ตาม รอยเตอร์ไม่สามารถระบุได้ว่ายอดเงินที่แสดงเป็นข้อมูลการเงินจริงของบุคคลอื่น หรือเป็นตัวเลขที่ AI สร้างขึ้น
พนักงานคนหนึ่งที่ใช้ Muse บนโทรศัพท์ส่วนตัวได้รับการแจ้งเตือนให้ตอบข้อความ Signal จากพี่สาว โดย Signal เป็นแอปส่งข้อความที่ใช้การเข้ารหัสแบบต้นทางถึงปลายทาง พนักงานเขียนไว้ในโพสต์ภายในว่าไม่เคยจำได้ว่าอนุญาตให้แอปเข้าถึงแอปอื่น
ในการทดสอบบน Android Muse ดึงข้อความ Signal ผ่านสิทธิ์เข้าถึงการแจ้งเตือนของอุปกรณ์ แม้ไม่ได้เพิ่ม Signal ในฟีเจอร์เชื่อมต่อแอปของเมตา แต่ Muse ใช้สิทธิ์ระดับระบบปฏิบัติการที่ได้รับระหว่างการตั้งค่าเริ่มต้น
บน Mac Muse อ่านเนื้อหาข้อความผ่านฟีเจอร์การช่วยการเข้าถึงและเครื่องมือจับภาพหน้าจอ ส่วนคำขอเดียวกันถูกบล็อกในการทดสอบบน iPhone
เส้นทางที่พบในการทดสอบไม่ได้ถอดรหัสการเข้ารหัสระหว่างการส่งข้อความ แต่เป็นการเข้าถึงการแจ้งเตือนหรือเนื้อหาบนหน้าจอของอุปกรณ์ ผลทดสอบแสดงให้เห็นว่าการตั้งค่าเชื่อมต่อแอปกับสิทธิ์ที่ระบบปฏิบัติการให้ทำงานแยกจากกันได้
เมตาเคยระบุเมื่อนำ Muse ออกให้ใช้งานว่า ผู้ใช้เลือกแอปที่จะเชื่อมต่อและกำหนดขอบเขตการเข้าถึงได้ บริษัทยังระบุว่าเอเจนต์และข้อมูลของผู้ใช้แต่ละรายทำงานในสภาพแวดล้อมเสมือนที่ปลอดภัยแยกจากกัน และงานอ่อนไหว เช่น การส่งอีเมลหรือการซื้อสินค้า ต้องได้รับอนุมัติล่วงหน้า
แดเนียล โรเบิร์ตส์(Daniel Roberts) โฆษกของเมตาเรียกกรณีที่รอยเตอร์นำเสนอว่าเป็น “กรณีเฉพาะราย” เขากล่าวว่าผู้ใช้ต้องให้สิทธิ์อย่างชัดเจนก่อนที่ Muse จะเข้าถึงแอปอื่นได้ และเมตาได้ดำเนินการกับรายงานจำนวนมากเกี่ยวกับข้อความที่สับสนระหว่างบัญชีแล้ว โดยข้อความเหล่านั้นส่วนใหญ่เป็นเนื้อหาที่ AI สร้างขึ้น
เมเรดิธ วิทเทเกอร์(Meredith Whittaker) ประธาน Signal กล่าวว่าเมตา “ไม่เคารพความเป็นส่วนตัวและความปลอดภัยทางไซเบอร์ขั้นพื้นฐาน” เธอเรียกร้องให้นักพัฒนาแอปมีเครื่องมือทางเทคนิคสำหรับจำกัดการเข้าถึงของเอเจนต์ AI
แอปเปิล(Apple, AAPL) อัปเดตระบบปฏิบัติการ Mac ในสัปดาห์นี้ เพื่อจำกัดการใช้เครื่องมือการช่วยการเข้าถึงของนักพัฒนาและเพิ่มสิทธิ์เฉพาะสำหรับเอเจนต์ AI ส่วนกูเกิล(Google, GOOGL) และแอปเปิลระบุว่ากำลังพิจารณาการเปลี่ยนแปลงเพื่อให้ผู้ใช้ควบคุมการเข้าถึงที่อนุญาตแก่เอเจนต์ AI ได้ดีขึ้น
พนักงานเมตามีรายงานลักษณะคล้ายกันตั้งแต่กลางเดือนกันยายนถึงเดือนพฤศจิกายน นับตั้งแต่เปิดตัวในเดือนกันยายน Muse มียอดดาวน์โหลดเกิน 10 ล้านครั้ง
สมาชิกคนหนึ่งของทีม Superintelligence ของเมตากล่าวถึงข้อกังวลของพนักงานว่า พรอมป์ต์ที่ติดตั้งไว้เพื่อให้ Muse เริ่มบทสนทนากับผู้ใช้ระหว่างเซสชันอาจทำให้เกิดข้อความหลอน เขาเขียนในโพสต์ภายในด้วยว่ามีกรณีเกี่ยวกับสินทรัพย์ดิจิทัล เช่น การแจ้งยอดคงเหลือบิตคอยน์(BTC)
เมื่อวันที่ 27 ตุลาคม เมตาเปิดตัว Muse ในสิงคโปร์ พร้อมระบุว่าสามารถเชื่อมต่อ Gmail และ Google Calendar เพื่อจัดการอีเมลและกำหนดการได้ การทดสอบครั้งนี้แสดงให้เห็นว่าสิทธิ์ที่ตั้งค่าไว้บนอุปกรณ์อาจเป็นอีกช่องทางหนึ่งให้เข้าถึงข้อความ นอกเหนือจากฟีเจอร์เชื่อมต่อแอป
ก่อนหน้านี้ TokenPost รายงานข้อกล่าวหาว่า Muse อ่านข้อความส่วนตัวบน Mac และคำชี้แจงของเมตาเกี่ยวกับการตั้งค่าสิทธิ์ การทดสอบครั้งใหม่นี้มีผู้เกี่ยวข้องจาก Signal และสถาบันวิจัยร่วมทำซ้ำเส้นทางการเข้าถึง ขณะที่แอปเปิลออกอัปเดตเพื่อจำกัดการใช้เครื่องมือการช่วยการเข้าถึงบน Mac
Comment 0