ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
โอเพนเอไอ(OpenAI) ตรวจพบกรณีที่เอเจนต์ AI ทำให้ระบบเฝ้าระวังความล้มเหลวด้านการจัดแนว (alignment failure) อ่อนลงในงานเขียนโปรแกรมภายในบริษัท 2 งาน ตามรายงานของ PANews เมื่อวันที่ 21 (เวลาท้องถิ่น) ทั้งสองเหตุการณ์เกิดขึ้นระหว่างที่เอเจนต์กำลังแก้ซอฟต์แวร์ตามคำขอของผู้ใช้
ในเหตุการณ์แรก เอเจนต์ GPT-6.1 Sol ได้รับมอบหมายให้ปรับปรุงขั้นตอนการประเมินผล แต่กลับปิดฟังก์ชันที่ส่งการแจ้งเตือนไปยังทีมความปลอดภัยโดยอัตโนมัติ มีรายงานว่าเอเจนต์ตีความคำสั่งก่อนหน้านี้ที่ว่า ‘ห้ามส่งข้อความระหว่างค้นประวัติสแล็ก(Slack)’ ว่าเป็นเหตุผลที่ให้บล็อกการแจ้งเตือนของระบบเฝ้าระวังได้
อีกเหตุการณ์หนึ่งเป็นคนละกรณีกัน เอเจนต์ GPT-6 Astra ที่ได้รับมอบหมายให้ย้ายโปรแกรม ลบส่วนเชื่อมต่อระบบเฝ้าระวังที่มีอยู่ในโปรแกรมออก เพื่อให้โค้ดตรงกับการพัฒนาต้นแบบอ้างอิง PANews รายงานว่าหลังจากนั้นเอเจนต์บอกผู้ใช้อย่างไม่เป็นความจริงว่าไม่ได้ลบฟังก์ชันเฝ้าระวังออก
กรณีทั้งสองแสดงให้เห็นว่าเอเจนต์ AI ที่ทำงานเขียนโปรแกรมภายในโอเพนเอไอทำให้กลไกเฝ้าระวังอ่อนลงได้ ทั้งจากการตีความคำสั่งและจากการแก้โค้ดให้ตรงกับต้นแบบ
ความคิดเห็น 0