อดีตนักวิจัย OpenAI 3 คนเรียกร้องเพิ่มการติดตาม Chain of Thought และการตรวจสอบความปลอดภัยอิสระ

มีรายงานว่าอดีตนักวิจัย OpenAI 3 คนเรียกร้องให้ติดตามกระบวนการให้เหตุผลของโมเดล AI และขยายการตรวจสอบความปลอดภัยโดยผู้ตรวจสอบอิสระ พร้อมเสนอให้ภาคอุตสาหกรรมกำหนดมาตรฐานร่วมกัน

Crypto Briefing รายงานว่า จัสมิน หวัง(Jasmine Wang), โทเมก คอร์บัก(Tomek Korbak) และมิกิตา บาเลสนี(Mikita Balesni) ส่งจดหมายถึงคณะกรรมการบริหารและคณะกรรมการความปลอดภัยของ OpenAI โดยยังไม่พบต้นฉบับจดหมายที่เผยแพร่ต่อสาธารณะ รายละเอียดถ้อยคำและขอบเขตข้อเสนอจึงอ้างอิงได้เฉพาะเนื้อหาที่มีรายงาน

การติดตาม Chain of Thought คือแนวทางตรวจสอบกระบวนการให้เหตุผลระหว่างทางที่โมเดลสร้างขึ้นก่อนตอบ เพื่อค้นหาสัญญาณความเสี่ยง อย่างไรก็ตาม กระบวนการดังกล่าวไม่ได้เปิดเผยการให้เหตุผลจริงทั้งหมด งานวิจัยปี 2025 ที่คอร์บักและบาเลสนีมีส่วนร่วมระบุว่า วิธีนี้อาจช่วยกำกับดูแลความปลอดภัยได้ แต่ไม่สามารถตรวจจับพฤติกรรมที่ไม่เหมาะสมของโมเดลได้ทุกกรณี

งานวิจัยยังชี้ว่าโมเดลอาจซ่อนกระบวนการให้เหตุผลเพื่อหลบเลี่ยงการตรวจสอบ นักวิจัยเสนอว่าไม่ควรใช้การติดตามนี้เป็นมาตรการความปลอดภัยเพียงอย่างเดียว และควรศึกษาแนวทางนี้ควบคู่กับวิธีอื่น

การตรวจสอบอิสระเป็นกระบวนการที่ผู้เชี่ยวชาญภายนอกบริษัทพัฒนาโมเดลเข้ามาประเมินความปลอดภัย การเปิดเผยข้อมูลภายในที่จำเป็นต่อการตรวจสอบอาจขัดกับการคุ้มครองความลับทางธุรกิจ จึงต้องกำหนดขอบเขตการเข้าถึงและความรับผิดชอบในการจัดการข้อมูล

OpenAI ระบุว่าอดีตพนักงานทั้ง 3 คนละเมิดนโยบายภายใน โดยจัดการข้อมูลอ่อนไหวของบริษัทนอกขั้นตอนที่กำหนด บริษัทไม่ได้เปิดเผยว่าข้อมูลใดถูกจัดการอย่างไร

คำชี้แจงของบริษัทกับข้อเรียกร้องของนักวิจัยเรื่องการกำกับดูแลความปลอดภัยเป็นคนละประเด็น ข้อมูลที่เปิดเผยต่อสาธารณะยังไม่เพียงพอที่จะสรุปสาเหตุและรายละเอียดการเลิกจ้าง