ผู้ประเมิน AI เรียกร้องสิทธิ์แก้ไขผลและมาตรการป้องกันการตอบโต้ นอกเหนือจากสิทธิ์เข้าถึง

ข้อถกเถียงเรื่องความเป็นอิสระของการประเมินความปลอดภัยของ AI กลับมาเป็นประเด็นอีกครั้ง หลังมีข้อสังเกตว่าผู้ประเมินภายนอกอาจไม่สามารถรับประกันความเป็นอิสระของผลประเมินได้ หากยังต้องพึ่งพาองค์กรและเงื่อนไขสัญญา แม้จะเข้าถึงระบบของบริษัทได้ก็ตาม

ฟอรัมผู้ประเมิน AI (AI Evaluator Forum) ระบุในจดหมายเปิดผนึกเมื่อวันที่ 18 ว่า หน่วยงานประเมินภายนอกจำเป็นต้องมีความเป็นอิสระเชิงโครงสร้าง สิทธิ์แก้ไขผลประเมิน สิทธิ์เข้าถึงระบบและข้อมูลที่ถูกประเมินอย่างเพียงพอ การเปิดเผยข้อมูลอย่างโปร่งใส และมาตรการป้องกันการตอบโต้ จดหมายเปิดผนึกของฟอรัมผู้ประเมิน AI ระบุหลักการว่าต้องเปิดเผยวิธีการและขอบเขตการเข้าถึงของการประเมินโดยบุคคลที่สาม รวมถึงการมีหรือไม่มีผลประโยชน์ทับซ้อน

มีคำอธิบายว่าจดหมายเปิดผนึกดังกล่าวมีนักวิจัยและผู้ประเมิน AI เข้าร่วมมากกว่า 100 คน แต่รายชื่อผู้ลงนามเดิมที่ตรวจสอบได้จากหน้าอย่างเป็นทางการของฟอรัมมีประมาณ 40 คน และเผยแพร่เมื่อวันที่ 4 ธันวาคม 2025 ทั้งนี้ ยังไม่พบรายชื่อผู้ลงนามทั้งหมดของจดหมายเปิดผนึกที่เผยแพร่เมื่อวันที่ 18

เบื้องหลังข้อถกเถียงคือข้อเสนอให้ผู้ประเมินอิสระเข้าประจำการภายในบริษัท AI ดาริโอ อโมเดอี(Dario Amodei) ซีอีโอของแอนโทรปิก (Anthropic) เสนอให้ผู้ประเมินภายนอกได้รับสิทธิ์เข้าถึงอย่างต่อเนื่องในระดับใกล้เคียงกับพนักงาน พร้อมระบุว่าแอนโทรปิกเสนอพื้นที่ทำงาน บัตรผ่านเข้าออก และแล็ปท็อปของบริษัทให้แก่ผู้ประเมิน

แซม อัลต์แมน(Sam Altman) ซีอีโอของ OpenAI เห็นด้วยกับแนวทางดังกล่าวและกล่าวว่า OpenAI จะเข้าร่วมด้วย AP รายงานว่าแอนโทรปิกและ OpenAI สนับสนุนแนวทางการดำเนินงานที่รวมถึงการให้ผู้ประเมินภายนอกเข้าถึงระบบอย่างต่อเนื่อง รายงานของ AP

ประเด็นที่ฟอรัมผู้ประเมิน AI ตั้งคำถามคือ สิทธิ์เข้าถึงกับความเป็นอิสระไม่ใช่แนวคิดเดียวกัน ผู้ประเมินอาจเห็นระบบภายในและข้อมูลที่ไม่เปิดเผยต่อสาธารณะได้ แต่หากบริษัทเป็นผู้ควบคุมการคัดเลือกผู้ประเมิน เงื่อนไขสัญญา และขอบเขตการเปิดเผยข้อมูล ก็อาจทำให้การเปิดเผยผลลัพธ์ที่ไม่เป็นคุณต่อบริษัททำได้ยาก

มาตรฐาน AEF-1 ที่ฟอรัมเสนอระบุเงื่อนไขของการประเมินอย่างเป็นอิสระ ได้แก่ สิทธิ์เข้าถึงเทคนิคและข้อมูลอย่างเพียงพอ การลดผลประโยชน์ทับซ้อน ความเป็นอิสระในการวิเคราะห์ ความโปร่งใสของระเบียบวิธีและผลลัพธ์ รวมถึงการคุ้มครองข้อมูลอ่อนไหว มาตรฐาน AEF-1 ไม่ได้มีเป้าหมายแทนที่หน่วยงานกำกับดูแลหรือการกำกับของรัฐบาล แต่กำหนดเงื่อนไขการดำเนินงานขั้นต่ำเพื่อให้การประเมินภายนอกทำงานได้

ตามมาตรฐาน AEF-1 ผู้ประเมินต้องเปิดเผยเช็กลิสต์ควบคู่กับผลประเมิน เพื่ออธิบายขอบเขตการเข้าถึงและการมีหรือไม่มีผลประโยชน์ทับซ้อนในขณะประเมิน หากไม่สามารถทำได้ครบทุกเงื่อนไข ก็ต้องบันทึกเหตุผลไว้ด้วย

การอภิปรายครั้งนี้ทำให้ข้อถกเถียงเดิมเรื่องการแยกสิทธิ์เข้าถึงและสิทธิ์แก้ไขผลในการประเมินความปลอดภัยของ AI มีรายละเอียดชัดเจนขึ้นในประเด็นการดำเนินงานของผู้ประเมินที่ประจำอยู่ภายในบริษัท การอภิปรายเดิมเรื่องความเป็นอิสระของสิทธิ์เข้าถึงและสิทธิ์แก้ไขผลในการประเมินความปลอดภัยของ AI มุ่งเสนอหลักการความเป็นอิสระของการประเมินโดยบุคคลที่สาม ขณะที่ครั้งนี้ประเด็นอยู่ที่ว่าผู้ประเมินซึ่งทำงานอยู่ภายในบริษัทจะยังสามารถตัดสินใจและเปิดเผยผลอย่างเป็นอิสระได้หรือไม่

บริษัทต่าง ๆ ระบุว่าการผสานความเชี่ยวชาญภายในเข้ากับสิทธิ์เข้าถึงของผู้ประเมินภายนอกเป็นแนวทางที่ใช้งานได้จริง เนื่องจากสามารถเปิดระบบที่ต้องรักษาความปลอดภัยและความลับให้ผู้ประเมินภายนอกเข้าถึงได้ พร้อมใช้การสนับสนุนด้านเทคนิคจากบุคลากรภายในบริษัท

ในทางกลับกัน หน่วยงานประเมินและนักวิจัยบางส่วนชี้ว่า ความหมายของการประเมินภายนอกอาจลดลง หากบริษัทที่ถูกประเมินเป็นผู้ควบคุมการคัดเลือกผู้ประเมิน เงื่อนไขสัญญา และวิธีเปิดเผยผลลัพธ์ นอกจากนี้ ความเชื่อมโยงด้านบุคลากรและเงินทุนระหว่างหน่วยงานประเมิน บริษัท AI และกลุ่มเคลื่อนไหวด้านการวิจัยบางแห่งก็ถูกหยิบยกเป็นประเด็นผลประโยชน์ทับซ้อน

Axios รายงานข้อถกเถียงว่าผู้ประเมินโดยบุคคลที่สามบางรายมีความสัมพันธ์ใกล้ชิดกับบริษัทที่ถูกประเมินหรือกลุ่มเคลื่อนไหวด้านการวิจัยบางแห่ง รายงานของ Axios ระบุว่า การพิจารณาความเป็นอิสระของหน่วยงานประเมินต้องตรวจสอบทั้งความเชื่อมโยงด้านเงินทุน บุคลากร และวิธีเปิดเผยผลประเมิน

ก่อนหน้านี้ ความเป็นอิสระของอำนาจประเมินและโครงสร้างพื้นฐานด้านการตรวจสอบก็เป็นประเด็นสำคัญในการถกเถียงเรื่องความปลอดภัยของ AI ข้อกังวลว่าบริษัทจำนวนน้อยอาจควบคุมทั้งมาตรฐานความปลอดภัยและผลประเมิน เชื่อมโยงไปสู่คำถามว่าจะต้องแยกอำนาจและหน้าที่เปิดเผยข้อมูลของผู้ประเมินอย่างไร หากการประเมินภายในบริษัทขยายตัว

ยังไม่มีการกำหนดอย่างชัดเจนว่าแอนโทรปิกและ OpenAI จะมอบอำนาจให้ผู้ประเมินภายนอกในระดับใด รวมถึงใครจะเป็นผู้ตัดสินใจเรื่องการคัดเลือกผู้ประเมินและการเปิดเผยผลลัพธ์ หากต้องการให้ระบบประเมินอิสระทำงานได้จริง บริษัทต่าง ๆ ยังต้องกำหนดเพิ่มเติมว่าจะบรรจุสิทธิ์เข้าถึง สิทธิ์เปิดเผยข้อมูล และมาตรการป้องกันการตอบโต้ไว้ในสัญญาและขั้นตอนการดำเนินงานอย่างไร