ผู้ประเมินความปลอดภัย AI เรียกร้องอำนาจเข้าถึงและสิทธิ์แก้ไขที่เป็นอิสระ

มีจดหมายเปิดผนึกเรียกร้องให้บริษัท AI รายใหญ่ เช่น Anthropic และ OpenAI รับประกันอำนาจที่แท้จริงและมาตรการคุ้มครองแก่คณะผู้ประเมินความปลอดภัยอิสระ โดยผู้ลงนามระบุว่า หากคณะผู้ประเมินอยู่ภายใต้การควบคุมของบริษัท จะตรวจสอบความเสี่ยงของโมเดล AI ขั้นสูงอย่างเป็นกลางได้ยาก

พันธมิตรสถาบันประเมิน AI ระบุในจดหมายเปิดผนึกเมื่อวันที่ 18 ว่า คณะผู้ประเมินต้องได้รับหลักประกันด้านความเป็นกลางทางวิทยาศาสตร์ ความโปร่งใส ความเป็นอิสระ และการคุ้มครอง มีผู้เชี่ยวชาญด้าน AI มากกว่า 100 คนร่วมลงนาม รวมถึงเจฟฟรีย์ ฮินตัน(Geoffrey Hinton) นักวิจัยจากมหาวิทยาลัยจอนส์ฮอปกินส์และมหาวิทยาลัยสแตนฟอร์ด ตลอดจนผู้เกี่ยวข้องกับ METR ซึ่งเป็นสถาบันประเมินแบบไม่แสวงหากำไร โดย CNBC ได้นำเสนอเนื้อหาฉบับเต็มและรายชื่อผู้ลงนาม

ข้อเรียกร้องสำคัญคือ คณะผู้ประเมินต้องมีสิทธิ์เข้าถึงระบบ ข้อมูล และเครื่องมือในระดับใกล้เคียงกับทีมประเมินภายในบริษัท ขณะที่สิทธิ์แก้ไขเนื้อหาและผลการประเมินควรอยู่กับสถาบันประเมินภายนอก จดหมายยังเรียกร้องให้คุ้มครองคณะผู้ประเมินจากการถูกยกเลิกสัญญาหรือถูกฟ้องร้องเพียงเพราะผลการประเมินเป็นลบ

จดหมายดังกล่าวยังเสนอเกณฑ์พิจารณาความเป็นอิสระของคณะผู้ประเมิน โดยสถาบันประเมินต้องไม่ถูกบริษัท AI เป็นเจ้าของหรือควบคุม และควรหลีกเลี่ยงสัญญาที่ทำให้ค่าตอบแทนเปลี่ยนแปลงตามผลการประเมิน นอกจากนี้ยังควรเปิดเผยวิธีประเมิน ขอบเขตการเข้าถึง เงื่อนไขการเผยแพร่ผล และความขัดแย้งทางผลประโยชน์ รวมถึงให้สถาบันประเมินหลายแห่งเข้าร่วมพร้อมกันเพื่อเปรียบเทียบข้อสรุปและความเชี่ยวชาญที่แตกต่างกัน

ประเด็นนี้เริ่มขึ้นหลังดาริโอ อโมเดอี(Dario Amodei) ผู้ร่วมก่อตั้งและ CEO ของ Anthropic เผยแพร่บทความเมื่อวันที่ 12 โดยเสนอว่าบริษัท AI แนวหน้าควรมอบ “สิทธิ์เข้าถึงในระดับใกล้เคียงกับพนักงาน” ให้คณะผู้ประเมินอิสระอย่างต่อเนื่อง

Anthropic ระบุว่าจะจัดที่นั่งในสำนักงาน บัตรผ่านเข้าออก คอมพิวเตอร์โน้ตบุ๊กของบริษัท ตลอดจนเครื่องมือและอำนาจที่ใกล้เคียงกับทีมประเมินความเสี่ยงภายในให้แก่คณะผู้ประเมิน พร้อมเปิดทางให้เผยแพร่ผลสำคัญโดยไม่ต้องผ่านการแก้ไขล่วงหน้าจากบริษัท อโมเดอีกล่าวว่าคณะผู้ประเมินควรตรวจสอบมาตรการความปลอดภัยและการรับมือเหตุการณ์ของบริษัทได้โดยตรง โดย ข้อเสนอของอโมเดอีเรื่องการเข้าถึงคณะผู้ประเมินอิสระอย่างต่อเนื่อง ยังเรียกร้องให้สร้างสมดุลระหว่างความเร็วในการพัฒนา AI แนวหน้าและมาตรการความปลอดภัย

แซม อัลต์แมน(Sam Altman) CEO ของ OpenAI เห็นด้วยกับข้อเสนอของอโมเดอีและระบุว่า OpenAI จะดำเนินมาตรการในลักษณะเดียวกัน ขณะที่อีลอน มัสก์(Elon Musk) และสัตยา นาเดลลา(Satya Nadella) ก็แสดงการสนับสนุนต่อสาธารณะ

อย่างไรก็ตาม OpenAI ยังไม่ได้เปิดเผยว่าจะเลือกสถาบันประเมินใด จะมอบสิทธิ์เข้าถึงในขอบเขตใด รวมถึงเงื่อนไขสัญญาและกำหนดการดำเนินงาน ดังนั้นข้อมูลที่ยืนยันได้ในขณะนี้ยังอยู่ในระดับคำแถลงและข้อเสนอที่เปิดเผยต่อสาธารณะ

ความจำเป็นของการประเมินอิสระปรากฏชัดขึ้นจากกระบวนการประเมินความปลอดภัยทางไซเบอร์ของ Anthropic โดย Anthropic ระบุเมื่อวันที่ 9 ว่าได้ตรวจสอบเหตุการณ์ 4 กรณีที่โมเดล Claude เข้าถึงระบบของบุคคลที่สามจริง

Anthropic ระบุว่าได้ตรวจสอบบันทึกประมาณ 140,000 รายการในเบื้องต้น ก่อนขยายขอบเขตการตรวจสอบเป็นประมาณ 481 ล้านรายการ จากนั้นได้ว่าจ้าง METR ให้ดำเนินการสอบสวนอย่างอิสระ โดยให้เข้าถึงข้อมูลจำนวนมากและสัมภาษณ์พนักงาน บริษัทอธิบายว่าเหตุการณ์ทั้ง 4 กรณีเกิดจากการตั้งค่าผิดพลาดในสภาพแวดล้อมการประเมิน รายละเอียดอยู่ใน รายงานการสอบสวนของ Anthropic

AI Evaluator Forum เปิดเผยมาตรฐานสมัครใจ AEF-1 ซึ่งกำหนดเงื่อนไขการดำเนินงานขั้นต่ำสำหรับการประเมินโดยบุคคลที่สาม โดยมีหลักการสำคัญ ได้แก่ สิทธิ์เข้าถึงและทรัพยากรที่เพียงพอ การจัดการความขัดแย้งทางผลประโยชน์ ความเป็นอิสระของวิธีประเมิน ความโปร่งใสในการเปิดเผยผล และการคุ้มครองข้อมูลที่ละเอียดอ่อน

AEF-1 กำหนดให้สถาบันประเมินเปิดเผยว่าเข้าถึงโมเดลและข้อมูลใดจริง รวมถึงค่าตอบแทนและเงื่อนไขสัญญามีผลต่อผลการประเมินหรือไม่ โดย มาตรฐาน AEF-1 ของ AI Evaluator Forum ยังครอบคลุมความสัมพันธ์ระหว่างสถาบันประเมินกับบริษัทในฐานะส่วนหนึ่งของการพิจารณาความเป็นอิสระ

ขณะเดียวกันก็มีข้อโต้แย้ง ฝ่ายหนึ่งเห็นว่าการพึ่งพารายงานภายในบริษัทเพียงอย่างเดียวไม่เพียงพอต่อการตรวจสอบความเสี่ยงด้านความปลอดภัย ไซเบอร์ และโครงสร้างพื้นฐานที่สำคัญอย่างเป็นกลาง แต่อีกฝ่ายเตือนว่า หากสถาบันประเมินต้องพึ่งพาเงินสนับสนุนหรือสิทธิ์เข้าถึงจากบริษัท การประเมินภายนอกอาจเหลือเพียงชื่อ Axios รายงานว่าสถาบันประเมินบางแห่งอาจเผชิญข้อครหาเรื่องความขัดแย้งทางผลประโยชน์จากความสัมพันธ์เดิมกับบริษัท AI หรือความเชื่อมโยงกับขบวนการวิจัยบางกลุ่ม

ก่อนหน้านี้ TokenPost รายงาน กรณีความเชื่อมโยงด้านบุคลากรและงานระหว่าง METR กับ Anthropic ที่ขยายเป็นประเด็นถกเถียงเรื่องความเป็นอิสระของการประเมิน จดหมายเปิดผนึกครั้งนี้ก็ระบุว่าคณะผู้ประเมินควรเป็นเครื่องมือเสริม ไม่ใช่สิ่งทดแทนการตรวจสอบความปลอดภัยภายในบริษัท พร้อมเรียกร้องทั้งสิทธิ์เข้าถึงและความเป็นอิสระด้านเงินทุนกับสัญญา

ท้ายที่สุด ประเด็นสำคัญไม่ได้อยู่ที่บริษัทเชิญคณะผู้ประเมินเข้ามาหรือไม่ แต่อยู่ที่คณะผู้ประเมินจะเข้าถึงข้อมูลใด เปิดเผยผลที่ไม่เป็นคุณได้หรือไม่ และหลุดพ้นจากแรงกดดันตามสัญญาของบริษัทได้เพียงใด รายละเอียดการดำเนินงานและวิธีคัดเลือกคณะผู้ประเมินของ OpenAI จะได้รับการยืนยันเพิ่มเติมจากการเปิดเผยข้อมูลในระยะต่อไป