เฟยเฟย หลี่เรียกร้องเกณฑ์มาตรฐานอิสระสำหรับประเมิน AI

เฟยเฟย หลี่(Fei-Fei Li) ซีอีโอของเวิลด์ แล็บส์(World Labs) เรียกร้องให้จัดตั้งระบบกำกับดูแลอิสระที่เปิดให้ภาควิชาการ รัฐบาล และภาคอุตสาหกรรมมีส่วนร่วม โดยระบุว่าไม่ควรปล่อยให้บริษัทผู้พัฒนารับผิดชอบการประเมินปัญญาประดิษฐ์(AI) ขั้นสูงเพียงฝ่ายเดียว

บลูมเบิร์กรายงานเมื่อวันที่ 22 ว่า หลี่กล่าวในการให้สัมภาษณ์ที่เผยแพร่ในวันดังกล่าวว่า จำเป็นต้องมีเกณฑ์มาตรฐานอิสระและโครงสร้างการประเมินที่มีผู้มีส่วนได้ส่วนเสียหลายฝ่ายเข้าร่วม เนื่องจากการให้บริษัท AI ประเมินโมเดลของตนเองด้วยเกณฑ์ที่บริษัทสร้างขึ้น อาจทำให้ยากต่อการรับรองความเป็นกลางและความรับผิดชอบของผลลัพธ์

เกณฑ์มาตรฐานอิสระไม่ใช่แนวคิดเดียวกับความเป็นอิสระของหน่วยงานประเมิน โดยเกณฑ์มาตรฐานหมายถึงระบบทดสอบที่กำหนดว่าจะเปรียบเทียบโมเดล AI ด้วยหลักเกณฑ์ใด แม้หน่วยงานประเมินจะอยู่ภายนอกบริษัท แต่หากผู้พัฒนาเป็นผู้กำหนดเกณฑ์ทดสอบและขอบเขตการประเมิน ผลลัพธ์ก็อาจถูกนำไปใช้เป็นเครื่องมือประชาสัมพันธ์ประสิทธิภาพได้

เบื้องหลังโดยตรงของข้อถกเถียงนี้คือข้อเสนอให้มีผู้ประเมินจากภายนอกประจำอยู่ภายในบริษัท AI ดาริโอ อาโมเดอี(Dario Amodei) ซีอีโอของแอนโทรปิก(Anthropic) เสนอให้ผู้ประเมินภายนอกได้รับสิทธิ์เข้าถึงระบบในระดับใกล้เคียงกับพนักงานบริษัท ขณะที่แซม อัลต์แมน(Sam Altman) ซีอีโอของ OpenAI ก็เห็นด้วยกับแนวคิดดังกล่าว

แนวทางนี้จะให้ทีมประเมินใช้สำนักงาน บัตรผ่านเข้าออก และอุปกรณ์ของบริษัท เพื่อตรวจสอบแนวปฏิบัติด้านความปลอดภัย สำนักข่าวเอพีรายงานว่า วิธีให้ผู้ประเมินภายนอกเข้าถึงระบบภายในและสภาพแวดล้อมการทำงานของบริษัทถูกหยิบยกขึ้นมาในการหารือที่เกี่ยวข้อง

ฝ่ายคัดค้านชี้ว่า ความเป็นอิสระอาจถูกกระทบหากบริษัทที่ถูกประเมินเป็นผู้คัดเลือกหน่วยงานประเมินและเป็นผู้รับผิดชอบค่าใช้จ่ายด้วย ไอแดน โกเมซ(Aidan Gomez) ซีอีโอของโคเฮียร์(Cohere) วิจารณ์ว่าไม่ควรปล่อยให้บริษัทไม่กี่แห่งที่มีผลประโยชน์ทางการค้ากำหนดกฎเกณฑ์ด้าน AI ขณะที่เอลแฮม ทาบาสซี(Elham Tabassi) นักวิจัยจากสถาบันบรูกกิงส์ ชี้ว่าคำมั่นโดยสมัครใจของบริษัทเพียงอย่างเดียวไม่เพียงพอ

ทาบาสซีกล่าวว่าจำเป็นต้องมีวิธีประเมินที่สามารถตรวจสอบได้ทางวิทยาศาสตร์ ความเห็นของทั้งสองสะท้อนข้อกังวลว่า การมีผู้ประเมินภายนอกเพียงอย่างเดียวอาจไม่เพียงพอที่จะรับรองความเป็นกลางและความรับผิดชอบของการประเมิน

ผู้ประเมิน AI ยังเดินหน้าเรียกร้องให้เปิดเผยข้อมูลเพิ่มเติม โดย AI Evaluator Forum ระบุในจดหมายเปิดผนึกเมื่อวันที่ 18 ซึ่งมีนักวิจัยและผู้ประเมินมากกว่า 100 คนร่วมลงชื่อว่า หน่วยงานประเมินบุคคลที่สามควรมีสิทธิ์ตัดสินใจและสิทธิ์แก้ไขเนื้อหาอย่างเป็นอิสระ พร้อมได้รับสิทธิ์เข้าถึงระบบและเวลาที่เพียงพอสำหรับการประเมิน

จดหมายเปิดผนึกยังเรียกร้องให้มีมาตรการป้องกันการตอบโต้จากบริษัท เพื่อให้หน่วยงานประเมินไม่ต้องเปลี่ยนผลการตัดสินใจเพราะกังวลว่าจะถูกยกเลิกสัญญาหรือถูกขู่ว่าจะดำเนินคดี แม้ผลการประเมินจะไม่เป็นผลดีต่อบริษัทก็ตาม

หลักการด้านความโปร่งใสในการประเมินที่ AI Evaluator Forum เผยแพร่ในปี 2025 ยังระบุว่า การควบคุมวิธีประเมิน สิทธิ์แก้ไขผลลัพธ์ ระดับการเข้าถึงระบบ และการเปิดเผยผลประโยชน์ทับซ้อนระหว่างหน่วยงานประเมินกับผู้พัฒนา เป็นเงื่อนไขสำคัญ อย่างไรก็ตาม ยังไม่พบการยืนยันว่าหลักการดังกล่าวถูกทำให้เป็นส่วนหนึ่งของสัญญาบริษัทหรือข้อผูกพันทางกฎหมายแล้ว

ก่อนหน้านี้ หลี่ก็เสนอแนวทางเชิงสถาบันที่รวมการตรวจสอบโดยบุคคลที่สามไว้ด้วย กลุ่มทำงานร่วมด้านนโยบายโมเดล AI แนวหน้าของรัฐแคลิฟอร์เนียเสนอในรายงานปี 2025 ให้เชื่อมโยงการประเมินความเสี่ยงเข้ากับการตรวจสอบโดยบุคคลที่สามและขยายความโปร่งใส โดยหลี่เป็นหนึ่งในผู้เขียนร่วมรายงาน

การหารือครั้งนี้สานต่อจาก ข้อเรียกร้องก่อนหน้านี้ที่ให้รับรองสิทธิ์เข้าถึงระบบและสิทธิ์แก้ไขผลลัพธ์แก่ทีมประเมินความปลอดภัย AI ประเด็นสำคัญจึงไม่ได้อยู่ที่การมีผู้ประเมินภายนอกหรือไม่ แต่อยู่ที่ว่าใครมีอำนาจกำหนดเกณฑ์ประเมิน รวมถึงเปิดเผยและแก้ไขผลลัพธ์

สำหรับบริษัท AI และผู้กำหนดนโยบายในประเทศ ประเด็นนี้เป็นเกณฑ์ให้พิจารณาว่า การคัดเลือกหน่วยงานประเมิน โครงสร้างรับผิดชอบค่าใช้จ่าย ขอบเขตการเข้าถึงระบบ และวิธีเปิดเผยผลลัพธ์ ได้รับการออกแบบอย่างเป็นอิสระหรือไม่ การมอบหมายให้หน่วยงานภายนอกประเมินเพียงอย่างเดียวไม่ได้รับประกันว่าผลการประเมินจะเป็นอิสระ

ขณะนี้ยังไม่มีการยืนยันการจัดตั้งหน่วยงานกำกับดูแลอิสระหรือกฎระเบียบที่มีผลผูกพัน ขั้นตอนที่ยืนยันได้คือ บริษัท AI และนักวิจัยกำลังเรียกร้องระบบประเมินที่มีความเป็นอิสระ สิทธิ์เข้าถึงระบบ และความโปร่งใส ส่วนข้อเสนอเหล่านี้จะนำไปสู่สัญญาและมาตรการเชิงสถาบันจริงหรือไม่ ยังคงต้องติดตามการหารือเพิ่มเติม