ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
Anthropic ให้ผู้วิจัย 6 คนจาก METR ซึ่งเป็นองค์กรประเมินปัญญาประดิษฐ์อิสระ เข้าถึงข้อมูลภายในในระดับเดียวกับพนักงาน และเผยแพร่ผลการประเมินได้โดยไม่ต้องขออนุมัติล่วงหน้า
TechCrunch รายงานว่า Anthropic ประกาศเรื่องนี้เมื่อวันที่ 15 ผู้วิจัย METR จะใช้แล็ปท็อปและสำนักงานของบริษัท รวมถึงเข้าถึงเครื่องมือภายในได้ ระดับการเข้าถึงโดยรวมใกล้เคียงกับทีมประเมินความเสี่ยงของ Anthropic บริษัทแนะนำให้พนักงานสื่อสารกับผู้วิจัย METR เช่นเดียวกับเพื่อนร่วมงานที่ทำงานด้านความเสี่ยงจากการจัดแนว AI
มาตรการนี้มีความสำคัญเพราะ Anthropic สละสิทธิ์ในการขัดขวางการเผยแพร่ผลประเมิน METR สามารถเผยแพร่การประเมินของตนเกี่ยวกับความเสี่ยง เหตุการณ์ และแนวปฏิบัติของ Anthropic ได้ บริษัทขอให้ลบข้อมูลได้เฉพาะในหมวดหมู่แคบ ๆ ที่กำหนดไว้ล่วงหน้า เช่น ข้อมูลลูกค้า ข้อมูลที่อยู่ภายใต้เอกสิทธิ์ระหว่างทนายความกับลูกความ และข้อมูลเกี่ยวกับโครงสร้างโมเดล
ตราบใดที่ไม่เปิดเผยข้อมูลที่ถูกลบ METR ยังสามารถประเมินต่อสาธารณะได้ว่าการลบนั้นมีเหตุผลหรือไม่ ขั้นตอนนี้เปิดทางให้องค์กรประเมินแจ้งได้ว่าบริษัทแทรกแซงการเผยแพร่หรือไม่ โดยไม่เปิดเผยข้อมูลอ่อนไหว
Anthropic กำลังจัดทำระบบแบ่งระดับการเข้าถึงของผู้ประเมินภายนอกเป็น 3 ระดับ ผู้ประเมินระดับล่างจะตรวจสอบข้อมูลได้ในขอบเขตจำกัด เช่น SecureBio องค์กรไม่แสวงหากำไรด้านความมั่นคงชีวภาพ และต้องได้รับอนุมัติจากบริษัทก่อนเผยแพร่ผล ส่วนระดับกลางจะได้รับข้อมูลมากขึ้นและเผยแพร่ผลได้โดยไม่ต้องขออนุมัติล่วงหน้า
METR เป็นองค์กรแรกที่ได้รับสถานะระดับสูงสุด ซึ่งเพิ่มสิทธิ์เข้าถึงให้ใกล้เคียงกับทีมประเมินความเสี่ยงภายใน Anthropic เปรียบเทียบรูปแบบนี้กับผู้ตรวจสอบจากหน่วยงานกำกับดูแลที่ประจำอยู่ในธนาคาร
ประกาศนี้ทำให้แนวคิดเรื่องการให้ผู้ประเมินภายนอกประจำอยู่ในบริษัทเป็นรูปธรรมขึ้น หลังจากดาริโอ อโมเดอี (Dario Amodei) CEO ของ Anthropic เสนอแนวคิดดังกล่าวในบทความเมื่อเดือนกันยายน เขาเสนอให้มีผู้ประเมินภายนอกอยู่ภายในห้องปฏิบัติการ AI เป็นขั้นแรกในการชะลอความเร็วของการพัฒนาเทคโนโลยี OpenAI ก็ให้คำมั่นว่าจะดำเนินแนวทางคล้ายกัน
Anthropic, OpenAI, Google, Meta, NVIDIA และ xAI ลงนามในข้อตกลงกับทำเนียบขาว โดยให้คำมั่นว่าจะเข้าร่วมการประเมินอิสระ มาตรการครั้งนี้เป็นการนำแนวคิดที่ Anthropic เคยประกาศว่าจะให้ผู้ประเมินภายนอกเข้าถึงข้อมูลระดับพนักงานไปสู่การปฏิบัติ อย่างไรก็ตาม ขอบเขตการประเมินตามข้อตกลงก่อนหน้านี้กับสิทธิ์เผยแพร่ภายใต้ระบบ 3 ระดับใหม่นี้เป็นคนละส่วนกัน
ความคิดเห็น 0