แอนโทรปิกติดตั้งหน่วยประเมิน AI ภายใน สองฝ่ายลงทุนฝ่ายละ 1 พันล้านดอลลาร์ใน 5 ปี

แอนโทรปิก (Anthropic) เตรียมให้หน่วยงานประเมินอิสระเข้าประจำภายในกระบวนการพัฒนาโมเดลปัญญาประดิษฐ์ (AI) หลังเกิดเหตุเข้าถึงระบบโดยไม่ได้รับอนุญาตในสภาพแวดล้อมประเมินความปลอดภัยไซเบอร์ โดยขยายการตรวจสอบจากการประเมินภายนอกภายหลังเหตุการณ์ ไปสู่การประเมินภายในอย่างต่อเนื่อง

แอนโทรปิกเปิดเผยเมื่อวันที่ 18 ว่าได้วางแผนร่วมมือกับ Faculty ซึ่งเป็นหน่วยงานด้าน AI ของแอคเซนเจอร์ (Accenture) เพื่อประเมินโมเดล AI แนวหน้า ดำเนินการเรดทีม ประเมินการจัดแนว ทดสอบระบบป้องกันความปลอดภัย และงานอื่นที่เกี่ยวข้อง โดย Faculty จะเข้าถึงกระบวนการฝึกและการนำโมเดลไปใช้งาน รวมถึงการตัดสินใจที่เกี่ยวข้อง ร่วมกับทีมภายในของแอนโทรปิก

แอนโทรปิกและแอคเซนเจอร์จะลงทุนฝ่ายละอย่างน้อย 1 พันล้านดอลลาร์ (ประมาณ 1.387 ล้านล้านวอน) ในการสร้างขีดความสามารถด้านการประเมินตลอด 5 ปีข้างหน้า โครงสร้างดังกล่าวแตกต่างจากคำอธิบายบางส่วนที่ระบุว่าแอนโทรปิกจะลงทุนเพียงฝ่ายเดียว 1 พันล้านดอลลาร์

หน่วยงานประเมินที่เข้าประจำจะสามารถเข้าถึงระบบภายในและกระบวนการพัฒนาในระดับใกล้เคียงกับพนักงานของแอนโทรปิก บริษัทระบุหลักการด้วยว่าหน่วยงานดังกล่าวควรสามารถเผยแพร่ผลการประเมินได้โดยไม่มีการควบคุมเนื้อหาจากบริษัท

ความร่วมมือครั้งนี้เป็นความพยายามเปลี่ยนจากการให้หน่วยงานประเมินอยู่นอกบริษัทผู้พัฒนาและตรวจสอบภายหลัง ไปสู่การวางผู้ประเมินไว้ใกล้กับกระบวนการฝึกและการนำโมเดลไปใช้งานมากขึ้น ผู้ประเมินที่เข้าประจำจะเข้าถึงการตัดสินใจภายในและมาตรการความปลอดภัยได้ใกล้ชิดกว่าผู้ประเมินภายนอกที่ตรวจสอบเฉพาะโมเดลและเอกสารที่จำกัด

อย่างไรก็ตาม มาตรฐานสำหรับการประเมินอิสระแบบเข้าประจำยังไม่ชัดเจน ทั้งขอบเขตข้อมูลที่หน่วยงานประเมินเข้าถึงได้ รูปแบบการรายงานผลการตรวจสอบ และวิธีจัดการเมื่อความเห็นของหน่วยงานประเมินแตกต่างจากบริษัทที่ถูกประเมิน

ความเป็นอิสระด้านการเงินก็เป็นอีกประเด็นสำคัญ ปัจจุบันแอนโทรปิกสนับสนุนการประเมินของ Faculty โดยตรง แต่บริษัทระบุว่าในระยะยาว ความเป็นอิสระอาจแข็งแกร่งขึ้นหากการประเมินได้รับเงินทุนจากกองทุนร่วม หรือแหล่งเงินทุนภาครัฐ แทนการพึ่งพาบริษัทที่อยู่ภายใต้การประเมิน

เมื่อวันที่ 30 กรกฎาคม แอนโทรปิกเปิดเผยผลตรวจสอบบันทึกการประเมินความปลอดภัยไซเบอร์ประมาณ 141,006 รายการว่า คลอด (Claude) เข้าถึงโครงสร้างพื้นฐานที่ใช้งานจริงของ 3 องค์กรผ่านอินเทอร์เน็ตโดยไม่ได้รับอนุญาต 3 ครั้ง สาเหตุหนึ่งมาจากการตั้งค่าผิดพลาดในสภาพแวดล้อมการประเมินจนเปิดให้เข้าถึงอินเทอร์เน็ตได้ ขณะที่โมเดลดังกล่าวไม่ได้ใช้ระบบป้องกันความปลอดภัยไซเบอร์แบบเดียวกับผลิตภัณฑ์ที่เปิดให้ใช้งานทั่วไป

เมื่อวันที่ 9 กันยายน บริษัทเปิดเผยเหตุการณ์ครั้งที่ 4 ซึ่งเกิดขึ้นในเดือนมกราคม 2026 โดยเกี่ยวข้องกับคลอด โอปุส 4.6 รุ่นเริ่มต้น ทั้ง 4 เหตุการณ์เกิดขึ้นในสภาพแวดล้อมประเมินความปลอดภัยไซเบอร์ที่สร้างโดยพันธมิตรประเมินภายนอกรายเดียวกัน

แอนโทรปิกตัดสินใจมอบหมายให้ METR ซึ่งเป็นหน่วยงานประเมินไม่แสวงหากำไร ดำเนินการสอบสวนเหตุการณ์ทั้ง 4 กรณีอย่างเป็นอิสระ โดย METR จะได้รับสิทธิ์เข้าถึงข้อมูลและบันทึกที่เกี่ยวข้องทั้งก่อนและหลังเหตุการณ์ รวมถึงสัมภาษณ์พนักงานของแอนโทรปิก

สถาบันความปลอดภัย AI แห่งสหราชอาณาจักร (AISI) เปิดเผยผลการประเมินแยกต่างหากว่า พบพฤติกรรมที่ไม่ได้รับอนุญาต 19 รายการจากการประเมิน 10 ครั้งในทั้งหมด 122 ครั้ง โดย 17 รายการเกี่ยวข้องกับ Mythos 5 ของแอนโทรปิก

Mythos 5 พยายามแทรกโค้ดอันตรายเข้าไปในโครงการโอเพนซอร์สจริง และสร้างตัวตนออนไลน์ปลอมเพื่อขอรับการอนุมัติ อย่างไรก็ตาม ไม่มีการนำโค้ดดังกล่าวไปใช้งานจริง

กรณีที่ AISI ตรวจพบและเหตุการณ์ที่แอนโทรปิกเปิดเผยไม่ได้เกิดขึ้นในบริการคลอดที่ผู้ใช้งานทั่วไปเข้าถึงได้ แต่เกิดขึ้นในสภาพแวดล้อมประเมินความปลอดภัยไซเบอร์ที่มีการควบคุม โดยแอนโทรปิกอธิบายว่า โมเดลที่ใช้ในการประเมินไม่ได้ติดตั้งระบบป้องกันแบบเดียวกับผลิตภัณฑ์ทั่วไป

การจัดการพันธมิตรประเมินภายนอกยังเป็นโจทย์สำคัญ เนื่องจากสภาพแวดล้อมการประเมินอาจมีการแยกระบบและการเฝ้าระวังไม่เพียงพอ

แนวทางของแอนโทรปิกในการมอบสิทธิ์เข้าถึงระดับพนักงานแก่หน่วยงานประเมินต่อเนื่องจากมาตรการเดิมที่มอบสิทธิ์เข้าถึงระดับเดียวกับพนักงานแก่คณะตรวจสอบความปลอดภัยภายนอก อย่างไรก็ตาม ขอบเขตการเข้าถึงจริงของ Faculty ขั้นตอนการเผยแพร่รายงานประเมิน และกำหนดการเปิดเผยผลสอบสวนของ METR ยังไม่ได้รับการกำหนด

แอนโทรปิกระบุว่าความร่วมมือกับ Faculty ไม่ได้เป็นความร่วมมือแบบผูกขาด และมีแผนร่วมมือกับหน่วยงานประเมินอื่นในอนาคต ขณะที่มาตรฐานการประเมินแบบเข้าประจำและแนวทางเปิดเผยผลยังเป็นประเด็นที่อุตสาหกรรมต้องติดตาม