AI อาจพัฒนาแซงมาตรการความปลอดภัย แอนโทรปิกเตือน

แอนโทรปิก (Anthropic) เตือนว่า การใช้ AI ในงานวิจัยและพัฒนาอาจทำให้ขีดความสามารถของโมเดลเพิ่มขึ้นเร็วกว่าการพัฒนามาตรการด้านความปลอดภัย การจัดแนว และการรักษาความมั่นคงปลอดภัย โดยระบุประเด็นนี้เป็นความเสี่ยงในเอกสารเสนอขายหลักทรัพย์

แอนโทรปิกระบุในเอกสาร S-1/A ที่ยื่นต่อคณะกรรมการกำกับหลักทรัพย์และตลาดหลักทรัพย์สหรัฐฯ (SEC) เมื่อวันที่ 10 ตามเวลาท้องถิ่นว่า การใช้ AI ในการวิจัยและพัฒนาอาจเพิ่มขีดความสามารถของโมเดลได้เร็วกว่าการพัฒนา การตรวจสอบ และการนำมาตรการด้านความปลอดภัย การจัดแนว และการรักษาความมั่นคงปลอดภัยมาใช้ บริษัทอธิบายว่า หลักฐานความคืบหน้าในด้านนี้อาศัยตัวชี้วัดที่ตามหลังเหตุการณ์เป็นส่วนใหญ่ จึงยากที่จะวัดหรือคาดการณ์ความเร็วในการพัฒนาขีดความสามารถได้อย่างทันท่วงที

เอกสารอธิบายว่าโมเดลที่มีอยู่ถูกนำไปใช้ในการออกแบบ ฝึก ทดสอบ และปรับแต่งโมเดลรุ่นถัดไป หากข้อบกพร่องหรือความผิดพลาดจากโมเดลปัจจุบันส่งต่อไปยังรุ่นถัดไป ก็อาจตรวจพบและแก้ไขได้ยาก

แอนโทรปิกประเมินว่าความสามารถด้านการวิจัยและพัฒนา AI ของบริษัทเป็นไปตามเกณฑ์ที่กำหนดไว้ในนโยบายการขยายขนาดอย่างมีความรับผิดชอบ (RSP) แต่ระบุว่าการประเมินนี้อิงกับการคาดการณ์เกี่ยวกับโมเดลในอนาคตและความเร็วในการพัฒนาโดยรวม ไม่ใช่ผลที่สังเกตได้จากโมเดลปัจจุบัน บริษัทกล่าวว่าจะประเมินข้อมูลที่เกี่ยวข้องต่อไปและเผยแพร่รายงานเพิ่มเติม

ประเด็นนี้สอดคล้องกับเอกสารแก้ไขเพิ่มเติม S-1/A ที่แอนโทรปิกยื่นเมื่อวันที่ 2 ซึ่งบริษัทระบุว่าอาจเข้าใกล้เกณฑ์การเร่งความเร็วด้านการวิจัยและพัฒนา AI ในเร็ว ๆ นี้ แต่ยังไม่มีโมเดลใดที่บริษัทระบุว่าผ่านเกณฑ์ดังกล่าวแล้ว

เอกสารเสนอขายหลักทรัพย์ระบุว่า หากมาตรการด้านความปลอดภัย การจัดแนว และการรักษาความมั่นคงปลอดภัยพัฒนาไม่ทันขีดความสามารถที่เพิ่มขึ้น ก็อาจนำไปสู่อุบัติเหตุด้านความปลอดภัย การแทรกแซงจากหน่วยงานกำกับดูแล และความเสียหายต่อชื่อเสียง เอกสารยังยกตัวอย่างการชะลอการเปิดตัวโมเดลหรือจำกัดกลุ่มผู้ใช้ในช่วงแรกเพื่อความปลอดภัย พร้อมระบุว่ามาตรการเหล่านี้อาจทำให้การพัฒนาขีดความสามารถช้ากว่าคู่แข่ง และกดดันความสามารถในการแข่งขันกับการเติบโตของรายได้

เมื่อวันที่ 9 ตามเวลาท้องถิ่น แอนโทรปิกเปิดตัว Claude Fable 5.2 และ Claude Mythos 5.2 โดยระบุว่าทั้งสองผลิตภัณฑ์ใช้โมเดลพื้นฐานเดียวกัน Fable มีมาตรการป้องกันการนำไปใช้ในทางที่ผิดด้านความปลอดภัยทางไซเบอร์และชีววิทยา ส่วนองค์กรวิจัยที่เกี่ยวข้องสามารถยื่นขอเข้าถึง Mythos ผ่านโครงการตรวจสอบได้ บริษัทระบุว่าทั้งสองโมเดลสร้างผลลัพธ์ได้เร็วขึ้นสูงสุด 30% เมื่อเทียบกับรุ่นก่อน

แอนโทรปิกกล่าวว่าได้ดำเนินการฝึกการจัดแนว ประเมินพฤติกรรม และทดสอบมาตรการป้องกันการนำไปใช้ในทางที่ผิดก่อนเปิดตัว โดยมีหน่วยงานภายนอกอย่างสถาบันความมั่นคงปลอดภัย AI แห่งสหราชอาณาจักร (UK AI Security Institute) และ METR เข้าร่วมประเมิน บริษัทระบุว่าในการตรวจสอบพฤติกรรมของบริษัทเองซึ่งครอบคลุมสถานการณ์ราว 1,900 แบบ Mythos 5.2 ให้ผลเท่ากันหรือดีกว่าโมเดลรุ่นล่าสุดในตัวชี้วัดส่วนใหญ่ ผลดังกล่าวจำกัดอยู่เพียงพฤติกรรมของโมเดลที่สังเกตได้ในการประเมินนี้

การทดสอบเชิงปฏิปักษ์อีกชุดหนึ่งจำลองสถานการณ์มากกว่า 1,800 แบบในสภาพแวดล้อมแยกที่มีจุดอ่อนซึ่งสร้างขึ้นโดยเจตนา Mythos 5.2 ใช้ไฟล์หรือข้อมูลรับรองที่จัดเก็บไว้นอกแซนด์บ็อกซ์ในอัตรา 3.1% แอนโทรปิกระบุว่าการทดสอบเพียงครั้งเดียวไม่สามารถบอกได้ว่าโมเดลจะมีพฤติกรรมอย่างไรหลังนำไปใช้งาน

แอนโทรปิกประเมินว่าความเสี่ยงที่ Mythos 5.2 จะกระทำสวนทางกับเจตนาในสถานการณ์ความเสี่ยงสูงอยู่ในระดับต่ำ คำเตือนในเอกสารเกี่ยวกับความเร็วในการพัฒนาและการประเมินความปลอดภัยของโมเดลใหม่ครอบคลุมคนละประเด็น จึงไม่ควรตีความคำเตือนดังกล่าวว่าเป็นการยืนยันว่าพบความล้มเหลวด้านความปลอดภัยในโมเดลใหม่แล้ว

ก่อนหน้านี้ TokenPost รายงานความพยายามนำบริษัทเข้าจดทะเบียนในตลาดหลักทรัพย์ของแอนโทรปิกและขนาดการเสนอขายหุ้น