แอนโทรปิกปรับความเสี่ยง 'เอไอเบี่ยงเบนเจตนา' ขึ้นเป็นระดับ 'ต่ำ'

แอนโทรปิก(Anthropic) ปรับระดับความเสี่ยงที่โมเดลเอไอจะแสดงพฤติกรรมเบี่ยงเบนจากเจตนาในสภาพแวดล้อมความเสี่ยงสูง จากระดับ 'ต่ำมาก' ขึ้นเป็นระดับ 'ต่ำ' โดยโมเดล 2(Model 2) ซึ่งเป็นโมเดลภายในที่ยังไม่เปิดเผยต่อสาธารณะ แสดงประสิทธิภาพเหนือกว่ามีทอส 5(Mythos 5) ในงานภายในบางส่วน แต่บริษัทยืนยันว่ายังไม่มีแผนเปิดตัวสู่ภายนอก

แอนโทรปิกระบุในรายงานความเสี่ยงประจำเดือนสิงหาคมว่า ข้อมูล ณ วันที่ 15 กรกฎาคม บริษัทใช้มีทอส 5 และโมเดล 2 อย่างกว้างขวางในงานเขียนโค้ด สร้างข้อมูล และงานเอเจนต์ภายในองค์กร รายงานฉบับนี้เป็นเอกสารประเมินความเสี่ยงทั่วทั้งบริษัทตามนโยบายการขยายขนาดอย่างมีความรับผิดชอบ(Responsible Scaling Policy หรือ RSP) เวอร์ชัน 3.4

การปรับระดับครั้งนี้ไม่ได้หมายความว่าโมเดลใดโมเดลหนึ่งไม่ผ่านการประเมินความปลอดภัย แอนโทรปิกอธิบายว่าเหตุการณ์ที่เกี่ยวข้องกับการประเมินความปลอดภัยไซเบอร์ในช่วงที่ผ่านมาเพิ่มความไม่แน่นอนเกี่ยวกับพฤติกรรมของโมเดล จึงเป็นเหตุผลให้บริษัทปรับระดับความเสี่ยงด้านการเบี่ยงเบนเจตนาให้สูงขึ้น

การเบี่ยงเบนเจตนา(misalignment) หมายถึงปัญหาที่เอไอกระทำการตามเป้าหมายหรือวิธีการที่นักพัฒนาหรือผู้ควบคุมไม่ได้ตั้งใจ ในสภาพแวดล้อมความเสี่ยงสูง พฤติกรรมลักษณะนี้อาจลุกลามเกินกว่าความผิดพลาดทั่วไป ไปสู่ความเสี่ยงด้านความปลอดภัย การวิจัยพัฒนา หรือการควบคุมระบบอัตโนมัติ จึงถูกจัดเป็นหัวข้อประเมินแยกต่างหาก

ประเด็นสำคัญของรายงานฉบับนี้ไม่ได้อยู่ที่ตัวเลขความเสี่ยง แต่อยู่ที่ข้อจำกัดของการวัดผล แอนโทรปิกระบุว่าแม้แต่ในการประเมินความเสี่ยงด้านการวิจัยพัฒนาอัตโนมัติ การประเมินแบบอิงงานเฉพาะที่ใช้มาแต่เดิมก็เข้าสู่ภาวะ 'อิ่มตัว' จนไม่สามารถสะท้อนความสามารถที่เพิ่มขึ้นของโมเดลได้อีกต่อไป

นั่นหมายความว่ายิ่งโมเดลมีความสามารถสูงขึ้นเท่าใด เครื่องมือประเมินก็ยิ่งมีแนวโน้มจะแตะขีดจำกัดก่อน สาเหตุที่บริษัทปรับระดับความเสี่ยงขึ้นจึงใกล้เคียงกับความไม่แน่นอนในการวัดผลและความระมัดระวังในการประเมิน มากกว่าความเสียหายที่เกิดขึ้นจริง

โมเดล 2 ถูกเปิดเผยพร้อมกับประเด็นนี้ โดยแอนโทรปิกประเมินว่าโมเดล 2 'มีความสามารถเหนือกว่ามีทอส 5 อยู่ในระดับหนึ่ง'

โมเดล 2 แสดงพัฒนาการที่ชัดเจนในหลายงานที่ใช้ภายในองค์กร แต่บริษัทย้ำว่ายังไม่ถึงระดับการก้าวกระโดดของประสิทธิภาพเทียบเท่าตอนเปลี่ยนจากโอปุส 4.6(Opus 4.6) มาเป็นมีทอสพรีวิว บริษัทระบุว่าไม่ควรตีความว่าการที่โมเดล 2 เป็นโมเดลภายในที่แข็งแกร่งกว่า มีความหมายเดียวกับความเป็นไปได้ในการเปิดตัวเชิงพาณิชย์

แอนโทรปิกระบุว่ายังไม่ได้ดำเนินการประเมินก่อนเปิดตัวตามมาตรฐานทั้งหมดสำหรับโมเดล 2 ด้วยเหตุนี้บริษัทจึงระบุว่าความเชื่อมั่นในการประเมินความสามารถของโมเดล 2 อยู่ในระดับต่ำกว่าที่ผ่านมา

บริษัทยืนยันชัดเจนว่ายังไม่มีแผนเปิดเผยโมเดล 2 สู่ภายนอก ก่อนหน้านี้ทีพีเคยรายงานว่าแอนโทรปิกระบุว่ายังไม่มีแผนเปิดตัวโมเดล 2 สู่ภายนอกเช่นกัน

รายงานความเสี่ยงประเมินว่าความเป็นไปได้ที่มีทอส 5 และโมเดล 2 จะเกิดการเบี่ยงเบนเจตนาในวงกว้างอยู่ในระดับต่ำมาก อย่างไรก็ตาม มีการสังเกตพบกรณีที่โมเดลพยายามกระทำการขัดกับเจตนาเพื่อทำงานที่ยากให้สำเร็จ และประเมินความเสี่ยงที่รูปแบบการเบี่ยงเบนเจตนาที่ทราบอยู่แล้วจะนำไปสู่ความเสียหายร้ายแรงไว้ที่ระดับ 'ต่ำ'

ในด้านการวิจัยพัฒนาอัตโนมัติ ผลการประเมินก็อยู่ที่ระดับ 'ต่ำ' เช่นกัน แอนโทรปิกระบุว่ามีทอส 5 และโมเดล 2 ถูกใช้งานอย่างกว้างขวางในงานวิจัยและวิศวกรรม โดยคลอด(Claude) เป็นผู้เขียนโค้ดส่วนใหญ่ที่ถูกรวมเข้ากับโค้ดเบสของผลิตภัณฑ์จริง

อย่างไรก็ตาม บริษัทประเมินว่าโมเดลในปัจจุบันยังไม่ถึงระดับที่จะทดแทนนักวิจัยและวิศวกรทั้งหมดได้ และยังยากที่จะสรุปว่าความช่วยเหลือจากเอไอทำให้ความเร็วในการดำเนินงานโดยรวมของบริษัทเพิ่มขึ้นเป็นสองเท่า การใช้งานภายในขยายตัวมากขึ้นก็จริง แต่ยังเร็วเกินไปที่จะมองว่าอยู่ในขั้นที่เอไอทดแทนองค์กรวิจัยพัฒนาทั้งหมด

รายงานฉบับนี้สะท้อนให้เห็นว่าการกำกับดูแลความปลอดภัยของบริษัทเอไอกลายเป็นสิ่งที่ถูกตรวจสอบตั้งแต่ขั้นตอนการพัฒนาภายใน ไม่ใช่หลังจากเปิดตัวผลิตภัณฑ์เท่านั้น ก่อนหน้านี้แอนโทรปิกเคยเปิดเผยเหตุผลของการปรับระดับความเสี่ยงด้านการเบี่ยงเบนเจตนาของเอไอในสภาพแวดล้อมความเสี่ยงสูง จากระดับ 'ต่ำมาก' เป็น 'ต่ำ' มาแล้วเช่นกัน

แม้โมเดล 2 จะยังไม่เปิดตัวสู่ภายนอก แต่วิธีที่แอนโทรปิกประเมินและควบคุมโมเดลภายในที่แข็งแกร่งกว่านี้ อาจส่งผลต่อระบบนิเวศของคลอดและการหารือเรื่องการนำเอไอไปใช้ในองค์กรธุรกิจ แอนโทรปิกระบุว่าจะเผยแพร่รายงานความเสี่ยงต่อไปตามนโยบายการขยายขนาดอย่างมีความรับผิดชอบ