FMF เสนอเกณฑ์ประเมินความเสี่ยง AI jailbreak 5 ระดับ เปิดรับความเห็นถึง 21 ธ.ค. 2026

ฟรอนเทียร์ โมเดล ฟอรัม (Frontier Model Forum·FMF) เผยแพร่เกณฑ์ประเมินเวอร์ชัน 1.0 ที่แบ่งความเสี่ยงจากการเจลเบรกด้านไซเบอร์ของปัญญาประดิษฐ์ (AI) ออกเป็น 5 ระดับ โดยประเมินกรณีเลี่ยงระบบป้องกันที่ทำซ้ำได้เป็นรายกรณี

FMF ระบุในประกาศอย่างเป็นทางการเมื่อวันที่ 5 ว่า เกณฑ์นี้มีเป้าหมายเพื่อให้ผู้พัฒนา นักวิจัยด้านความปลอดภัย และหน่วยงานกำหนดนโยบายมีมาตรฐานร่วมกันสำหรับเปรียบเทียบกรณีเจลเบรกและหารือเรื่องลำดับความสำคัญในการรับมือ

กรณีที่นำมาประเมินต้องเป็นการเลี่ยงมาตรการป้องกันของโมเดลแนวหน้ารุ่นใดรุ่นหนึ่ง ซึ่งทำซ้ำได้ วิธีที่ครอบคลุมมีทั้งการใช้พรอมป์ต์ครั้งเดียว การสนทนาหลายรอบ และการใช้เครื่องมืออัตโนมัติ

FMF อธิบายว่า การเลี่ยงระบบป้องกันไม่ได้ทำให้ทุกกรณีมีความเสี่ยงเท่ากัน เกณฑ์นี้จึงแยกวิธีที่ทำให้โมเดลให้คำตอบที่ถูกจำกัดออกจากวิธีที่เปิดทางให้ใช้ความสามารถด้านไซเบอร์ที่เป็นอันตรายได้อย่างกว้างขวาง

การประเมินพิจารณา 4 ด้าน ได้แก่ △การเพิ่มขีดความสามารถ △ขอบเขตความสามารถ △ความง่ายในการนำไปใช้ และ △ความง่ายในการตรวจพบ ด้านการเพิ่มขีดความสามารถวัดว่าวิธีนั้นเพิ่มความสามารถด้านไซเบอร์จากโมเดลที่เข้าถึงได้ทั่วไปมากเพียงใด ส่วนขอบเขตความสามารถพิจารณาว่าวิธีเจลเบรกใช้ได้กับงานหลากหลายแค่ไหน

ความง่ายในการนำไปใช้พิจารณาความพยายามที่ต้องใช้เพื่อนำวิธีเจลเบรกไปใช้ในการโจมตีจริง ส่วนความง่ายในการตรวจพบประเมินว่าวิธีดังกล่าวถูกค้นพบได้ง่ายเพียงใด

เมื่อนำทั้ง 4 ด้านมาประกอบกัน FMF จะแบ่งความเสี่ยงเป็น 5 ระดับ ได้แก่ ‘ไม่มีนัยสำคัญ’ ‘ต่ำ’ ‘ปานกลาง’ ‘สูง’ และ ‘วิกฤต’

หากคะแนนด้านการเพิ่มขีดความสามารถเป็น 0 กรณีนั้นจะอยู่ในระดับ ‘ไม่มีนัยสำคัญ’ โดยไม่ขึ้นกับคะแนนด้านอื่น กฎนี้จัดกรณีที่ไม่เพิ่มความสามารถด้านไซเบอร์ใหม่จากเครื่องมือที่มีให้ใช้อย่างแพร่หลายไว้ในระดับความเสี่ยงต่ำสุด

เกณฑ์คะแนนไม่ได้เป็นมาตรวัดสัมบูรณ์แบบตายตัว แต่เทียบกับความสามารถด้านไซเบอร์ของโมเดลที่มีให้ใช้อย่างแพร่หลายในช่วงเวลาประเมิน FMF เสนอให้ใช้เกณฑ์อ้างอิง ณ เดือนตุลาคม 2026

เอกสารประเมินระบุว่า การประเมินเบื้องต้นอาจใช้ ExploitBench และ ExploitGym เป็นเกณฑ์อ้างอิงได้ คะแนนของวิธีเจลเบรกเดียวกันอาจเปลี่ยนไปเมื่อความสามารถของโมเดลอ้างอิงเปลี่ยน และอาจต้องเปลี่ยนเกณฑ์ทดสอบเมื่อผลการประเมินของสองเบนช์มาร์กเริ่มอิ่มตัว

เกณฑ์นี้ใช้เปรียบเทียบความเสี่ยงระหว่างกรณีต่าง ๆ เท่านั้น ไม่ได้ประเมินขนาดความเสียหายจริง และไม่ได้ใช้ตัดสินความปลอดภัยของโมเดลทั้งระบบ

FMF ระบุว่าเวอร์ชัน 1.0 ยังไม่ใช่แนวทางปฏิบัติการที่พร้อมนำไปใช้ทันที โดยยังต้องทดสอบเพิ่มเติมว่าผู้ประเมินหลายคนจะให้คะแนนกรณีเดียวกันใกล้เคียงกันหรือไม่ และระดับคะแนนสะท้อนความแตกต่างด้านความเสี่ยงได้จริงเพียงใด

ฮาร์ต รอสส์แมน (Hart Rossman) รองประธานฝ่ายความปลอดภัยของอเมซอน เว็บ เซอร์วิส (Amazon Web Services·AWS) กล่าวว่าในประกาศที่ FMF เผยแพร่เมื่อวันที่ 5 ว่า “การเลี่ยงมาตรการป้องกันมีระดับความรุนแรงแตกต่างกัน แต่ยังไม่มีวิธีการที่ได้รับการยอมรับร่วมกันสำหรับประเมินผลกระทบ” คำกล่าวนี้ชี้ถึงช่องว่างของมาตรฐานกลางในการเปรียบเทียบผลกระทบจากการเลี่ยงระบบป้องกัน

เอกสารของ FMF ระบุว่าผู้เชี่ยวชาญจาก NIST CAISSI, NSA SISC, UK AISI และ UK NCSC ให้ความเห็นต่อเกณฑ์ดังกล่าว พร้อมย้ำว่าการให้ความเห็นนี้ไม่ได้หมายถึงหน่วยงานเหล่านั้นรับรองเกณฑ์อย่างเป็นทางการ

เมื่อเดือนกรกฎาคมที่ผ่านมา แอนโทรปิก (Anthropic) เผยแพร่ร่างเบื้องต้นแยกต่างหากในชื่อ ‘Cyber Jailbreak Severity’ โดยเสนอการจัดระดับ 0–4 ตามการเพิ่มขีดความสามารถ ขอบเขตการใช้งาน ความง่ายในการลงมือ และโอกาสในการตรวจพบ แนวทางของ FMF พิจารณาองค์ประกอบ 4 ด้านเช่นกัน แต่ใช้วิธีรวมคะแนนและระบบระดับที่ต่างออกไป ก่อนหน้านี้ TokenPost เคยรายงานกรณีที่แอนโทรปิกทดสอบแนวทางปรับปรุง AI จากความล้มเหลวด้านความปลอดภัย 10 ประเภท ซึ่งรวมการโจมตีแบบเจลเบรกไว้ด้วย

FMF วางแผนทดสอบเพิ่มเติมว่าผู้ประเมินหลายคนจะให้ระดับใกล้เคียงกันหรือไม่ และระดับเหล่านั้นสะท้อนความแตกต่างของความเสี่ยงจริงเพียงใด พร้อมพิจารณาความเห็นจากสาธารณะ โดยเปิดรับความเห็นต่อเวอร์ชัน 1.0 ถึงวันที่ 21 ธันวาคม 2026