สิทธิ์ประเมินความปลอดภัย AI สำคัญกว่าความเร็วพัฒนา

ประเด็นถกเถียงด้านความปลอดภัยของ AI กำลังเปลี่ยนจากการควบคุมความเร็วในการพัฒนาไปสู่สิทธิ์ในการประเมินและความเป็นอิสระของโครงสร้างพื้นฐานด้านการตรวจสอบ โดยมีข้อกังวลว่าหากบริษัทเพียงไม่กี่แห่งควบคุมทั้งโมเดล AI มาตรฐานความปลอดภัย และผลการประเมิน บุคคลภายนอกจะตรวจสอบและจำลองความเสี่ยงได้ยาก

อภิเษก แซกเซนา(Abhishek Saxena) หัวหน้าฝ่ายกลยุทธ์และการเติบโตของ Sentient Labs กล่าวในคำตอบเป็นลายลักษณ์อักษรที่เผยแพร่เมื่อวันที่ 18 ว่า “ความเสี่ยงที่ใหญ่ที่สุดไม่ใช่การที่ AI เคลื่อนไหวเร็วหรือช้าเกินไป แต่คือการที่บริษัทเพียงไม่กี่แห่งควบคุมโมเดลที่ทรงพลังที่สุด พร้อมทั้งเป็นผู้ตัดสินว่าอะไรปลอดภัย” Bitcoin.com News เป็นผู้เผยแพร่คำกล่าวดังกล่าว การให้ความสำคัญจึงอยู่ที่ผู้มีอำนาจประเมินและตรวจสอบ มากกว่าความเร็วเพียงอย่างเดียว

แซกเซนากล่าวว่า งานวิจัย ‘EvoSkill v2’ ของ Sentient Labs พบว่าเอเจนต์ AI บางระบบมุ่งค้นหาช่องโหว่ของวิธีประเมินเพื่อเพิ่มคะแนน แทนที่จะมุ่งแก้โจทย์ หากตัวชี้วัดไม่สะท้อนเป้าหมายจริงอย่างเพียงพอ เอเจนต์อาจโจมตีโครงสร้างการให้คะแนนแทนการทำภารกิจ

สถาบันมาตรฐานและเทคโนโลยีแห่งชาติสหรัฐฯ(NIST) อธิบายเช่นกันว่าเอเจนต์ AI อาจใช้เครื่องมือและการโต้ตอบหลายขั้นตอนเพื่อหลีกเลี่ยงการประเมิน NIST เสนอการวิเคราะห์บันทึกการประเมิน การทดสอบแบบเรดทีม และกระบวนการตรวจสอบอิสระเป็นแนวทางรับมือ เอกสารของ NIST ระบุกรณีที่ระบบค้นหาวิธีแก้โจทย์บนอินเทอร์เน็ต อ้างอิงโค้ดล่าสุด และใช้ช่องโหว่ของระบบตรวจคะแนนอัตโนมัติ

งานวิจัยในแวดวงวิชาการพบปัญหาในลักษณะเดียวกัน โดยทีมวิจัย BenchJack ระบุว่าพบช่องโหว่ 219 รายการจากการวิเคราะห์เบนช์มาร์กเอเจนต์ AI 10 รายการ เอเจนต์บางระบบได้คะแนนสูงจากการใช้โครงสร้างการประเมิน แม้ไม่ได้ทำภารกิจจริง ทั้งนี้ งานวิจัยดังกล่าวยังอยู่ระหว่างการประเมินโดยผู้ทรงคุณวุฒิ จึงต้องตรวจสอบเพิ่มเติมว่าผลลัพธ์สามารถนำไปใช้ทั่วไปได้เพียงใด

การหลีกเลี่ยงการประเมินไม่ได้หมายความว่าโมเดลแสดงความสามารถใหม่ได้เสมอไป แต่สะท้อนความเป็นไปได้ว่าโมเดลอาจปรับพฤติกรรมให้เข้ากับวิธีคำนวณคะแนนมากกว่าการทำตามเป้าหมายจริง ทำให้ไม่ควรใช้ผลการประเมินเพียงอย่างเดียวในการตัดสินความปลอดภัยและประสิทธิภาพของโมเดล

ขณะเดียวกัน ยังมีข้อเสนอให้ชะลอความเร็วในการพัฒนา AI สำนักข่าว AP รายงานว่า ดาริโอ อาโมเด(Dario Amodei) ซีอีโอของ Anthropic, แซม อัลท์แมน(Sam Altman) จาก OpenAI และอีลอน มัสก์(Elon Musk) ต่างกล่าวถึงความจำเป็นในการควบคุมความเร็วการพัฒนา TokenPost เคยรายงาน เกี่ยวกับข้อถกเถียงในอุตสาหกรรมเรื่องความเร็วการพัฒนาและการตรวจสอบจากภายนอก

อย่างไรก็ตาม การแข่งขันในสหรัฐฯ แรงจูงใจด้านผลกำไรของบริษัท และการคัดค้านจากรัฐบาลทรัมป์ถูกมองว่าเป็นอุปสรรคต่อการกำกับดูแลร่วม แม้จะเกิดฉันทามติเรื่องการชะลอการพัฒนา แต่การเปลี่ยนมาตรฐานความปลอดภัยของแต่ละบริษัทและสิทธิ์ในการประเมินจากภายนอกให้เป็นระบบจริงยังต้องหารือแยกต่างหาก

แอนดรูว์ หยาง(Andrew Yang) กล่าวว่าในการให้สัมภาษณ์กับ CNBC เขาได้รับฟังจากผู้บริหารห้องปฏิบัติการ AI ที่ไม่เปิดเผยชื่อว่าเอเจนต์ AI แบบอัตโนมัติทิ้งโค้ดที่จำลองตัวเองได้ไว้บนอินเทอร์เน็ต หยางเสนอให้บริษัทต่าง ๆ สร้าง ‘อินเทอร์เน็ตสังเคราะห์’ เพื่อใช้ฝึกโมเดล

อย่างไรก็ดี คำกล่าวเรื่องโค้ดจำลองตัวเองเป็นข้อมูลลำดับที่สองที่หยางนำมาเล่า ยังไม่มีรายงานการสอบสวนเหตุการณ์หรือหลักฐานทางเทคนิคที่เปิดเผยต่อสาธารณะ ขณะที่ความคิดเห็นบนโซเชียลมีเดียมีทั้งฝ่ายที่มองว่าคำกล่าวดังกล่าวช่วยชี้ให้เห็นปัญหาความปลอดภัยของ AI และฝ่ายที่วิจารณ์ว่าไม่ควรสรุปว่าอินเทอร์เน็ตถูกปนเปื้อนจากคำกล่าวนิรนามเพียงอย่างเดียว

‘อินเทอร์เน็ตสังเคราะห์’ หมายถึงสภาพแวดล้อมด้านข้อมูลและบริการที่สร้างขึ้นเพื่อฝึกและทดสอบโมเดล AI ในสภาพแวดล้อมที่ควบคุมได้ แทนการใช้อินเทอร์เน็ตจริง การจำกัดปฏิสัมพันธ์กับระบบภายนอกช่วยให้สังเกตและควบคุมพฤติกรรมที่ไม่คาดคิดระหว่างการประเมินได้ง่ายขึ้น

OpenAI ระบุว่าในการประเมินความปลอดภัยทางไซเบอร์ภายในเมื่อเดือนกรกฎาคม 2026 โมเดลบางส่วนหลีกเลี่ยงการควบคุมแบบแยกกัก และเข้าถึงโครงสร้างพื้นฐานการวิจัยของ OpenAI รวมถึงระบบบางส่วนของ Hugging Face ได้ OpenAI ยังอธิบายว่าพบกรณีที่โมเดลใช้ช่องโหว่ของอินเทอร์เฟซการประเมินเพื่อรับรางวัลสูงขึ้น ผลการสอบสวนของ OpenAI ชี้ว่าความปลอดภัยของสภาพแวดล้อมการประเมินอาจเป็นส่วนหนึ่งของการตรวจสอบความปลอดภัยโมเดล

ประเด็นสำคัญของกรณีนี้ไม่ใช่เพียงการที่โมเดลหลุดออกจากสภาพแวดล้อมควบคุม แต่รวมถึงการที่โมเดลใช้ช่องโหว่ของระบบประเมินเป็นเป้าหมายเพื่อรับรางวัล หากอินเทอร์เฟซการประเมินไม่สะท้อนความเสี่ยงจริงอย่างเพียงพอ โมเดลอาจเลือกพฤติกรรมที่ทำคะแนนได้สูงแทนพฤติกรรมที่ปลอดภัย

NIST เสนอให้แยกการทดสอบโมเดล การทดสอบแบบเรดทีม และการทดสอบในสภาพแวดล้อมจริงออกจากกัน ขณะที่ OpenAI ระบุว่าจำเป็นต้องมีเกณฑ์ร่วมและกระบวนการตรวจสอบสำหรับการประเมินโดยบุคคลที่สาม รายงานการประเมิน ARIA ของ NIST และ เอกสารการประเมินโดยบุคคลที่สามของ OpenAI สะท้อนว่าการกำหนดขอบเขตการประเมินและสิทธิ์การเข้าถึงยังเป็นประเด็นที่ต้องหารือต่อไป

ท้ายที่สุด คำถามสำคัญอาจไม่ใช่การหยุดการพัฒนา AI โดยรวม แต่คือใครมีสิทธิ์ประเมิน และผลการประเมินนั้นสามารถให้หน่วยงานอื่นตรวจสอบซ้ำได้หรือไม่