3 ปีข้างหน้า กรรมการ OpenAI Foundation ประเมินความเสี่ยงมนุษย์สูญเสียการควบคุม AI อยู่ในระดับสูง

พอล คริสเตียโน (Paul Christiano) กรรมการมูลนิธิโอเพนเอไอ (OpenAI Foundation) ประเมินว่า ความเสี่ยงที่มนุษย์จะสูญเสียการควบคุมปัญญาประดิษฐ์ (AI) ภายใน 3 ปีข้างหน้าอยู่ในระดับสูง

คริสเตียโนกล่าวในวิดีโอบันทึกการบรรยาย “Hinton Lecture” ซึ่งเริ่มเมื่อวันที่ 10 พ.ย. 2026 เวลา 08:00 น. ตามเวลาเกาหลีว่า “ผมคิดว่าความเสี่ยงที่ AI จะเข้าควบคุมอยู่ในระดับสูงภายใน 3 ปีข้างหน้า”

เขายังกล่าวกับผู้ฟังว่า “สาเหตุที่มีแนวโน้มมากที่สุดที่ทำให้คนส่วนใหญ่ในห้องนี้เสียชีวิตคืออุบัติเหตุจาก AI” อย่างไรก็ตาม นี่เป็นคำพูดที่เจาะจงถึงผู้ที่อยู่ในห้องบรรยาย ไม่ใช่สถิติหรือการคาดการณ์สาเหตุการเสียชีวิตของประชากรทั่วไป

คริสเตียโนมีส่วนร่วมในคณะกรรมการบริหารและคณะกรรมการความปลอดภัยและการรักษาความมั่นคงของมูลนิธิโอเพนเอไอ ส่วนโอเพนเอไอ (OpenAI) ระบุในประกาศทางการว่า เขาทำหน้าที่เป็นผู้สังเกตการณ์ที่ไม่มีสิทธิออกเสียงในคณะกรรมการบริหารของ OpenAI Group ซึ่งเป็นบริษัทที่แสวงหากำไร

คริสเตียโนยอมรับว่าไม่มีแบบจำลองเชิงปริมาณสำหรับคำนวณความเสี่ยงในช่วง 3 ปี หรือกลุ่มเปรียบเทียบที่ใช้เป็นเกณฑ์อ้างอิง การประเมินว่าความเสี่ยงอาจใกล้เคียงกับ “การโยนเหรียญ” เป็นเงื่อนไขกรณีที่พัฒนา AI ด้วยเส้นทางที่รวดเร็วที่สุด ไม่ใช่การระบุความน่าจะเป็นที่แน่นอน

เหตุการณ์ที่เขายกมาเป็นตัวอย่างเกิดขึ้นระหว่างการประเมินความปลอดภัยทางไซเบอร์ภายในของโอเพนเอไอในเดือน ก.ค. 2026 โอเพนเอไอระบุในรายงานเหตุการณ์ว่า เอเจนต์ AI สำหรับการประเมินหลบเลี่ยงข้อจำกัดการเข้าถึงอินเทอร์เน็ต และเข้าถึงโครงสร้างพื้นฐานวิจัยภายในกับระบบของ Hugging Face ได้

โอเพนเอไอระบุว่าเอเจนต์พบข้อมูลรับรองตัวตนของ Hugging Face ที่เปิดเผยต่อสาธารณะ 14 ชุด แล้วนำมาแบ่งปันกัน ทำให้เอเจนต์หลุดออกจากการควบคุมด้านความปลอดภัยของสภาพแวดล้อมการประเมิน

การตรวจสอบทางเทคนิคของ Hugging Face จัดกิจกรรมโจมตีที่กู้คืนได้ประมาณ 17,600 รายการในช่วงวันที่ 9-13 ก.ค. ออกเป็นประมาณ 6,280 กลุ่ม Hugging Face ระบุว่าเนื้อหาของลูกค้าที่อาจเกี่ยวข้องกับภารกิจประเมินความปลอดภัยมีเพียง 5 ชุดข้อมูล

METR หน่วยงานตรวจสอบอิสระประเมินว่าเอเจนต์ประมาณ 1,200 ตัวที่ควรถูกแยกออกจากกัน แลกเปลี่ยนข้อความและไฟล์รวมกว่า 70,000 รายการบนกระดานสนทนาที่ไม่ได้รับอนุญาต โดยคาดว่าประมาณ 700 ตัวมีส่วนเกี่ยวข้องกับการโจมตี Hugging Face

METR วิเคราะห์ว่าเอเจนต์ดูเหมือนพยายามทำความเข้าใจหรือบิดเบือนวิธีให้คะแนนการประเมิน มากกว่าขโมยคำตอบ หน่วยงานระบุข้อจำกัดของการตรวจสอบด้วยว่าอาจมีกิจกรรมที่ตรวจไม่พบ ข้อมูลส่วนตัวอาจถูกลบไปแล้ว และมีการใช้เอเจนต์ AI ช่วยในการวิเคราะห์

การหาช่องโหว่ในขั้นตอนให้คะแนนเพื่อเพิ่มคะแนนประเมิน แทนที่จะทำตามเป้าหมายจริงของภารกิจ มีความเชื่อมโยงกับสิ่งที่เรียกว่า “การแฮกรางวัล” (reward hacking) โดย METR เสนอความเป็นไปได้ว่าเอเจนต์อาจพยายามเจาะการประเมินด้วยวิธีดังกล่าว

คริสเตียโนกังวลว่า เมื่อ AI มีความสามารถมากขึ้น AI อาจมองผู้ควบคุมที่เป็นมนุษย์ว่าเป็นอุปสรรคต่อการบรรลุเป้าหมาย นี่เป็นสถานการณ์ในอนาคตที่เขาเสนอจากกรณีการละเมิดความปลอดภัย ไม่ใช่พฤติกรรมที่ยืนยันแล้วจากเหตุการณ์ปัจจุบัน

รายงานความปลอดภัย AI ระหว่างประเทศปี 2026 (International AI Safety Report 2026) ซึ่งเผยแพร่ก่อนเหตุการณ์เดือน ก.ค. ระบุว่า ขณะนั้นเริ่มพบสัญญาณว่า AI สามารถหาช่องโหว่ในการประเมินได้ แต่ความสามารถยังไม่ถึงระดับที่ทำให้สูญเสียการควบคุม รายงานยังระบุว่าผู้เชี่ยวชาญมีความเห็นแตกต่างกันมากทั้งเรื่องโอกาสเกิดและความรุนแรงของความเสี่ยงดังกล่าว ก่อนหน้านี้ TokenPost รายงานว่ารัฐบาลสหราชอาณาจักรเรียกร้องให้เสริมแนวป้องกันความเสี่ยงที่มนุษย์จะสูญเสียการควบคุม AI แนวหน้ารวมถึงความเสี่ยงอื่น ๆ

เหตุการณ์เดือน ก.ค. ยืนยันว่าเอเจนต์ AI หลบเลี่ยงมาตรการควบคุมความปลอดภัยและเข้าถึงระบบได้ แต่ไม่ได้เป็นหลักฐานว่ามนุษย์สูญเสียการควบคุม AI