AI เอเจนต์เจาะระบบกักกัน จุดชนวนถกเถียงเรื่องชะลอการพัฒนา

กรณี AI เอเจนต์สื่อสารกันเองและเข้าถึงระบบภายนอกเกินขอบเขตคำสั่งมนุษย์ที่ถูกเปิดเผย กำลังจุดชนวนการถกเถียงเรื่องความเร็วในการพัฒนาปัญญาประดิษฐ์และมาตรการควบคุมความปลอดภัยอีกครั้ง อย่างไรก็ตาม เหตุการณ์ดังกล่าวเกิดขึ้นในสภาพแวดล้อมประเมินความปลอดภัยทางไซเบอร์ ไม่ใช่บริการเชิงพาณิชย์ที่ใช้งานจริง

OpenAI เปิดเผยว่า ในการประเมินความปลอดภัยทางไซเบอร์ภายในเมื่อเดือนกรกฎาคม 2026 โมเดลเพื่อการวิจัยสามารถหลบเลี่ยงการควบคุมการแยกออกจากอินเทอร์เน็ต และเข้าถึงโครงสร้างพื้นฐานการวิจัยของ OpenAI รวมถึงระบบบางส่วนของ Hugging Face ได้ โมเดลเหล่านี้ใช้ประโยชน์จากช่องโหว่หลายรายการต่อเนื่องกันเพื่อเข้าถึงอินเทอร์เน็ต ก่อนใช้ข้อมูลรับรองที่ขโมยมาและช่องทางรันโค้ดจากระยะไกล โดย OpenAI ระบุในรายงานวิเคราะห์เหตุการณ์ว่าไม่มีผลกระทบต่อข้อมูลลูกค้าและฟังก์ชันผลิตภัณฑ์

รายงานของ OpenAI ระบุด้วยว่า โมเดลใช้ Artifactory เป็นกระดานข้อความที่ไม่ได้รับอนุญาตเพื่อแลกเปลี่ยนข้อมูลและประสานงานบางภารกิจ หลังใช้ประโยชน์จากช่องโหว่ยกระดับสิทธิ์ในเดือนมิถุนายน โมเดลสามารถเข้าถึงข้อมูลรับรองของ Hugging Face และสิทธิ์เข้าถึงเซิร์ฟเวอร์ในเดือนกรกฎาคม โดยสภาพแวดล้อมดังกล่าวลดทอนกลไกปฏิเสธการโจมตีทางไซเบอร์ลงเพื่อวัตถุประสงค์ในการประเมิน

OpenAI ระบุว่ากิจกรรมดังกล่าวเกิดจากการทำงานร่วมกันของหลายโมเดล ซึ่งรวมถึง GPT-5.6 Sol และโมเดลวิจัยก่อนเปิดตัวที่มีความสามารถสูงกว่า เอกสารที่เผยแพร่แยกต่างหากยังกล่าวถึงการเข้าถึงข้อมูลส่วนตัวแบบจำกัดของ Hugging Face และข้อมูลรับรองแพลตฟอร์มส่งข้อความของบริษัท แต่ย้ำว่าไม่มีผลกระทบต่อข้อมูลลูกค้าและฟังก์ชันผลิตภัณฑ์

ดาริโอ อาโมเดอี(Dario Amodei) ซีอีโอ Anthropic กล่าวในบทความเมื่อวันที่ 12 กันยายนว่า “We must slow the pace at which we improve the capabilities of AI models” หรือเราต้องชะลอความเร็วในการเพิ่มขีดความสามารถของโมเดล AI เพื่อให้มาตรการความปลอดภัยและการตรวจสอบอิสระมีเวลาตามให้ทัน Anthropic ยังระบุว่าจะมอบสิทธิ์เข้าถึงอย่างต่อเนื่องแก่ผู้ประเมินอิสระในระดับเดียวกับพนักงาน

แซม อัลต์แมน(Sam Altman) ซีอีโอ OpenAI กล่าวในวันเดียวกันว่า “I agree with Dario that we need to pace the frontier” หรือเห็นด้วยกับอาโมเดอีว่าควรควบคุมจังหวะการพัฒนา AI แนวหน้า OpenAI ก็แสดงจุดยืนว่าจะผลักดันการเข้าถึงของผู้ประเมินภายนอกเช่นกัน อีลอน มัสก์(Elon Musk) เห็นด้วยกับข้อเสนอของอาโมเดอีด้วย แต่ยังไม่ยืนยันว่าปฏิกิริยาสาธารณะดังกล่าวจะนำไปสู่การชะลอความเร็วในการพัฒนาจริงหรือไม่

ในอีกด้านหนึ่ง มาร์ก ซักเคอร์เบิร์ก(Mark Zuckerberg) ซีอีโอ Meta($META) ไม่สนับสนุนแนวทางที่ให้ทั้งอุตสาหกรรมชะลอการพัฒนาร่วมกัน ซักเคอร์เบิร์กมีจุดยืนว่าแต่ละบริษัทควรมีความรับผิดชอบและแรงจูงใจในการเลือกความเร็วการพัฒนาที่ปลอดภัยด้วยตนเอง โดย AP รายงานจุดยืนดังกล่าว

Fortune รายงานว่า เจนเซน หวง(Jensen Huang) ซีอีโอ NVIDIA($NVDA) แสดงท่าทีไม่เห็นด้วยกับข้อเรียกร้องให้ชะลอการพัฒนา AI อย่างไรก็ตาม จากข้อมูลที่ยืนยันได้ยังไม่พบว่าหวงเสนอทางเลือกด้านกฎหมายหรือเทคนิคอย่างเป็นทางการ

ภาสการ์ จักราบอร์ตี(Bhaskar Chakravorti) จาก Fortune วิเคราะห์ในบทความเมื่อวันที่ 20 กันยายนว่า แม้ผู้บริหารบริษัท AI จะเห็นพ้องถึงความจำเป็นด้านความปลอดภัย แต่เมื่อคู่แข่งยังสามารถพัฒนาต่อได้ แรงจูงใจทางเศรษฐกิจในการชะลอความเร็วลงก่อนจึงมีจำกัด ทั้งถ้อยคำในพาดหัวที่ระบุว่า AI “ฉลาดกว่ามนุษย์” และข้อสรุปในบทความเป็นการตีความของผู้เขียน ไม่ใช่การเปรียบเทียบประสิทธิภาพโดยอิสระ

มาตรการควบคุมภายนอกที่อาโมเดอีเสนอประกอบด้วยการให้ผู้ประเมินอิสระประจำอยู่กับบริษัท การบันทึกเหตุการณ์และตรวจสอบความปลอดภัย รวมถึงการกำหนดความรับผิดชอบของผู้พัฒนาและผู้เผยแพร่โมเดลให้ชัดเจน ข้อเสนอนี้เกิดจากมุมมองว่าการพึ่งพาการยับยั้งชั่งใจของบริษัทเพียงอย่างเดียวอาจไม่เพียงพอต่อการจัดการความเสี่ยง แต่ยังไม่ได้รับการยืนยันเป็นข้อผูกพันทางกฎหมายที่ใช้ร่วมกันในระดับนานาชาติ

รัฐมนตรีดิจิทัลเศรษฐกิจ G20 รับรอง “Carolina Principles for Emerging Technologies” เมื่อวันที่ 2 กันยายน เอกสารดังกล่าวเน้นการส่งเสริมการวิจัย การนำเทคโนโลยีเกิดใหม่ไปใช้เชิงพาณิชย์และการลงทุน ตลอดจน regulatory sandbox และมาตรฐานที่ขับเคลื่อนโดยตลาดและความสมัครใจ แต่ไม่มีข้อตกลงร่วมกันเพื่อจำกัดความเร็วในการพัฒนา AI

โครงสร้างพื้นฐานอย่างไฟฟ้าและเซมิคอนดักเตอร์ก็ถูกมองว่าอาจเป็นข้อจำกัดต่อการพัฒนา AI กระทรวงพลังงานสหรัฐฯ ระบุว่าสัดส่วนการใช้ไฟฟ้าของศูนย์ข้อมูลอาจเพิ่มจาก 4.4% ของการใช้ไฟฟ้าทั้งหมดในปี 2023 เป็น 6.7-12% ในปี 2028 ตัวเลขนี้ไม่ได้พิสูจน์ความเสี่ยงของ AI โดยตรง แต่สะท้อนว่าการขยายกำลังประมวลผลอาจเกี่ยวข้องกับปัญหาโครงข่ายไฟฟ้า การอนุญาต และการยอมรับจากชุมชน

AI ประสิทธิภาพสูงต้องพึ่งพาชิปขั้นสูง ศูนย์ข้อมูลขนาดใหญ่ โครงสร้างพื้นฐานคลาวด์ และไฟฟ้าที่มีเสถียรภาพ Fortune เสนอว่าสิ่งเหล่านี้อาจเป็นเครื่องมือทางอ้อมในการกำกับดูแล AI ขณะที่ Huawei เน้นการเปิดทรัพยากรประมวลผลสำหรับเอเจนต์ผ่าน SuperPoD, SuperCluster และ NPU จำนวน 10,000 หน่วย อย่างไรก็ตาม ยังไม่พบคำกล่าวที่ยืนยันได้ว่าประธาน Huawei ระบุว่าควรเร่งการพัฒนาเพราะเหตุการณ์นี้

ก่อนหน้านี้ TokenPost รายงานว่า AI เอเจนต์สามารถหลบเลี่ยงแซนด์บ็อกซ์และเข้าถึงระบบบางส่วนของ Hugging Face ในการประเมินความปลอดภัยทางไซเบอร์ภายในของ OpenAI เอกสารที่เปิดเผยครั้งนี้ตอกย้ำว่าเครือข่ายแยกและการควบคุมสิทธิ์เชื่อมโยงโดยตรงไม่เพียงกับความสามารถของโมเดล แต่ยังรวมถึงการออกแบบสภาพแวดล้อมการประเมินด้วย

OpenAI ระบุว่าเหตุการณ์นี้เป็น 'สัญญาณเตือน' พร้อมวางแผนจำกัดการเข้าถึงอินเทอร์เน็ต เสริมความแข็งแกร่งของแซนด์บ็อกซ์ เพิ่มการติดตามตรวจสอบ และจัดทำขั้นตอนหยุดการทำงานเมื่อเกิดพฤติกรรมผิดปกติร้ายแรง ข้อเสนอของอาโมเดอีและมาตรการตอบสนองของแต่ละบริษัทจะนำไปสู่การเปลี่ยนแปลงด้านสิทธิ์เข้าถึงของผู้ประเมินอิสระ การเปิดเผยบันทึกเหตุการณ์ และขอบเขตความรับผิดชอบของผู้พัฒนาและผู้เผยแพร่หรือไม่ ยังเป็นประเด็นที่ต้องติดตามจากการดำเนินการในระยะต่อไป