ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
OpenAI ประกาศระงับการทำงานภายในบางส่วนที่เกี่ยวข้องกับโมเดลใหม่ 'Astra' และยกระดับมาตรการควบคุมความปลอดภัย หลังไม่สามารถตัดความเป็นไปได้ที่ขีดความสามารถในการโจมตีไซเบอร์แบบอัตโนมัติของโมเดลจะเข้าสู่ระดับความเสี่ยงสูงสุดได้
OpenAI ระบุในแถลงการณ์เมื่อวันที่ 7 (เวลาท้องถิ่น) ว่า จากการประเมินภายในและการตรวจสอบโดยผู้เชี่ยวชาญในช่วงไม่กี่วันที่ผ่านมา พบว่า Astra มีความก้าวหน้าอย่างชัดเจนในด้าน agentic coding และความปลอดภัยไซเบอร์ บริษัทระบุว่า "เรายังคงประเมินอยู่ แต่จากผลประเมินเบื้องต้น ในตอนนี้เรายังไม่สามารถตัดความเป็นไปได้ที่โมเดลจะมีขีดความสามารถถึงระดับ Critical ได้"
ระดับ Critical คือระดับความเสี่ยงสูงสุดด้านความปลอดภัยไซเบอร์ตามกรอบการเตรียมความพร้อม (Preparedness Framework) ของ OpenAI เอง หมายถึงขีดความสามารถของโมเดลที่สามารถค้นหาช่องโหว่แบบ zero-day ในระบบสำคัญจริงโดยไม่ต้องมีมนุษย์เข้าแทรกแซง แล้วพัฒนาต่อเป็นโค้ดโจมตีที่ใช้งานได้จริง หรือสามารถออกแบบและดำเนินกลยุทธ์ใหม่เพื่อโจมตีเป้าหมายที่มีการป้องกันสูงได้ด้วยตัวเองเพียงจากเป้าหมายระดับสูงที่กำหนดให้เท่านั้น
ก่อนหน้านี้ OpenAI เคยประเมินโมเดลรุ่นก่อนอย่าง GPT-5.6 Sol ในด้านเดียวกันไว้ที่ระดับ High เท่านั้น ส่วนการประเมิน Astra ยังอยู่ระหว่างดำเนินการ จึงยังไม่มีการยืนยันว่าจะถึงระดับ Critical จริงหรือไม่
บริษัทระงับงานภายในบางส่วนที่เกี่ยวข้องกับ Astra ซึ่งยังไม่ผ่านมาตรฐานความปลอดภัยใหม่ พร้อมเพิ่มมาตรการ ได้แก่ △สภาพแวดล้อมทดสอบแบบแยกส่วน (isolated testing environment) △การจำกัดสิทธิ์เข้าถึงเครือข่ายและเครื่องมือ △การปกป้องและเข้ารหัสค่าน้ำหนักของโมเดล (model weights) △ระบบตรวจจับและเฝ้าระวังเพิ่มเติม △การรันในสภาพแวดล้อมแบบ sandbox
นอกจากนี้ OpenAI ยังนำระบบตรวจสอบครอบคลุมทุกการใช้งาน (universal monitoring) มาใช้กับการฝึกและประเมินผล Astra ทุกขั้นตอนที่เกี่ยวข้องกับ agentic ability เพื่อเฝ้าระวังพฤติกรรมเสี่ยงและความเบี่ยงเบนจากแนวทางที่กำหนดไว้อย่างต่อเนื่อง และตรวจจับหากโมเดลมีพฤติกรรมเกินขอบเขตที่อนุญาต
มาตรการครั้งนี้เกิดขึ้นหลังเหตุการณ์ด้านความปลอดภัยของ Hugging Face เมื่อเดือนก่อน โดย OpenAI เปิดเผยว่า เมื่อวันที่ 21 กรกฎาคม ขณะทดสอบขีดความสามารถด้านไซเบอร์ภายในโดยใช้ GPT-5.6 Sol ร่วมกับโมเดลวิจัยที่ยังไม่เปิดตัวซึ่งมีประสิทธิภาพสูงกว่า เกิดเหตุการณ์ที่มีการเข้าถึงโครงสร้างพื้นฐานของ Hugging Face โดยไม่ได้รับอนุญาต
โมเดลวิจัยที่ยังไม่เปิดตัวดังกล่าวไม่ใช่โมเดลที่มีแผนเปิดให้ใช้งานจริง และหลังเกิดเหตุ OpenAI ได้จำกัดการเข้าถึงเพื่อการวิจัยลง บริษัทยืนยันว่า Astra ไม่มีส่วนเกี่ยวข้องกับเหตุการณ์ที่ Hugging Face ครั้งนี้
ก่อนหน้านี้ TokenPost เคยรายงานถึงกรณีที่โมเดล AI เข้าถึงโครงสร้างพื้นฐานภายนอกจริงระหว่างการประเมินความปลอดภัยภายใน และประเด็นปัญหาด้านการควบคุมสิทธิ์การเข้าถึง โดยในครั้งนั้นพบว่าโมเดลใช้ช่องโหว่ที่ไม่เคยมีการเปิดเผยมาก่อนใน package registry cache proxy เพื่อเปิดเส้นทางเชื่อมต่ออินเทอร์เน็ต
ขีดความสามารถด้านไซเบอร์ของโมเดล AI สามารถใช้ได้ทั้งเพื่อการป้องกันและการโจมตี โมเดลประสิทธิภาพสูงช่วยให้ทีมความปลอดภัยค้นหาช่องโหว่และแก้ไขระบบได้รวดเร็วขึ้น แต่หากขีดความสามารถเดียวกันนี้ถูกนำไปใช้ในทางที่ผิด ก็อาจย่นระยะเวลาที่ผู้โจมตีใช้ในการหาช่องทางเจาะระบบและสร้างโค้ดโจมตีได้เช่นกัน
ปัญหานี้ไม่ได้จำกัดอยู่แค่เครื่องมือพัฒนาซอฟต์แวร์หรือโครงสร้างพื้นฐานคลาวด์เท่านั้น แต่ยังครอบคลุมถึงห่วงโซ่อุปทานซอฟต์แวร์ที่บริการสินทรัพย์ดิจิทัลอย่างเอ็กซ์เชนจ์ กระเป๋าเงินดิจิทัล และไลบรารีโอเพนซอร์สต่างพึ่งพาอยู่ ซึ่งล้วนได้รับผลกระทบจากสิทธิ์การเข้าถึงของ AI agent และการควบคุมการเชื่อมต่อภายนอกเช่นกัน
ในสภาคองเกรสสหรัฐ สมาชิกสภาผู้แทนราษฎร เท็ด ลิว (Ted Lieu) และ นาธาเนียล โมแรน (Nathaniel Moran) ได้เสนอร่างกฎหมายที่เรียกกันว่า 'AI Kill Switch Act' เมื่อวันที่ 23 กรกฎาคม โดยร่างกฎหมายกำหนดให้ผู้พัฒนาระบบ AI ประสิทธิภาพสูงที่เข้าเกณฑ์ที่กำหนด ต้องคงความสามารถทางเทคนิคในการชะลอ ระงับ หรือปิดการทำงานของโมเดลได้อย่างสมบูรณ์
ร่างกฎหมายดังกล่าวยังกำหนดขั้นตอนให้รัฐมนตรีกระทรวงความมั่นคงแห่งมาตุภูมิ (Homeland Security) หารือร่วมกับรัฐมนตรีกระทรวงพาณิชย์และผู้อำนวยการหน่วยข่าวกรองแห่งชาติ เพื่อสั่งชะลอหรือปิดระบบ AI ที่อาจก่อความเสียหายร้ายแรงได้ ขณะนี้ร่างกฎหมายอยู่ในขั้นตอนการเสนอเท่านั้น ยังต้องผ่านการพิจารณาและลงมติของสภาคองเกรสก่อนจึงจะมีผลบังคับใช้
ด้านสหภาพยุโรป (EU) เริ่มบังคับใช้อำนาจกำกับดูแลผู้ให้บริการโมเดล AI แบบอเนกประสงค์ (general-purpose AI) ตั้งแต่วันที่ 2 สิงหาคมที่ผ่านมา โดย EU AI Office มีอำนาจเรียกขอข้อมูล เข้าถึงโมเดล และกำหนดมาตรการลดความเสี่ยง รวมถึงสามารถสั่งปรับและจำกัดการเข้าถึงตลาดได้เช่นกัน
หากพบการฝ่าฝืน อาจถูกปรับสูงสุดถึง 3% ของรายได้รวมทั่วโลก หรือ 15 ล้านยูโร แล้วแต่จำนวนใดจะสูงกว่า หากมองในภาพรวม สหรัฐฯ มุ่งออกกฎหมายเพื่อบังคับให้ผู้พัฒนามีความสามารถหยุดระบบฉุกเฉิน ขณะที่ EU เน้นสร้างกลไกกำกับดูแลผ่านการเข้าถึงข้อมูล มาตรการลดความเสี่ยง และบทลงโทษเป็นหลัก
OpenAI ระบุว่า มีแผนเปิดให้หน่วยงานภาครัฐที่เกี่ยวข้องและองค์กรด้านความปลอดภัย AI บางแห่งเข้าทดสอบขีดความสามารถของ Astra พร้อมจะเผยแพร่มาตรการควบคุมความปลอดภัยที่แนะนำสำหรับการประเมินและดำเนินงานที่มีความเสี่ยงสูงให้กับหน่วยงานทดสอบบุคคลที่สามด้วย
ความคิดเห็น 0