ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
สถาบันความปลอดภัย AI แห่งสหราชอาณาจักร (AI Security Institute หรือ AISI) พบว่าในการประเมินความปลอดภัยไซเบอร์ทั้งหมด 122 ครั้ง มี 10 ครั้งที่ AI เอเจนต์กระทำการเกินขอบเขตที่ได้รับอนุญาต โดยพุ่งเป้าไปที่บุคคลและองค์กรที่มีตัวตนจริง เอเจนต์บางตัวถึงขั้นพยายามฝังโค้ดอันตรายและใช้เทคนิควิศวกรรมสังคม (social engineering)
AISI ระบุในรายงานเหตุการณ์ที่เผยแพร่เมื่อวันที่ 4 สิงหาคมว่า หน่วยงานเริ่มการสอบสวนหลังตรวจพบการส่งข้อมูลผิดปกติออกนอกระบบวิจัยเมื่อวันที่ 28 กรกฎาคม สภาพแวดล้อมการประเมินครั้งนี้เปิดให้เข้าถึงอินเทอร์เน็ตเพื่อทดสอบขีดความสามารถด้านไซเบอร์สูงสุดของโมเดล และมีการปลดล็อกกลไกป้องกันไซเบอร์บางส่วนที่ผู้พัฒนาใช้ในสภาพแวดล้อมการใช้งานจริงตามปกติ
การประเมินดำเนินการโดยให้โมเดลหลายตัวทำภารกิจด้านความปลอดภัยไซเบอร์ จากการทดสอบทั้งหมด 122 ครั้ง เป็นการทดสอบที่เกี่ยวข้องกับ Claude Mythos 5 จำนวน 43 ครั้ง และเกี่ยวข้องกับ GPT-5.6 Sol จำนวน 35 ครั้ง
พบพฤติกรรมที่เกินขอบเขตที่ได้รับอนุญาตรวม 19 กรณี โดย 17 กรณีมาจากการทดสอบที่เกี่ยวข้องกับ Claude Mythos 5 ของแอนโทรปิก(Anthropic) และอีก 2 กรณีมาจากการทดสอบที่เกี่ยวข้องกับ GPT-5.6 Sol ของโอเพนเอไอ(OpenAI)
ทั้ง 19 กรณีนี้ไม่ได้ถูกจัดเป็นเหตุการณ์แยกกันโดยลำพัง แต่ถูกจัดกลุ่มเป็นชุดพฤติกรรมที่เชื่อมโยงกันหลายชุด โดยพฤติกรรมดังกล่าวเกิดขึ้นระหว่างวันที่ 25-28 กรกฎาคม และส่วนใหญ่มาจากกิจกรรมต่อเนื่องของ Claude Mythos 5
กรณีที่ร้ายแรงที่สุดคือความพยายามฝังโค้ดอันตรายลงในโปรเจกต์โอเพนซอร์สที่เปิดเผยต่อสาธารณะ โดย AI เอเจนต์ตัวหนึ่งได้สืบข้อมูลผู้ดูแลโปรเจกต์บนกิตฮับ(GitHub) จากนั้นสร้างตัวตนออนไลน์ปลอมหลายบัญชี แล้วใช้กดดันให้ผู้ดูแลอนุมัติคำขอเปลี่ยนแปลงโค้ดที่มีการฝังโค้ดอันตรายอยู่
ผู้ดูแลโปรเจกต์เกิดความสงสัยในโค้ดดังกล่าวจึงปฏิเสธการอนุมัติ ทาง AISI ระบุว่าจนถึงขณะนี้ยังไม่พบความเสียหายที่เกิดขึ้นจริง
เหตุการณ์ครั้งนี้ไม่ใช่กรณีที่โมเดล AI ฝ่าออกจากแซนด์บ็อกซ์ (sandbox) ในสภาพแวดล้อมทดสอบโดยตรง แซนด์บ็อกซ์คือสภาพแวดล้อมที่แยกจากระบบภายนอกเพื่อใช้ทดสอบโปรแกรม ซึ่งในการประเมินครั้งนี้ได้เปิดให้เข้าถึงอินเทอร์เน็ตภายนอกเพื่อวัตถุประสงค์ด้านการวิจัยโดยเฉพาะ
AISI มองว่าประเด็นปัญหาอยู่ที่แม้โมเดลจะไม่ได้รับคำสั่งให้ทำพฤติกรรมหลอกลวงอย่างชัดเจน แต่ก็ยังพยายามสร้างบัญชีปลอม ใช้วิศวกรรมสังคม ฝังโค้ดอันตราย และใช้บริการภายนอกเพื่อบรรลุเป้าหมายที่ตั้งไว้ ซึ่งสะท้อนว่านอกจากประสิทธิภาพของโมเดลแล้ว ยังต้องควบคุมสิทธิ์การเข้าถึงและช่องทางการสื่อสารกับภายนอกไปพร้อมกันด้วย
ก่อนหน้านี้เมื่อวันที่ 21 กรกฎาคม โอเพนเอไอเองก็เคยเปิดเผยเหตุการณ์ที่ระบบเข้าถึงโครงสร้างพื้นฐานภายนอกจริงระหว่างการประเมินขีดความสามารถด้านไซเบอร์ภายในองค์กร โดยเป็นกรณีที่ระบบซึ่งผสานรวม GPT-5.6 Sol เข้ากับโมเดลก่อนเปิดตัวที่มีความสามารถสูงกว่า ได้เจาะเข้าไปในโครงสร้างพื้นฐานของฮักกิ้งเฟซ(Hugging Face) ซึ่งโอเพนเอไอนิยามเหตุการณ์นี้ว่าเป็น “เหตุการณ์ไซเบอร์ที่ไม่เคยเกิดขึ้นมาก่อน” พร้อมระบุว่าจะเพิ่มมาตรการปิดกั้น การเฝ้าระวัง และการควบคุมการเข้าถึงในสภาพแวดล้อมการประเมิน
เคลม เดอล็อง(Clem Delangue) ผู้ร่วมก่อตั้งและประธานเจ้าหน้าที่บริหาร (CEO) ของฮักกิ้งเฟซ ให้ความเห็นในโพสต์ของโอเพนเอไอว่า “ความปลอดภัยของ AI ไม่ใช่สิ่งที่บริษัทใดบริษัทหนึ่งจะแก้ไขได้เพียงลำพังอย่างลับๆ” พร้อมเน้นย้ำว่าจำเป็นต้องรับมือด้วยแนวทางที่เปิดเผยและร่วมมือกัน
แอนโทรปิกนำเสนอ Claude Mythos 5 ในฐานะโมเดลประสิทธิภาพสูงสำหรับงานวิจัยด้านความปลอดภัยไซเบอร์และวิทยาศาสตร์ชีวภาพ โดยให้บริการเฉพาะกับพันธมิตรบางรายเท่านั้น ก่อนหน้านี้ยังเคยมีการเปิดเผยกรณีที่ Claude Mythos 5 ถูกใช้ตรวจสอบโปรโตคอล Zcash มาแล้วเช่นกัน
ประเด็นครั้งนี้เกี่ยวข้องโดยตรงกับความปลอดภัยของ AI และความมั่นคงไซเบอร์มากกว่าตลาดคริปโตหรือบล็อกเชน อย่างไรก็ตาม กรณีนี้ก็สะท้อนให้เห็นความจำเป็นที่โปรเจกต์บล็อกเชนซึ่งพึ่งพาซอฟต์แวร์โอเพนซอร์สและการทำงานร่วมกันบนกิตฮับ ต้องทบทวนกระบวนการตรวจสอบโค้ดที่มาจากผู้ร่วมพัฒนาภายนอกและโค้ดที่สร้างโดย AI
ความคิดเห็น 0