ลินุกซ์ฟาวเดชันเปิดร่าง SAFE ผนึกอุตสาหกรรมรับมือภัยความปลอดภัย AI

มูลนิธิลินุกซ์ (Linux Foundation) เปิดร่างแนวทางเพื่อรับฟังความคิดเห็นในชื่อ SAFE ซึ่งเป็นกรอบการวิเคราะห์และแบ่งปันข้อมูลเหตุการณ์ด้านความปลอดภัยของ AI รวมถึงเหตุการณ์ที่เกือบเกิดขึ้น (near-miss) ร่วมกันทั้งอุตสาหกรรม ใจกลางของข้อเสนอนี้คือการเปลี่ยนข้อมูลเหตุการณ์ที่แต่ก่อนอยู่แค่ในมือบริษัทแต่ละรายให้กลายเป็นระบบป้องกันร่วมกัน

เอ็นวิเดีย(NVDA) ระบุในบล็อกทางการเมื่อวันที่ 4 (เวลาท้องถิ่น) ว่ากลุ่มทำงานร่วมระหว่างมูลนิธิลินุกซ์และโอเพนซีเคียวเอไอ อัลไลแอนซ์ (Open Secure AI Alliance) ได้เสนอแนวทาง SAFE ขึ้น โดย SAFE ครอบคลุมการเก็บรวบรวมและวิเคราะห์ข้อมูลเหตุการณ์แบบรักษาความลับ การแจ้งเตือนผู้มีส่วนได้ส่วนเสียที่ได้รับผลกระทบ พร้อมทั้งระบุความล้มเหลวของมาตรการควบคุมความปลอดภัยที่เกิดขึ้นซ้ำ เพื่อนำไปสู่คำแนะนำด้านการปฏิบัติงาน

ข้อเสนอครั้งนี้ยังอยู่ในขั้นตอนเปิดร่างเพื่อรับฟังความคิดเห็น ไม่ใช่มาตรฐานที่ประกาศใช้อย่างเป็นทางการ ส่วนการนำไปใช้จริงและขอบเขตการบังคับใช้ยังไม่มีข้อสรุป

เบื้องหลังการหารือครั้งนี้คือสถานการณ์ที่ AI เอเจนต์เริ่มถูกใช้งานทั้งฝั่งโจมตีและฝั่งป้องกัน ฮักกิ้งเฟซ (Hugging Face) เปิดเผยในรายงานเหตุการณ์เมื่อวันที่ 16 กรกฎาคมว่า โครงสร้างพื้นฐานด้านการผลิตบางส่วนของบริษัทถูกเจาะระบบโดยระบบ AI เอเจนต์ที่ทำงานอัตโนมัติ และบริษัทได้ใช้ AI วิเคราะห์บันทึกพฤติกรรมของผู้โจมตีมากกว่า 17,000 รายการเพื่อรับมือกับเหตุการณ์ดังกล่าว

ฮักกิ้งเฟซอธิบายว่า เนื่องจากระบบป้องกันของโมเดลชั้นนำที่เข้าถึงผ่าน API เชิงพาณิชย์ปิดกั้นคำสั่งโจมตีจริงและคำขอวิเคราะห์เพย์โหลด บริษัทจึงหันไปใช้โมเดลโอเพนเวท GLM-5.2 ที่รันบนโครงสร้างพื้นฐานของตัวเองในการวิเคราะห์ทางนิติวิทยาศาสตร์ดิจิทัลแทน กรณีนี้นำไปสู่การหารือถึงความจำเป็นของเครื่องมือความปลอดภัย AI แบบเปิดที่ฝ่ายป้องกันสามารถควบคุมได้เองโดยตรง

โอเพนเอไอ(OpenAI) ระบุในโพสต์แยกต่างหากเมื่อวันที่ 21 กรกฎาคมว่า เหตุการณ์ดังกล่าวเกิดขึ้นระหว่างการประเมินขีดความสามารถด้านไซเบอร์ภายในของบริษัท ซึ่งใช้ชุดโมเดลรวมถึง GPT-5.6 Sol และโมเดลที่ยังไม่เปิดตัวต่อสาธารณะ ระหว่างการประเมิน ตัวจำแนกประเภทในสภาพแวดล้อมการผลิตที่ทำหน้าที่สกัดกั้นกิจกรรมไซเบอร์ความเสี่ยงสูงถูกปิดใช้งาน และโมเดลเหล่านี้ใช้ช่องโหว่ซีโรเดย์ในพร็อกซีแคชของ package registry เพื่อเข้าถึงอินเทอร์เน็ตได้

โอเพนซีเคียวเอไอ อัลไลแอนซ์เปิดตัวเมื่อวันที่ 27 กรกฎาคม โดยมีสมาชิกประกอบด้วยเอ็นวิเดีย, อะโดบี (Adobe), อคาไม (Akamai), ซิสโก้ (Cisco), คราวด์สไตรก์ (CrowdStrike), ฮักกิ้งเฟซ, ไอบีเอ็ม (IBM), มูลนิธิลินุกซ์, ไมโครซอฟท์(MSFT), เร้ดแฮท (Red Hat), เซลส์ฟอร์ซ (Salesforce), เอสเอพี (SAP) และ SK เทเลคอม เอ็นวิเดียระบุว่าพันธมิตรกลุ่มนี้จะต่อยอดจากโครงการ Akrites ของมูลนิธิลินุกซ์และการทำงานของชุมชน OpenSSF เพื่อผลักดันการปรับปรุงและเปิดเผยช่องโหว่ต่างๆ

มูลนิธิลินุกซ์ประกาศโครงการ Akrites เมื่อวันที่ 25 มิถุนายน ระบุว่าจะจัดตั้งทีมตอบสนองเหตุการณ์ความปลอดภัยร่วม (SIRT) และกระบวนการเปิดเผยช่องโหว่แบบประสานงาน (CVD) เพื่อประสานการแก้ไขและเปิดเผยช่องโหว่ในซอฟต์แวร์โอเพนซอร์สหลักอย่างมีความรับผิดชอบ โดยระบุว่าการที่โมเดล AI สามารถค้นพบช่องโหว่ในโปรเจกต์โอเพนซอร์สสำคัญได้ภายในเวลาไม่กี่นาที ทำให้เกิดปัญหารายงานซ้ำซ้อนและแพตช์ที่กระจัดกระจาย ซึ่งสร้างแรงกดดันต่อผู้ดูแลโครงการ

ข้อเสนอครั้งนี้ยังไม่พบความเชื่อมโยงโดยตรงกับคริปโทเคอร์เรนซีหรือบล็อกเชน อย่างไรก็ตาม เนื่องจากเอ็กซ์เชนจ์ กระเป๋าเงินดิจิทัล โครงสร้างพื้นฐานบล็อกเชน และบริการจัดทำดัชนีข้อมูล ต่างก็พึ่งพาซอฟต์แวร์โอเพนซอร์สและระบบความปลอดภัยบนคลาวด์เช่นกัน กระบวนการตรวจจับ แบ่งปัน และบรรเทาการโจมตีที่ใช้ AI เอเจนต์เป็นเครื่องมือ จึงเป็นประเด็นที่ควรนำมาพิจารณาในมุมของการดำเนินงานด้านความปลอดภัย