ความเร็วของ AI Agent เผยข้อจำกัดโมเดลความปลอดภัยเดิม…การควบคุมอัตโนมัติเริ่มมีบทบาท

ขณะที่เอเจนต์ปัญญาประดิษฐ์ (AI) จัดการเครื่องมือและข้อมูลภายนอก พร้อมทำงานต่อเนื่องได้เร็วกว่ามนุษย์ โมเดลความปลอดภัยไซเบอร์เดิมที่อาศัยการอนุมัติจากมนุษย์และการรับมือภายหลังจึงเริ่มเผชิญข้อจำกัด ผู้เชี่ยวชาญชี้ว่าระบบความปลอดภัยควรเปลี่ยนไปสู่การจำกัดและบันทึกพฤติกรรมอัตโนมัติของ AI Agent แบบเรียลไทม์

TechCrunch รายงานเมื่อวันที่ 23 ว่า ชาดุล ชาห์ (Shardul Shah) หุ้นส่วนผู้ดูแลการลงทุนด้านความปลอดภัยไซเบอร์และซอฟต์แวร์องค์กรของอินเด็กซ์ เวนเจอร์ส ให้ความเห็นดังกล่าวในรายการพอดแคสต์ โดยชาห์ระบุว่าอินเด็กซ์ เวนเจอร์สลงทุนในธุรกิจความปลอดภัยไซเบอร์และซอฟต์แวร์องค์กร รวมถึงเข้าร่วมการลงทุนหลายรอบของ Wiz บริษัทความปลอดภัยบนคลาวด์

ระบบความปลอดภัยแบบเดิมมีโครงสร้างใกล้เคียงกับการให้มนุษย์ตรวจสอบสัญญาณเตือนก่อนตัดสินใจว่าจะตอบสนองหรือไม่ โดยทั่วไปเวลาที่ใช้ในการวิเคราะห์และอนุมัติถือเป็นส่วนหนึ่งของกระบวนการรับมือ

อย่างไรก็ตาม AI Agent ไม่ได้เพียงตีความคำสั่ง แต่ยังสามารถเรียกใช้เครื่องมือภายนอก จัดการข้อมูล และทำงานหลายขั้นตอนต่อเนื่องได้ ดังนั้นเวลาที่มนุษย์ใช้ตรวจสอบอาจกลายเป็นช่องโหว่ใหม่ทั้งในกระบวนการโจมตีและการป้องกัน

ชาห์กล่าวว่า วิธีรักษาความปลอดภัยเดิมที่ให้มนุษย์เข้ามาแทรกแซงเป็นระยะไม่เพียงพอที่จะตามความเร็วของ AI Agent ได้ เมื่อ Agent เชื่อมต่อโดยตรงกับระบบงานและเครื่องมือรักษาความปลอดภัยมากขึ้น การจัดการช่องว่างระหว่างขั้นตอนอนุมัติของมนุษย์กับการดำเนินการอัตโนมัติจึงมีความสำคัญ

ความกังวลด้านความปลอดภัยของ AI และ Agent ที่ขาดการควบคุมยังดึงดูดเงินทุนเข้าสู่สตาร์ตอัปที่เกี่ยวข้อง TechCrunch ระบุว่า Instinct และ Simile ได้รับเงินลงทุนและการประเมินมูลค่าบริษัทในระดับที่หากเป็นช่วงก่อนหน้านี้อาจอธิบายได้ยาก

อย่างไรก็ตาม TechCrunch ระบุว่า Simile เป็นสตาร์ตอัปที่พัฒนาบริการด้านการตลาดและวิจัยผลิตภัณฑ์โดยใช้ผู้ใช้งานเสมือน ซึ่งมีขอบเขตธุรกิจแตกต่างจาก Instinct บริษัทด้านความปลอดภัย AI

การเข้าซื้อกิจการขนาดใหญ่ยังถูกยกเป็นตัวอย่างที่สะท้อนความสำคัญของเทคโนโลยีความปลอดภัย โดยกูเกิลประกาศเสร็จสิ้นการเข้าซื้อ Wiz บริษัทด้านความปลอดภัยคลาวด์และ AI ในเดือนมีนาคม

กูเกิลอธิบายว่าการเข้าซื้อกิจการครั้งนี้มีเป้าหมายเพื่อเสริมศักยภาพด้านความปลอดภัยแบบมัลติคลาวด์และความปลอดภัยที่ขับเคลื่อนด้วย AI TechCrunch ระบุมูลค่าดีลไว้ที่ 3.2 หมื่นล้านดอลลาร์ (ประมาณ 43.328 ล้านล้านวอน) ขณะที่เอกสารยื่นต่อหน่วยงานกำกับดูแลของกูเกิลระบุยอด 2.95 หมื่นล้านดอลลาร์ (ประมาณ 39.943 ล้านล้านวอน) หลังสะท้อนการปรับราคาซื้อ ความแตกต่างเกิดจากวิธีการสะท้อนเงื่อนไขของธุรกรรมในเอกสารแต่ละฉบับ

เทคโนโลยีป้องกันภัยก็กำลังเปลี่ยนไปสู่การใช้ AI เช่นกัน พาโล อัลโต เน็ตเวิร์กส์($PANW) เปิดตัวบริการแบบสมัครสมาชิกที่ใช้โมเดล AI หลายรูปแบบเพื่อค้นหาจุดบกพร่องด้านความปลอดภัยในระบบลูกค้าและเสนอแนวทางแก้ไข โดย Axios รายงานเกี่ยวกับบริการดังกล่าว

พาโล อัลโต เน็ตเวิร์กส์ระบุว่าบริการนี้ใช้โมเดลของแอนโทรปิก โมเดลของ OpenAI และโมเดลแบบโอเพนเวตควบคู่กัน สะท้อนว่าผลิตภัณฑ์รักษาความปลอดภัยกำลังขยายจากการตรวจจับเพียงอย่างเดียวไปสู่การวิเคราะห์ข้อบกพร่องและเสนอแนวทางแก้ไขแบบอัตโนมัติ

อย่างไรก็ตาม การนำ AI มาใช้เพื่อการป้องกันไม่ได้ทำให้ความเสี่ยงหายไปทั้งหมด แอนโทรปิกเปิดเผยในรายงานภัยคุกคามประจำเดือนกันยายนว่า ตรวจพบการโจมตีแบบอัตโนมัติที่ต่ออายุสิทธิ์การเข้าถึงหรือรวบรวมพื้นที่จัดเก็บบนคลาวด์โดยไม่มีมนุษย์เข้ามาแทรกแซง รายงานดังกล่าวชี้ให้เห็นว่าต้องบริหารสิทธิ์และขอบเขตการทำงานของ Agent แยกต่างหาก

ประเด็นสำคัญในการรักษาความปลอดภัยของ AI Agent ได้แก่ ขอบเขตสิทธิ์การเข้าถึง บันทึกการใช้เครื่องมือภายนอก และขั้นตอนหยุดการทำงาน หากต้องการติดตามสาเหตุของเหตุการณ์ จำเป็นต้องบันทึกว่า Agent ได้รับคำสั่งใดและเข้าถึงระบบใดระหว่างทำงานแทนมนุษย์

ประเด็นนี้อาจขยายไปถึงภาคอุตสาหกรรมในประเทศ ก่อนหน้านี้ TokenPost เคยรายงานว่า AI Agent สามารถแก้ไขไฟล์ รันคำสั่ง ค้นหา และดำเนินการเผยแพร่ได้ เมื่อ AI ที่มีสิทธิ์เข้าถึงเคลื่อนไหวอยู่ภายในระบบงาน การบริหารบัญชีเพียงอย่างเดียวอาจไม่เพียงพอต่อการควบคุมความปลอดภัย

ชาห์กล่าวว่า อินเด็กซ์ เวนเจอร์สกำลังลงทุนในบริษัทความปลอดภัยที่ใช้ AI โดยอาศัยการตรวจสอบน้อยกว่าในอดีต ขณะที่ขอบเขตการใช้งาน AI Agent ขยายตัว การแข่งขันของบริษัทด้านความปลอดภัยจึงไม่ได้จำกัดอยู่ที่ประสิทธิภาพการตรวจจับ แต่ยังรวมถึงความสามารถในการจำกัดสิทธิ์ของ Agent บันทึกพฤติกรรม และหยุดการทำงานเมื่อจำเป็น