CertiK เสนอระบบกำหนดสิทธิ์และการอนุมัติสำหรับ AI แบบเอเจนติก

เมื่อ AI แบบเอเจนติกสามารถรับหน้าที่สืบสวน ประเมินผล และดำเนินการในงานด้านความปลอดภัยกับการป้องกันการฟอกเงิน (AML) ได้ ข้อเสนอหนึ่งชี้ว่าบริษัทควรปรับระบบควบคุมสิทธิ์และการกำกับดูแลควบคู่กันไป

CertiK เปิดเผยรายงานจาก Intel3D เมื่อวันที่ 5 ชื่อ ‘การเติบโตของพนักงาน AI: AI แบบเอเจนติกกำลังเปลี่ยนแปลงความปลอดภัยไซเบอร์ การป้องกันการฟอกเงิน และการปฏิบัติตามกฎระเบียบอย่างไร’ รายงานระบุว่า AI แบบเอเจนติกทำได้มากกว่าช่วยนักวิเคราะห์ระบุปัญหา โดยสามารถสืบสวน ประเมินผล และดำเนินการภายใต้ขอบเขตสิทธิ์ที่กำหนดไว้

เครื่องมือ AI ทั่วไปมักเสนอผลวิเคราะห์ ขณะที่ AI แบบเอเจนติกสามารถดำเนินขั้นตอนการทำงานได้โดยตรง หากได้รับสิทธิ์ให้จัดประเภทผลการสืบสวนหรือเริ่มขั้นตอนรับมือ งานบางส่วนก็จะทำงานโดยอัตโนมัติ

ยิ่งขอบเขตการทำงานกว้างขึ้น ความเสี่ยงที่การประเมินผิดพลาดจะนำไปสู่การลงมือจริงก็ยิ่งเพิ่มขึ้น รายงานระบุถึงการประเมินผิดพลาดของโมเดล การโจมตีแบบ prompt injection และการนำ AI ไปใช้โดยผู้โจมตีเป็นปัจจัยเสี่ยง

Prompt injection คือการใช้ข้อความหรือข้อมูลที่ป้อนเข้าไปชักนำให้ AI ทำงานต่างจากคำสั่งเดิม หาก AI ด้านความปลอดภัยตรวจสอบข้อมูลจากภายนอกและดำเนินการตอบสนองได้ ก็จำเป็นต้องควบคุมการตรวจสอบข้อมูลนำเข้าและสิทธิ์ในการดำเนินการแยกจากกัน

CertiK เสนอให้กำหนดขอบเขตสิทธิ์ การอนุมัติโดยมนุษย์ การบันทึกการตัดสินใจ และการแบ่งความรับผิดชอบเป็นองค์ประกอบสำคัญของธรรมาภิบาล พร้อมแนะนำให้ทดสอบ Red Team เป็นประจำ ซึ่งเป็นกระบวนการตรวจสอบจุดอ่อนของระบบจากมุมมองผู้โจมตี

รายงานยังเน้นว่าควรตรวจสอบพฤติกรรมของ AI ที่ถือครองหรือทำธุรกรรมสินทรัพย์ดิจิทัลด้วย หาก AI เข้าถึงบัญชีหรือสินทรัพย์ได้ ก็ควรมีบันทึกที่ติดตามได้ว่าการตัดสินใจแต่ละครั้งอาศัยสิทธิ์ใด

รายงานเสนอให้จัดทำระบบกำกับดูแลและความรับผิดชอบให้สอดคล้องกับความสามารถในการลงมือทำของ AI โดยเน้นหลักการควบคุมให้เหมาะกับขอบเขตการใช้งานที่ขยายขึ้น