นาดella: บริษัทควรจัดการโมเดล AI เป็นความเสี่ยงด้านความปลอดภัยภายใน

บริษัทควรรวมโมเดล AI ไว้ในระบบบริหารความเสี่ยงด้านความปลอดภัยภายใน และเปิดทางให้ผู้มีอำนาจสั่งหยุดชั่วคราวหรือยุติการทำงานของเอเจนต์ได้ทุกเมื่อ เพราะข้อผิดพลาดของโมเดลหรือการโจมตีที่มุ่งใช้ประโยชน์จากโมเดลอาจกระทบข้อมูลอ่อนไหวและงานสำคัญ

The Daily รายงานเมื่อวันที่ 12 เวลา 15:52 น. ว่า สัตยา นาเดลลา(Satya Nadella) CEO ของไมโครซอฟท์(Microsoft, $MSFT) กล่าวถึงแนวทางดูแลความปลอดภัย AI ในองค์กร โดยระบุว่า “บริษัทควรจัดการโมเดล AI เป็นความเสี่ยงด้านความปลอดภัยภายใน” แนวทางนี้ชี้ว่าองค์กรควรวางระบบควบคุมของตนเอง แทนการพึ่งพาคำรับรองด้านความปลอดภัยจากผู้ให้บริการโมเดลเพียงอย่างเดียว

นาเดลลาเสนอให้แยกโมเดลออกจากระบบที่ใช้สั่งการเอเจนต์ และควบคุมสิทธิ์เข้าถึงข้อมูลรวมถึงการใช้เครื่องมือผ่านระบบภายนอกตัวโมเดล นอกจากนี้ งานสำคัญควรมีบันทึกที่ป้องกันการแก้ไขและเปิดให้มนุษย์ตรวจสอบได้

เขาย้ำว่าควรคำนึงตั้งแต่ขั้นตอนนำไปใช้งานว่าโมเดลอาจถูกเจาะระบบ และผู้มีสิทธิ์ควรหยุดชั่วคราวหรือยุติการทำงานของเอเจนต์ได้ทุกเมื่อ พร้อมแนะนำให้ทดสอบความปลอดภัยอย่างต่อเนื่องและเปิดเผยข้อมูลเกี่ยวกับเหตุการณ์ที่เกิดขึ้น