สภาอังกฤษหารือบังคับตรวจความปลอดภัย AI และรายงานอุบัติเหตุ

รัฐสภาอังกฤษกำลังหารือว่าจะกำหนดให้ตรวจสอบความปลอดภัยของโมเดล AI ขั้นสูงก่อนเปิดตัว และรายงานเหตุการณ์ด้านความปลอดภัยหรือไม่ รวมถึงประเด็นว่าองค์กรประเมินอิสระควรมีอำนาจขอข้อมูลจากผู้พัฒนาและสั่งระงับการเปิดตัวโมเดลได้หรือไม่

คณะกรรมาธิการธุรกิจ นวัตกรรม วิทยาศาสตร์ และการค้าของสภาสามัญอังกฤษจัดการรับฟังความคิดเห็นต่อสาธารณะในหัวข้อความปลอดภัยและธรรมาภิบาล AI เมื่อวันที่ 13 ตุลาคม โดยมีผู้แทนจาก OpenAI, Anthropic, Google DeepMind, Meta, สถาบันความปลอดภัย AI แห่งสหราชอาณาจักร (AISI) และรัฐบาลเข้าร่วม วาระการประชุมที่คณะกรรมาธิการเผยแพร่ระบุประเด็นเปรียบเทียบระหว่างการกำกับดูแลตนเองของบริษัทกับข้อบังคับทางกฎหมาย การตรวจสอบโดยอิสระ การรายงานเหตุการณ์ด้านความปลอดภัยที่ต้องปฏิบัติตาม และอำนาจระงับการเปิดตัวโมเดล

วาระการประชุมระบุคำถามที่จะหารือ แต่ไม่ได้เปิดเผยคำตอบของบริษัท การที่ผู้แทนจาก OpenAI และ Anthropic เข้าร่วมไม่ได้ยืนยันว่าทั้งสองบริษัทสนับสนุนกฎที่มีผลผูกพันหรือเสนอแนวทางกำกับดูแลที่เฉพาะเจาะจง

ขอบเขตการกำกับดูแลอาจทำให้ภาระของบริษัทแตกต่างกัน ประเด็นหนึ่งคือควรใช้มาตรฐานเดียวกับบริการ AI ทุกประเภทหรือเพิ่มการประเมินล่วงหน้าและความรับผิดชอบด้านความปลอดภัยเฉพาะกับโมเดลที่มีความสามารถหรือความเสี่ยงเกินเกณฑ์ วาระที่เผยแพร่ยังไม่ได้ระบุวิธีกำหนดเกณฑ์หรือบทลงโทษเมื่อฝ่าฝืนอย่างชัดเจน

อำนาจประเมินและการบังคับใช้ของ AISI เป็นอีกประเด็นที่อยู่ระหว่างหารือ คณะกรรมาธิการระบุว่า AISI สามารถเข้าถึงโมเดลเพื่อประเมินความเสี่ยงได้ แต่ไม่ได้มีอำนาจบังคับให้ผู้พัฒนาเปิดเผยข้อมูลหรือสั่งระงับการเปิดตัวเสมอไป การประเมินที่อาศัยความร่วมมือโดยสมัครใจกับการประเมินตามข้อบังคับทางกฎหมายจึงแตกต่างกันทั้งในด้านการมีส่วนร่วมของผู้พัฒนาและขอบเขตการดำเนินงานของหน่วยงาน

การรับมือด้านความมั่นคงแห่งชาติเป็นอีกส่วนหนึ่งของบริบทการหารือ MI5 ประกาศเปิดตัวศูนย์ประเมินภัยคุกคาม AI (AITAC) ในเดือนตุลาคม โดยศูนย์จะรวบรวมความเชี่ยวชาญจากหลายหน่วยงาน รวมถึง AISI และศูนย์ความมั่นคงไซเบอร์แห่งชาติ (NCSC) เพื่อประเมินภัยคุกคามต่อความมั่นคงแห่งชาติที่เกี่ยวข้องกับ AI และจัดทำบทวิเคราะห์ให้หน่วยงานรัฐบาล

บทบาทของ AITAC ตามที่ MI5 ระบุคือการประเมินภัยคุกคามและสนับสนุนรัฐบาล ประกาศดังกล่าวไม่ได้ระบุว่าศูนย์มีอำนาจกำกับดูแลบริษัทหรือสั่งระงับการเปิดตัวโมเดล การหารือในรัฐสภาอังกฤษจึงครอบคลุมว่าจะให้บริษัทดูแลการประเมินความปลอดภัยด้วยตนเอง หรือสนับสนุนการประเมินด้วยข้อบังคับทางกฎหมายและอำนาจของหน่วยงานอิสระ