สภานครนิวยอร์กหารือร่างกฎหมายตรวจสอบ AI อิสระ หลังถามบริษัทถึงความเสี่ยงภัยพิบัติ

สภานครนิวยอร์กสอบถามตัวแทนจาก OpenAI, Google, Meta และ Anthropic ถึงความเสี่ยงที่ AI อาจก่อให้เกิดภัยพิบัติและมาตรการความปลอดภัย พร้อมหารือข้อเสนอร่างกฎหมายที่รวมการตรวจสอบโดยบุคคลที่สามและการเยียวยาความเสียหาย

เมื่อวันที่ 5 ตุลาคม สภานครนิวยอร์กจัดการไต่สวน “Committee of the Whole” ซึ่งมีสมาชิกสภาทั้งหมดเข้าร่วม ประกาศอย่างเป็นทางการของสภาระบุว่ามีสมาชิกประมาณ 40 คนเข้าร่วม และระบุชื่อ Morgan Dwyer จาก OpenAI, Shane Cahill จาก Meta, Alice Friend จาก Google และ Logan Graham จาก Anthropic เป็นพยานหลังสาบานตน Julie Menin ประธานสภานครนิวยอร์กขอให้แต่ละบริษัทประเมินความเสี่ยงที่ AI อาจก่อขึ้นในสถานการณ์ภัยพิบัติร้ายแรงที่สุดเป็นตัวเลข

การไต่สวนยังหารือถึงวิธีเชื่อมคำอธิบายความเสี่ยงของบริษัทเข้ากับหลักเกณฑ์ความรับผิดทางกฎหมาย ข้อเสนอร่างกฎหมายที่สภานครนิวยอร์กเผยแพร่ล่วงหน้าครอบคลุมการตรวจสอบระบบ AI โดยบุคคลที่สาม กลไกที่ให้มนุษย์หยุดการทำงานได้ สิทธิเรียกร้องทางแพ่งเมื่อเกิดความเสียหายที่คาดการณ์ได้จากการหลีกเลี่ยงมาตรการควบคุมความปลอดภัย และการรายงานเหตุการณ์ด้านความปลอดภัยของ AI เนื้อหาเหล่านี้ยังเป็นข้อเสนอที่อยู่ระหว่างการหารือ ไม่ใช่กฎที่มีผลบังคับใช้หรือหลักเกณฑ์ความรับผิดที่ได้ข้อยุติแล้ว

Introduction 2602 ซึ่งเกี่ยวกับการตรวจสอบโดยบุคคลที่สาม เสนอให้ปรับบริษัท 25,000 ดอลลาร์ต่อกรณี หากขายหรือเผยแพร่ระบบ AI ที่ยังไม่ผ่านการตรวจสอบ อย่างไรก็ตาม ยังไม่มีการเรียกเก็บค่าปรับตามข้อเสนอนี้ และประกาศที่เผยแพร่ของสภาไม่ได้ระบุว่าร่างกฎหมายผ่านการลงมติหรือได้รับความเห็นชอบแล้วหรือไม่

ประกาศอย่างเป็นทางการของสภานครนิวยอร์กระบุทั้งคำชี้แจงของตัวแทนบริษัทเกี่ยวกับมาตรการความปลอดภัย และคำเตือนความเสี่ยงจาก Jacob Coxon อดีตนักวิจัยของ Anthropic Coxon ให้การว่า หากการพัฒนาดำเนินไปตามแนวทางปัจจุบัน โอกาสที่มนุษยชาติจะสูญเสียการควบคุม AI และนำไปสู่การสูญพันธุ์มีแนวโน้มสูงขึ้น คำกล่าวนี้เป็นการประเมินความเสี่ยงของ Coxon ไม่ใช่ตัวเลขที่วัดหรือยืนยันได้ในการไต่สวน

การไต่สวนครั้งนี้พิจารณาทั้งคำมั่นด้านความปลอดภัยโดยสมัครใจของบริษัท และมาตรฐานการตรวจสอบ การรายงาน และการเยียวยาความเสียหายที่จะกำหนดไว้ในกฎหมาย ขอบเขตการบังคับใช้และหลักเกณฑ์ความรับผิดของข้อเสนอจะต้องผ่านกระบวนการนิติบัญญัติต่อไป