นิวยอร์กเปิดพอร์ทัลลงทะเบียนผู้พัฒนา AI แนวหน้ารายใหญ่ เริ่มข้อกำหนดรายงานปี 2027

รัฐนิวยอร์กเปิดพอร์ทัลลงทะเบียนสำหรับผู้พัฒนา AI แนวหน้ารายใหญ่เมื่อวันที่ 10 พ.ย. (เวลาท้องถิ่น) โดยผู้พัฒนาที่เข้าเกณฑ์ตามกฎหมายต้องลงทะเบียนภายในวันที่ 1 ม.ค. 2027

สำนักงานผู้ว่าการรัฐนิวยอร์กระบุในประกาศว่า สำนักงานกำกับดูแลแห่งใหม่ด้านนวัตกรรมดิจิทัล ธรรมาภิบาล ความซื่อสัตย์สุจริต และความน่าเชื่อถือ (Office of Digital Innovation, Governance, Integrity, and Trust: DIGIT) เริ่มเปิดรับการลงทะเบียนทางออนไลน์แล้ว การเปิดพอร์ทัลกับการเริ่มบังคับใช้กฎหมายเป็นคนละเรื่องกัน โดยข้อกำหนดด้านการเปิดเผยข้อมูลและการรายงานจะมีผลตั้งแต่วันที่ 1 ม.ค. 2027

กฎหมายนิวยอร์กนิยาม “โมเดลพื้นฐานสำหรับใช้งานทั่วไปแนวหน้า” ว่าเป็นโมเดลที่ใช้การประมวลผลมากกว่า 10 ยกกำลัง 26 ครั้งในการฝึก บริษัทที่พัฒนาโมเดลดังกล่าวจะเข้าข่ายเป็น “ผู้พัฒนา AI แนวหน้า” ตามกฎหมาย

ในกลุ่มนี้ บริษัทที่มีรายได้รวมทั้งปีในปีก่อนหน้าเกิน 500 ล้านดอลลาร์สหรัฐ เมื่อรวมบริษัทในเครือ จะถูกจัดเป็น “ผู้พัฒนา AI แนวหน้ารายใหญ่” จึงไม่สามารถพิจารณาได้จากชื่อบริษัทเพียงอย่างเดียวว่าต้องลงทะเบียนหรือไม่

ผู้พัฒนารายใหญ่ต้องจัดทำกรอบความปลอดภัยและเผยแพร่บนเว็บไซต์ของบริษัท โดยต้องระบุขั้นตอนประเมินและลดความเสี่ยงจากเหตุการณ์ร้ายแรง การใช้การประเมินจากบุคคลที่สาม และวิธีรับมือเหตุการณ์ด้านความปลอดภัย

กรอบดังกล่าวต้องระบุมาตรการปกป้อง “น้ำหนักโมเดล” ซึ่งเป็นข้อมูลสำคัญของโมเดลที่ยังไม่เปิดตัว จากการแก้ไขโดยไม่ได้รับอนุญาตหรือการรั่วไหล ผู้พัฒนาต้องทบทวนกรอบความปลอดภัยอย่างน้อยปีละครั้ง

ข้อกำหนดรายงานความโปร่งใสของโมเดลไม่ได้จำกัดเฉพาะผู้พัฒนารายใหญ่ ผู้พัฒนา AI แนวหน้าทุกรายต้องเผยแพร่รายงานก่อนหรือพร้อมกับการเปิดตัวโมเดลใหม่ หรือการเปลี่ยนแปลงโมเดลเดิมครั้งสำคัญ

รายงานต้องระบุวันเปิดตัวโมเดล ภาษาที่รองรับ วัตถุประสงค์การใช้งาน และข้อจำกัดในการใช้งาน ส่วนผู้พัฒนารายใหญ่ต้องสรุปผลประเมินความเสี่ยงร้ายแรงและระดับการมีส่วนร่วมของผู้ประเมินภายนอกด้วย

ข้อกำหนดรายงานเหตุการณ์ด้านความปลอดภัยร้ายแรงครอบคลุมผู้พัฒนาทุกรายที่พัฒนา เผยแพร่ หรือดำเนินงานโมเดล AI แนวหน้าในรัฐนิวยอร์ก หากผู้พัฒนาวินิจฉัยว่าเกิดเหตุการณ์ขึ้น หรือทราบข้อเท็จจริงที่ทำให้เชื่อได้ว่าเกิดเหตุแล้ว ต้องรายงานต่อ DIGIT ภายใน 72 ชั่วโมง

หากเหตุการณ์ทำให้มีความเสี่ยงใกล้จะเกิดขึ้นว่าจะมีผู้เสียชีวิตหรือบาดเจ็บสาหัส ผู้พัฒนาต้องแจ้งหน่วยงานที่มีอำนาจภายใน 24 ชั่วโมง รายงานเหตุการณ์แต่ละฉบับจะไม่อยู่ภายใต้คำขอข้อมูลสาธารณะของรัฐนิวยอร์ก

หากผู้พัฒนารายใหญ่ไม่ยื่นเอกสารเปิดเผยข้อมูลหรือรายงาน หรือไม่ปฏิบัติตามกรอบความปลอดภัยที่กำหนด อัยการสูงสุดรัฐนิวยอร์กอาจยื่นฟ้องทางแพ่งได้ เพดานบทลงโทษตามกฎหมายอยู่ที่ 1 ล้านดอลลาร์สหรัฐสำหรับการฝ่าฝืนครั้งแรก และ 3 ล้านดอลลาร์สหรัฐต่อการฝ่าฝืนแต่ละครั้งหลังจากนั้น

การไม่ยื่นแบบลงทะเบียนอาจมีค่าปรับแยกต่างหากวันละ 1,000 ดอลลาร์สหรัฐ ตามข้อกำหนดการลงทะเบียนในกฎหมาย ซึ่งอัยการสูงสุดอาจเรียกร้องผ่านการฟ้องร้องได้ ค่าปรับนี้แยกจากบทลงโทษกรณีฝ่าฝืนข้อกำหนดอื่น

พร้อมกับพอร์ทัลลงทะเบียน รัฐนิวยอร์กได้เปิดศูนย์ความรับผิดชอบและการวิจัย AI ที่มหาวิทยาลัยบิงแฮมตัน สังกัดมหาวิทยาลัยแห่งรัฐนิวยอร์ก (State University of New York) ศูนย์แห่งนี้มีแผนรวมนักวิจัยในรัฐนิวยอร์กมากกว่า 80 คน เพื่อประเมินความปลอดภัยและความมั่นคงของระบบ AI ขั้นสูงอย่างเป็นอิสระ

เมื่อได้รับการร้องขอจากรัฐ ศูนย์จะให้ความเชี่ยวชาญและข้อมูลการประเมินที่จำเป็นต่อการกำกับดูแล นอกจากนี้ยังจะทำงานร่วมกับ DIGIT เพื่อตรวจสอบกรอบความปลอดภัยที่ผู้พัฒนาเผยแพร่และเสนอแนะแนวทางปรับปรุง

แคธี โฮคัล (Kathy Hochul) ผู้ว่าการรัฐนิวยอร์กกล่าวว่า “ความเสี่ยงสูงเกินกว่าจะเชื่อคำพูดของบริษัท AI เพียงอย่างเดียว” แนวทางนี้มุ่งนำผลประเมินจากนักวิจัยอิสระมาใช้ในการกำกับดูแล แทนการพึ่งพาคำชี้แจงของผู้พัฒนาเพียงฝ่ายเดียว