OpenAI เสนอกรอบความปลอดภัย AI ระหว่างประเทศ ครอบคลุม RSI และการรายงานเหตุการณ์

OpenAI เสนอการจัดทำมาตรฐานความปลอดภัยปัญญาประดิษฐ์ (AI) ระหว่างประเทศ ครอบคลุมการวัดการพัฒนาตนเองแบบวนซ้ำ การรายงานเหตุการณ์ AI และการกำกับดูแลโดยมนุษย์ เพื่อให้各ประเทศมีระบบประเมินและรายงานร่วมกันสำหรับรับมือความเสี่ยง AI ข้ามพรมแดน

OpenAI ระบุในข้อเสนอนโยบายที่เผยแพร่เมื่อวันที่ 21 ว่า การพัฒนา AI กำลังขยายไปยังหลายบริษัทและหลายประเทศ จึงจำเป็นต้องทำให้เกณฑ์การประเมินและการรายงานของแต่ละประเทศสอดคล้องกัน หากมาตรฐานแตกต่างกัน จะเปรียบเทียบความเสี่ยงของระบบ AI เดียวกันและรับมือเหตุการณ์ร่วมกันได้ยาก

◇ การพัฒนาตนเองแบบวนซ้ำและการรายงานเหตุการณ์

ประเด็นแรกคือการพัฒนาตนเองแบบวนซ้ำ (RSI) ซึ่งหมายถึงสถานการณ์ที่ AI เข้ามามีส่วนร่วมในกระบวนการพัฒนา AI รุ่นถัดไปจนการแทรกแซงของมนุษย์ลดลง OpenAI ระบุว่าจำเป็นต้องมีเกณฑ์วัดว่าการวิจัย AI แบบอัตโนมัติต้องมีการกำกับดูแลโดยมนุษย์ในระดับใด และกรณีใดควรได้รับการทบทวนทันที

OpenAI ระบุว่าขณะนี้ยังไม่มีการพัฒนาตนเองแบบวนซ้ำที่ทำงานได้อย่างอิสระโดยสมบูรณ์ และไม่ควรเดินหน้าจนกว่าจะสามารถดำเนินการได้อย่างปลอดภัย จุดยืนดังกล่าวสะท้อนความกังวลว่าความเร็วในการพัฒนา AI อาจแซงหน้าความสามารถของมนุษย์ในการทำความเข้าใจและควบคุม

พื้นที่สำคัญประการที่สองคือการจำแนกและรายงานเหตุการณ์ OpenAI เสนอให้ร่วมกันจำแนก ติดตาม และรายงานเหตุการณ์ที่เกี่ยวข้องกับความล้มเหลวด้านการจัดแนวทางให้สอดคล้องกับมนุษย์ (alignment) และกระบวนการวิจัย AI แบบอัตโนมัติ รวมถึงกำหนดระดับความรุนแรงและเกณฑ์การรายงานร่วมกัน

กรอบการรายงานความไม่สอดคล้องของโมเดลที่ OpenAI เผยแพร่เมื่อวันที่ 16 ครอบคลุมปัญหาที่เกิดขึ้นระหว่างการฝึก การประเมิน การทดสอบ และการนำโมเดลไปใช้งาน กรณีที่เปิดเผยจะบันทึกพฤติกรรม ระดับความรุนแรง ผลกระทบภายนอก ช่วงเวลาที่เกิดเหตุ และขอบเขตการตรวจสอบ โดยสามารถรายงานได้เมื่อจำเป็น แม้ปัญหาจะยังไม่ได้รับการแก้ไขอย่างสมบูรณ์

ประการที่สามคือโครงสร้างความร่วมมือระหว่างประเทศ OpenAI เสนอให้ใช้เครือข่ายระหว่างประเทศด้านการวัด การประเมิน และวิทยาศาสตร์ AI ที่ศูนย์มาตรฐานและนวัตกรรมปัญญาประดิษฐ์ของสหรัฐฯ (CAISI) จัดตั้งขึ้นในปี 2024 โดยร่วมมือกับหน่วยงานความปลอดภัย AI ของสหรัฐฯ สหราชอาณาจักร เยอรมนี ฝรั่งเศส ญี่ปุ่น เกาหลีใต้ สิงคโปร์ และอินเดีย

◇ จุดเชื่อมโยงกับกฎระเบียบสหรัฐฯ และยุโรป

ข้อเสนอนี้เชื่อมโยงกับเอกสารนโยบายอีกฉบับที่ OpenAI เผยแพร่เมื่อวันที่ 9 โดยขณะนั้น OpenAI ระบุว่าสภาคองเกรสสหรัฐฯ ควรจัดทำกฎความปลอดภัย AI ระดับชาติที่บังคับใช้ตามขีดความสามารถ และมาตรฐานของสหรัฐฯ ควรเป็นรากฐานในการขับเคลื่อนมาตรฐานระหว่างประเทศ

อย่างไรก็ตาม ข้อเสนอล่าสุดยังไม่ใช่ร่างกฎหมายหรือร่างข้อตกลงระหว่างประเทศที่เป็นรูปธรรม และไม่ได้กำหนดให้ต้องขออนุญาตเปิดตัวโมเดล AI หรือผ่านการตรวจสอบล่วงหน้าแบบบังคับ โดยให้รัฐบาลแต่ละประเทศเป็นผู้ตัดสินใจว่าจะนำมาตรฐานระหว่างประเทศไปปรับใช้ในระบบกฎหมายของตนอย่างไร

OpenAI ระบุว่ามาตรฐานร่วมไม่ควรเอื้อประโยชน์ต่อบริษัท ประเทศ หรือรูปแบบธุรกิจใดเป็นพิเศษ และไม่ควรดำเนินการในลักษณะที่ขัดขวางการแข่งขันของบริษัทเกิดใหม่และผู้พัฒนาโมเดลแบบเปิด

สหภาพยุโรปกำหนดให้ผู้ให้บริการโมเดล AI ทั่วไปที่มีความเสี่ยงเชิงระบบติดตามและจัดทำเอกสารเกี่ยวกับเหตุการณ์ร้ายแรง พร้อมรายงานต่อหน่วยงานที่เกี่ยวข้อง คณะกรรมาธิการยุโรปได้เผยแพร่แบบฟอร์มรายงานเหตุการณ์ร้ายแรงตามมาตรา 55 ของกฎหมาย AI เพื่อทำให้หน้าที่ดังกล่าวมีความชัดเจนมากขึ้น

ดังนั้น แนวคิดของ OpenAI อาจนำไปสู่ทั้งข้อเสนอในการสร้างมาตรฐานใหม่ที่มีสหรัฐฯ เป็นศูนย์กลาง และการหารือเพื่อให้ระบบกำกับดูแลของสหรัฐฯ กับยุโรปสามารถทำงานร่วมกันได้ อย่างไรก็ตาม ยังไม่มีการกำหนดว่าหน่วยงานใดจะเป็นผู้นำมาตรฐานระหว่างประเทศ หรือแต่ละประเทศจะยอมรับมาตรฐานเดียวกันหรือไม่

◇ ปฏิกิริยาจากอุตสาหกรรมและความเชื่อมโยงกับไทย

อุตสาหกรรม AI ยังคงหารือถึงความจำเป็นของมาตรฐานความปลอดภัยร่วมและการประเมินโดยอิสระ โดย AP รายงานว่าผู้เกี่ยวข้องจากบริษัท AI รายใหญ่ รวมถึง OpenAI และ Anthropic กำลังหารือร่วมกันเกี่ยวกับมาตรฐานความปลอดภัยและการควบคุมความเร็วในการพัฒนา

ในอีกด้านหนึ่ง มีข้อเรียกร้องให้หน่วยงานอิสระสามารถตรวจสอบมาตรฐานที่บริษัทเป็นผู้เสนอได้ บนสื่อสังคมออนไลน์มีทั้งเสียงวิจารณ์ว่า OpenAI เรียกร้องให้มีกฎระเบียบ ขณะเดียวกันก็พยายามมีอิทธิพลต่อการออกแบบมาตรฐาน และข้อกล่าวอ้างว่ากฎที่เอื้อบริษัทขนาดใหญ่อาจทำให้คู่แข่งรายใหม่เข้าสู่ตลาดได้ยาก ทั้งหมดนี้เป็นปฏิกิริยาของผู้ใช้สื่อสังคมออนไลน์และยังไม่ได้รับการยืนยันเป็นข้อเท็จจริงแยกต่างหาก

การหารือเรื่องมาตรฐานความปลอดภัย AI ระหว่างประเทศต่อยอดจากแนวนโยบายของ OpenAI ที่เรียกร้องให้มีมาตรฐานความปลอดภัยระดับประเทศมาอย่างต่อเนื่อง โดยข้อเสนอเรื่องการตรวจสอบอิสระและการรายงานเหตุการณ์ด้านความปลอดภัยร้ายแรงได้ขยายไปสู่การหารือเรื่องมาตรฐานระหว่างประเทศ

สำหรับบริษัทในไทย หากมาตรฐานระหว่างประเทศหรือกฎระเบียบของแต่ละประเทศถูกนำไปใช้ในอนาคต ขั้นตอนการพัฒนา การประเมิน และการรายงานเหตุการณ์ของโมเดล AI อาจได้รับผลกระทบ การตรวจสอบโมเดล AI และความมั่นคงปลอดภัยไซเบอร์ยังเชื่อมโยงกับโครงสร้างพื้นฐานด้านการเงิน แพลตฟอร์มซื้อขาย และกระเป๋าสินทรัพย์ดิจิทัล แต่ข้อเสนอนี้ยังไม่ได้ส่งผลโดยตรงต่อราคาสินทรัพย์ดิจิทัลหรือตลาดซื้อขาย

ข้อเสนอของ OpenAI ยังเป็นแนวนโยบายที่ไม่ได้รับการรับรองเป็นมาตรฐานอย่างเป็นทางการจากรัฐบาลสหรัฐฯ หรือองค์กรระหว่างประเทศ ประเด็นที่ต้องติดตามคือรัฐบาลแต่ละประเทศและหน่วยงานประเมินอิสระจะนำระบบการวัดและการรายงานที่เสนอไปปรับใช้ในกฎระเบียบและมาตรฐานจริงหรือไม่