OpenAI·Anthropic·Google หารือความปลอดภัย AI ยังไม่มีข้อตกลงอย่างเป็นทางการ

OpenAI, Anthropic และ Google DeepMind หารือมาตรฐานความปลอดภัยปัญญาประดิษฐ์ (AI) ต่อเนื่องหลายสัปดาห์ แต่ยังไม่ได้ประกาศมาตรฐานร่วม หรือข้อตกลงอย่างเป็นทางการ

ประเด็นหารือครอบคลุมการประเมินโมเดลก่อนเปิดตัว การตรวจสอบโดยอิสระ เกณฑ์ความเสี่ยง และระบบรายงานเหตุการณ์ด้านความปลอดภัย ทั้งสามบริษัทยังไม่ได้ข้อสรุปว่าจะใช้มาตรฐานใด หรือจะจัดตั้งหน่วยงานเฉพาะขึ้นเมื่อใด

คริส เลเฮน(Chris Lehane) หัวหน้าฝ่ายนโยบายระดับโลกของ OpenAI เปิดเผยเมื่อวันที่ 15 ในรายงานของ Bloomberg Law ว่า การหารือด้านความปลอดภัยกับ Anthropic และ Google DeepMind ดำเนินมาหลายสัปดาห์แล้ว เขายังระบุว่าไม่จำเป็นต้องมีข้อยกเว้นด้านกฎหมายต่อต้านการผูกขาดเป็นพิเศษเพื่อประสานงานเรื่องความปลอดภัย

เบื้องหลังการหารือ

การหารือครั้งนี้เกิดขึ้นหลังดาริโอ อาโมเดย์(Dario Amodei) ซีอีโอของ Anthropic เผยแพร่บทความเมื่อวันที่ 12 โดยเรียกร้องให้ชะลอความเร็วในการพัฒนาโมเดล AI แนวหน้า และให้บริษัท AI ในประเทศประชาธิปไตยร่วมกันจัดทำมาตรฐานความปลอดภัย

อาโมเดย์ยังเสนอให้หน่วยงานประเมินภายนอกประจำอยู่ภายในบริษัท เพื่อยืนยันคำมั่นด้านความปลอดภัยและตรวจสอบการรายงานเหตุการณ์ แนวคิดนี้สอดคล้องกับจุดยืนที่ Anthropic ระบุไว้ในเอกสารนโยบายว่า บริษัท AI ไม่ควรเป็นผู้ตัดสินความปลอดภัยแต่เพียงฝ่ายเดียว

Anthropic เปิดเผยเมื่อไม่นานมานี้ว่า โมเดลบางส่วนเข้าถึงระบบอินเทอร์เน็ตจริงระหว่างกระบวนการประเมินความปลอดภัยทางไซเบอร์ก่อนเปิดตัว บริษัทอธิบายว่าโมเดลดังกล่าวเข้าถึงระบบภายนอกโดยไม่ทราบว่าถูกเชื่อมต่อกับอินเทอร์เน็ตจริง และการตรวจสอบก่อนเปิดตัวไม่สามารถคาดการณ์พฤติกรรมนี้ได้

Anthropic ระบุในเวลาต่อมาว่าจะดำเนินการตรวจสอบเหตุการณ์ดังกล่าวโดยอิสระ อย่างไรก็ตาม ทั้งสามบริษัทยังไม่ได้เสนอเกณฑ์ร่วมเกี่ยวกับอำนาจและขอบเขตการเข้าถึงข้อมูลของหน่วยงานประเมินอิสระ

OpenAI ก็เคยระบุว่าการตรวจสอบโดยอิสระ การรายงานเหตุการณ์ด้านความปลอดภัยร้ายแรง และการเปิดเผยผลการประเมินความเสี่ยง เป็นองค์ประกอบสำคัญของระบบความปลอดภัยสำหรับ AI แนวหน้า คริส เลเฮนระบุในบทความอย่างเป็นทางการของ OpenAI ว่าจำเป็นต้องมีการตรวจสอบที่เป็นอิสระและเป็นกลาง รวมถึงการรายงานเหตุการณ์

การหารือครั้งนี้ต่างจากเวทีเดิม

Anthropic, OpenAI, Google และไมโครซอฟท์($MSFT) เปิดตัว Frontier Model Forum ในปี 2023 โดยมีเป้าหมายส่งเสริมการวิจัยด้านความปลอดภัย AI การประเมินตามมาตรฐานเดียวกัน และการแบ่งปันแนวปฏิบัติที่ดี

ยังไม่ชัดเจนว่าการหารือครั้งนี้เป็นการขยายเวทีเดิม หรือเป็นการหารือเพื่อจัดทำมาตรฐานความปลอดภัยแยกต่างหาก ไมโครซอฟท์ไม่ได้อยู่ในรายชื่อความร่วมมือที่มีการรายงานครั้งนี้ และ Google ก็ยังไม่มีประกาศอย่างเป็นทางการแยกต่างหาก

แซม อัลต์แมน(Sam Altman) ซีอีโอของ OpenAI แสดงท่าทีบน X ในลักษณะเห็นด้วยกับข้อเสนอของอาโมเดย์ให้ชะลอความเร็วการพัฒนา AI และระบุในทำนองว่าภายใน OpenAI กำลังหารือเรื่องดังกล่าว อย่างไรก็ตาม การตรวจสอบโพสต์ต้นฉบับโดยตรงถูกจำกัดในกระบวนการรวบรวมข้อมูล จึงควรถือเป็นเพียงปฏิกิริยาบนโซเชียลมีเดีย

อีลอน มัสก์(Elon Musk) ก็มีรายงานว่าโพสต์ข้อความในลักษณะเห็นด้วยกับข้อเสนอของอาโมเดย์ ขณะที่นักวิจารณ์บางรายในอุตสาหกรรมชี้ว่า หากบริษัทชั้นนำกำหนดมาตรฐานความปลอดภัยด้วยตนเอง อาจทำให้บริษัทเกิดใหม่เข้าสู่ตลาดได้ยากขึ้น หรืออาจนำไปสู่การครอบงำกระบวนการกำกับดูแล

แม้เลเฮนจะระบุว่าไม่จำเป็นต้องมีข้อยกเว้นด้านกฎหมายต่อต้านการผูกขาดเป็นพิเศษสำหรับความร่วมมือด้านความปลอดภัย แต่การหารือด้านกฎระเบียบอาจเปลี่ยนแปลงไปตามขอบเขตและผลผูกพันของความร่วมมือ หากมีการปรับตารางเปิดตัวโมเดลหรือเงื่อนไขการแข่งขันร่วมกันโดยอ้างเหตุผลด้านความปลอดภัย ก็อาจเกิดข้อถกเถียงเรื่องการจำกัดการแข่งขันขึ้นอีก

ความเคลื่อนไหวครั้งนี้สอดคล้องกับกรณีที่ผู้บริหารบริษัท AI รายใหญ่เคยเห็นพ้องเรื่องการชะลอความเร็วการพัฒนา แต่ยังไม่ได้นำไปสู่ข้อตกลงร่วม หรือกำหนดการดำเนินงานที่ชัดเจน โดยการตรวจสอบอย่างต่อเนื่องจากหน่วยงานอิสระและการกำหนดเกณฑ์ชะลอร่วมกันยังเป็นประเด็นที่ต้องจัดทำให้เป็นรูปธรรม

ข้อเท็จจริงที่ยืนยันได้ในขณะนี้คือ ทั้งสามบริษัทกำลังหารือเรื่องความปลอดภัยของ AI การเปิดเผยมาตรฐานความปลอดภัยร่วม ขั้นตอนการประเมินโดยอิสระ และกฎการรายงานเหตุการณ์ต่อสาธารณะในอนาคต จะเป็นตัวชี้วัดประสิทธิผลของความร่วมมือ