ข้อตกลง AI ทำเนียบขาวไม่ระบุคุณสมบัติผู้ตรวจอิสระและวิธีเปิดเผยผล

ข้อตกลงซูเปอร์อินเทลลิเจนซ์ของทำเนียบขาวให้บริษัท AI รับการประเมินจากภายนอกอย่างอิสระ แต่ไม่ได้กำหนดคุณสมบัติหรือเกณฑ์ความเป็นอิสระของผู้ประเมิน รวมถึงวิธีเปิดเผยผลการประเมิน

เมื่อวันที่ 29 กันยายน ประธานาธิบดีโดนัลด์ ทรัมป์ (Donald Trump) และผู้แทนจากกูเกิล (Google), แอนโทรปิก (Anthropic), เมตา (Meta, $META), โอเพนเอไอ (OpenAI), xAI และเอ็นวิเดีย (Nvidia, $NVDA) ร่วมลงนามในข้อตกลงดังกล่าว โดยกำหนดให้บริษัทที่พัฒนาและเผยแพร่โมเดล AI ขั้นสูงจัดทำขั้นตอนบริหารความปลอดภัย และทำงานร่วมกับผู้ตรวจสอบหรือผู้ประเมินอิสระจากภายนอก

ข้อตกลงเสนอระบบบริหารความปลอดภัย 4 ขั้น เริ่มจากบริษัทจัดให้มีการควบคุมภายในเพื่อติดตามความสามารถและสถานะการทำงานของโมเดล จากนั้นทีมภายในตรวจสอบว่าการควบคุมดังกล่าวทำงานหรือไม่ แล้วผู้ประเมินภายนอกตรวจว่าการควบคุมมีประสิทธิภาพ ส่วนคณะกรรมการอิสระของบอร์ดจะกำกับดูแลรายงานการตรวจสอบและการแก้ไขข้อบกพร่อง

การตรวจสอบการควบคุมภายในครอบคลุมภัยด้านความมั่นคงปลอดภัยไซเบอร์ ความมั่นคงทางชีวภาพ และภัยเคมีด้วย นอกจากนี้ บริษัทที่ลงนามยังให้คำมั่นร่วมกันว่าจะประชุมเป็นประจำเพื่อหารือเรื่องมาตรฐานและแนวปฏิบัติที่ดี

อย่างไรก็ตาม ข้อตกลงไม่ได้ระบุรายละเอียดเกี่ยวกับคุณสมบัติของผู้ประเมินภายนอก เกณฑ์พิจารณาความเป็นอิสระ หรือวิธีจัดการผลประโยชน์ทับซ้อน อีกทั้งไม่ได้กำหนดขอบเขตการเข้าถึงข้อมูลที่จำเป็นต่อการประเมินและข้อผูกมัดในการเปิดเผยผล รวมถึงไม่มีบทลงโทษหรือขั้นตอนบังคับใช้หากบริษัทไม่ทำตามคำมั่น

ทรัมป์กล่าวในพิธีลงนามว่า ข้อตกลงนี้ “มีผลผูกพันทางศีลธรรม” เอกสารยังกล่าวถึงความเป็นไปได้ที่จะนำคำมั่นไปกำหนดเป็นกฎหมายหรือข้อบังคับในอนาคต แต่ไม่ได้ระบุกำหนดการดำเนินการ

ก่อนการลงนาม โอเพนเอไอเผยแพร่หลักการประเมินโดยบุคคลที่สามเมื่อวันที่ 22 กันยายน โดยเสนอให้ตกลงขอบเขตการประเมินล่วงหน้า เปิดทางให้ผู้ประเมินเข้าถึงข้อมูลเพื่อพิจารณาความเสี่ยง เปิดเผยวิธีประเมิน ตลอดจนเปิดเผยความเชี่ยวชาญและผลประโยชน์ทับซ้อนของผู้ประเมิน

หลักการของโอเพนเอไอเป็นมาตรฐานแยกต่างหากของบริษัท และไม่ได้เป็นกติกากลางที่ใช้กับบริษัทผู้ลงนามทั้งหมด

Schellman เผยผลสำรวจเมื่อวันที่ 29 กรกฎาคม ซึ่งสอบถามผู้ทำงานด้านการประเมิน การนำไปใช้ ความปลอดภัย และธรรมาภิบาล AI ในสหรัฐฯ จำนวน 525 คน ผู้ตอบ 74% ระบุว่าองค์กรของตนพร้อมผ่านการตรวจสอบการปฏิบัติตามกฎระเบียบ AI แต่มีเพียง 27% ที่มองว่าโครงการธรรมาภิบาลขององค์กรเติบโตเต็มที่แล้ว

ในการสำรวจเดียวกัน ผู้ตอบ 90% ระบุว่าองค์กรจัดสรรงบประมาณด้านธรรมาภิบาลแล้ว และ 57% ระบุว่ามีนโยบายอย่างเป็นทางการ ส่วนผู้ที่ระบุว่ามีขั้นตอนรับมือเหตุการณ์เฉพาะด้าน AI อยู่ที่ 44% ตัวเลขเหล่านี้เป็นการประเมินตนเองของผู้ตอบ ไม่ใช่ผลการตรวจสอบจริงหรือข้อมูลระดับการปฏิบัติตามข้อตกลงของบริษัทผู้ลงนาม

ผู้ตอบแบบสำรวจ 86% ระบุว่าองค์กรกำลังทดสอบหรือทดลองใช้เอเจนต์ AI และ 46% ระบุว่านำไปใช้ในสภาพแวดล้อมการทำงานจริงแล้ว ตัวเลขนี้สะท้อนคำตอบขององค์กรที่เข้าร่วมสำรวจ ไม่ได้บอกสถานะการใช้งานของบริษัทผู้ลงนามในข้อตกลง

มาร์ก ซักเคอร์เบิร์ก (Mark Zuckerberg) ซีอีโอของเมตา กล่าวในพิธีลงนามว่า การตรวจสอบจากภายนอกและการกำกับดูแลโดยบอร์ดเป็น “ความคืบหน้าที่มีความหมาย” เขามองข้อตกลงนี้เป็นจุดเริ่มต้นของการบริหารความปลอดภัย

ทอม วีลเลอร์ (Tom Wheeler) นักวิจัยรับเชิญจากสถาบันบรูคกิงส์ (Brookings Institution) เขียนไว้ในการวิเคราะห์เมื่อวันที่ 6 ตุลาคมว่า “ข้อตกลงไม่ได้กำหนดให้เปิดเผยผลการตรวจสอบหรือส่งผลให้หน่วยงานที่ทำงานเพื่อประโยชน์สาธารณะ” ข้อสังเกตนี้ชี้ว่า ข้อตกลงไม่มีช่องทางให้บุคคลภายนอกตรวจสอบผลการประเมิน

แอนโทรปิกระบุเมื่อวันที่ 15 ตุลาคมว่า เริ่มให้ METR ซึ่งเป็นองค์กรประเมินแบบไม่แสวงหากำไร เข้าถึงข้อมูลในระดับใกล้เคียงกับทีมประเมินภายในของบริษัทแล้ว โดย METR จะเปิดเผยผลการประเมินความเสี่ยง

แอนโทรปิกอธิบายว่า บริษัทอาจขอให้ลบข้อมูลในหมวดหมู่ที่กำหนดไว้ล่วงหน้า เช่น ข้อมูลลับ แผนนี้เป็นแนวทางดำเนินการประเมินแยกต่างหากของแอนโทรปิก ไม่ใช่กติกากลางสำหรับข้อตกลงทั้งหมด