CEO เอไอเสนอชะลอความเร็ว ผลักดันความร่วมมือด้านความปลอดภัยสหรัฐฯ-จีน

ดาริโอ อาโมได(Dario Amodei) ประธานเจ้าหน้าที่บริหาร (CEO) ของแอนโทรปิก(Anthropic) เสนอให้ชะลอความเร็วในการพัฒนาปัญญาประดิษฐ์ (AI) แนวหน้า (frontier AI) พร้อมผลักดันข้อตกลงระหว่างสหรัฐฯ และจีนเพื่อจำกัดการใช้ AI ที่มีความเสี่ยงสูง

อาโมไดระบุในบทความ ‘We Must Pace the Frontier’ ที่เผยแพร่เมื่อวันที่ 12 กันยายนว่า “จำเป็นต้องควบคุมความเร็วในการพัฒนา AI แนวหน้า” โดยย้ำว่าไม่ได้หมายถึงการหยุดพัฒนาทั้งหมด แต่ต้องการเวลาที่เพียงพอสำหรับการตรวจสอบความปลอดภัย

เขาชี้ว่าความสามารถของโมเดล AI อาจพัฒนาแซงหน้าการวิจัยด้านความปลอดภัยและการปรับให้สอดคล้อง (alignment) โดยเฉพาะได้ยกสถานการณ์ความเสี่ยงว่ากลุ่มเอเจนต์ AI อาจเข้าควบคุมอินเทอร์เน็ตทั้งหมดได้ภายใน 6-12 เดือน แต่ย้ำว่านี่เป็นเพียงสมมติฐานที่อาโมไดยกขึ้นมา ไม่ใช่เหตุการณ์ที่เกิดขึ้นจริง

แนวคิดของอาโมไดแบ่งออกเป็นสามขั้นตอน ได้แก่ △ให้บุคลากรจากหน่วยงานประเมินอิสระเข้าถึงบริษัท AI ได้ตลอดเวลาเพื่อตรวจสอบขั้นตอนความปลอดภัยและอุบัติเหตุ △ให้บริษัท AI ในประเทศประชาธิปไตยร่วมกันกำหนดมาตรฐานความปลอดภัยและจำกัดความเร็วในการพัฒนา △ให้ประเทศประชาธิปไตยอย่างสหรัฐฯ ผลักดันข้อตกลงความปลอดภัยแบบจำกัดขอบเขตกับประเทศที่ปกครองแบบอำนาจนิยม รวมถึงจีน

ในขั้นตอนแรก ทีมประเมินภายนอกจะตรวจสอบไม่เพียงแค่ตัวโมเดล AI เท่านั้น แต่รวมถึงกระบวนการฝึกฝนและขั้นตอนการดำเนินงานด้วย ทีมนี้จะทำหน้าที่ติดตามอย่างต่อเนื่องว่ามีอุบัติเหตุเกิดขึ้นหรือไม่ และมีการปฏิบัติตามมาตรฐานความปลอดภัยหรือไม่

ขั้นตอนที่สองเกิดจากแนวคิดที่ว่ามาตรการโดยสมัครใจของแต่ละบริษัทเพียงอย่างเดียวไม่เพียงพอที่จะควบคุมการแข่งขันพัฒนา AI ได้ หากมีมาตรฐานร่วมกัน จะสามารถเปรียบเทียบขั้นตอนความปลอดภัยและการตรวจสอบก่อนเปิดตัวโมเดลความเสี่ยงสูงของแต่ละบริษัทได้

การแข่งขันกับจีนถูกนำเสนอเป็นตัวแปรสำคัญของข้อเสนอนี้ อาโมไดระบุว่าเซมิคอนดักเตอร์ขั้นสูงเป็นปัจจัยชี้ขาดศักยภาพ AI ของจีน พร้อมระบุว่าสหรัฐฯ ควรสกัดกั้นการส่งออกชิป AI ประสิทธิภาพสูงและอุปกรณ์ผลิตเซมิคอนดักเตอร์ไปยังจีน รวมถึงตรวจสอบการจัดหาทางอ้อมและการเข้าถึงศูนย์ข้อมูลในต่างประเทศจากระยะไกลด้วย

อาโมไดระบุในบทความว่ามาตรการเหล่านี้จะช่วยรักษาความได้เปรียบด้าน AI ของสหรัฐฯ ซึ่งจะขยายขอบเขตในการเจรจาต่อรองในอนาคต และยังระบุว่าช่วง 3-5 ปีข้างหน้าจะเป็นช่วงเวลาที่ความสำคัญเชิงภูมิรัฐศาสตร์ของ AI จะเพิ่มมากขึ้น

สำหรับความร่วมมือระหว่างประเทศ เขายกตัวอย่างการห้ามพัฒนาอาวุธชีวภาพ การทดสอบโมเดลความเสี่ยงสูงก่อนเปิดตัว และการจำกัดความเร็วในการพัฒนาตนเอง (self-improvement) ของ AI โดยเปรียบเทียบการจำกัดความเร็วพัฒนาตนเองนี้กับสนธิสัญญาจำกัดอาวุธทางยุทธศาสตร์ (SALT) ระหว่างสหรัฐฯ และสหภาพโซเวียตในทศวรรษ 1970

ในทางกลับกัน เขาประเมินว่าข้อตกลงที่จะจำกัดหรือหยุดความเร็วในการพัฒนา AI โดยรวมนั้นยากที่จะเกิดขึ้นได้ในเร็ววัน เนื่องจากการตรวจสอบในแต่ละประเทศทำได้ยาก และมีความเสี่ยงที่บางประเทศจะถอนตัวจากข้อตกลง

ในแวดวงอุตสาหกรรมมีเสียงตอบรับบางส่วน แซม อัลท์แมน(Sam Altman) ประธานเจ้าหน้าที่บริหาร (CEO) ของโอเพนเอไอ(OpenAI) ระบุว่าจะพิจารณาแนวทางการให้สิทธิ์เข้าถึงแก่ผู้ประเมินภายนอก ขณะที่อีลอน มัสก์(Elon Musk) แสดงความเห็นว่า “Dario is right”

เอพี(AP) รายงานคำพูดทั้งสองนี้ พร้อมอธิบายว่าบริษัทต่าง ๆ ตอบรับเรื่องการเสริมความปลอดภัย แต่ยังไม่ได้ตกลงที่จะลดความเร็วในการพัฒนา AI โดยรวมอย่างแท้จริง ดังนั้นปฏิกิริยาของอุตสาหกรรมจึงจำกัดอยู่ที่การประเมินจากภายนอกและการเสริมขั้นตอนความปลอดภัย มากกว่าการนำนโยบายร่วมมาใช้

ข้อเสนอครั้งนี้แตกต่างจากการถกเถียงก่อนหน้านี้ตรงที่ได้ขยายประเด็นความปลอดภัยของ AI ไปสู่การควบคุมการส่งออกเซมิคอนดักเตอร์และปัญหาการเข้าถึงศูนย์ข้อมูล ในโครงสร้างที่การแข่งขันด้านประสิทธิภาพของโมเดล AI และการจัดหาโครงสร้างพื้นฐานด้านการประมวลผลเคลื่อนไหวไปพร้อมกัน มาตรฐานความปลอดภัยและการควบคุมห่วงโซ่อุปทานจึงถูกนำเสนอพร้อมกัน

เนื้อหาที่อาโมไดเสนอแนวคิดความปลอดภัยสามขั้นตอนแทนการหยุดพัฒนา AI เคยถูกรายงานโดยสำนักข่าวนี้มาก่อน บทความล่าสุดนี้ได้เพิ่มแนวคิดความร่วมมือด้านความปลอดภัยแบบจำกัดขอบเขตระหว่างสหรัฐฯ กับจีน และการควบคุมเซมิคอนดักเตอร์ขั้นสูง ซึ่งนำเสนอประเด็นในระดับความมั่นคงระหว่างประเทศ

ขอบเขตการถกเถียงอาจขยายไปถึงอุตสาหกรรม AI และเซมิคอนดักเตอร์ในประเทศด้วย อย่างไรก็ตาม ยังไม่มีข้อมูลที่ระบุว่าสหรัฐฯ และจีนได้ตกลงยอมรับข้อตกลงดังกล่าว หรือมีกำหนดเวลาการดำเนินการที่ชัดเจนแล้ว