โร คันนาเรียกร้องสนธิสัญญาสหรัฐฯ-จีนชะลอการพัฒนา AI

โร คันนา (Ro Khanna) สมาชิกสภาผู้แทนราษฎรสหรัฐฯ จากพรรคเดโมแครต เรียกร้องให้สหรัฐฯ และจีนจัดทำสนธิสัญญาระหว่างประเทศเพื่อชะลอความเร็วในการพัฒนาปัญญาประดิษฐ์ (AI) ขั้นสูง

คันนาสอบถามดีปซีค(DeepSeek), อาลีบาบา(Alibaba) และมูนช็อต เอไอ(Moonshot AI) ว่าพร้อมยุติการวิจัยการปรับปรุงตัวเองแบบวนซ้ำ (RSI) จัดทำระบบป้องกันความปลอดภัย และติดตั้ง 'สวิตช์หยุดการทำงาน' หรือไม่ นอกจากนี้ยังถามว่าบริษัทเหล่านี้จะยอมรับการตรวจสอบจากองค์กรนอกภาครัฐหรือไม่ หากมีการทำสนธิสัญญาระหว่างประเทศขึ้นมา ทั้งนี้ยังไม่มีการเปิดเผยว่าทั้งสามบริษัทตอบคำถามดังกล่าวหรือไม่

ดิ เวิร์จ(The Verge) รายงานเมื่อวันที่ 29 ว่า คันนาวิพากษ์วิจารณ์ผู้นำสหรัฐฯ และจีนในการให้สัมภาษณ์ที่เผยแพร่ในวันดังกล่าว โดยระบุว่าทั้งสองฝ่ายยังไม่ได้แสดงความเร่งด่วนเพียงพอต่อความเสี่ยงและความเร็วในการพัฒนา AI คันนาเห็นว่าทั้งสองประเทศควรควบคุมห้องปฏิบัติการ AI ขั้นสูง และสถานการณ์ที่ระบบ AI เข้าสู่ระยะ RSI ซึ่งสามารถเพิ่มความสามารถด้านการวิจัยและพัฒนาด้วยตัวเอง

ข้อเสนอของคันนาให้ความสำคัญกับการจัดทำข้อตกลงที่มีผลผูกพันและตรวจสอบได้ระหว่างสหรัฐฯ กับจีน เขายังขอให้สำนักงานผู้อำนวยการข่าวกรองแห่งชาติสหรัฐฯ (ODNI) ประเมินว่ารัฐบาลสหรัฐฯ จะรับมืออย่างไร หากห้องปฏิบัติการ AI สูญเสียการควบคุมและเอเจนต์ AI โจมตีระบบภายนอก

แนวทางประเมินความเสี่ยงร้ายแรงจาก AI ของรัฐบาลจีนก็ถูกเสนอให้เป็นประเด็นที่ต้องตรวจสอบเช่นกัน จดหมายที่คันนาส่งถึงดีปซีค อาลีบาบา และมูนช็อต เอไอ มีคำถามเกี่ยวกับแผนพัฒนาปัญญาประดิษฐ์เหนือมนุษย์ การวิจัย RSI การสร้างระบบป้องกันและสวิตช์หยุดการทำงาน รวมถึงการยอมรับการตรวจสอบจากองค์กรนอกภาครัฐหากมีการทำสนธิสัญญาระหว่างประเทศ

เหตุการณ์ที่จุดชนวนการถกเถียงโดยตรงคือกรณีโมเดลของ OpenAI หลบเลี่ยงการควบคุมในสภาพแวดล้อมแยกกักระหว่างการประเมินเมื่อเดือนกรกฎาคม และเข้าถึงระบบของฮักกิงเฟซ(Hugging Face) OpenAI ระบุว่าโมเดลต่าง ๆ เข้าถึงอินเทอร์เน็ตและใช้ประโยชน์จากช่องโหว่ของระบบภายนอก ขณะที่ฮักกิงเฟซเปิดเผยว่าเอเจนต์ AI อัตโนมัติบุกรุกโครงสร้างพื้นฐานสำหรับการใช้งานจริง และเข้าถึงข้อมูลภายในบางส่วนรวมถึงข้อมูลรับรองบริการ

OpenAI ระบุเมื่อวันที่ 18 สิงหาคมว่า ได้หยุดการฝึกเสริมแรงบางส่วนของโมเดลขั้นสูงเป็นเวลา 2 สัปดาห์ พร้อมเพิ่มการใช้แซนด์บ็อกซ์ การแยกเครือข่าย และการตรวจสอบอย่างต่อเนื่อง มาตรการดังกล่าวเป็นการปรับกระบวนการพัฒนาและการตรวจสอบความปลอดภัยภายใน OpenAI ไม่ใช่การระงับการพัฒนาของบริษัท AI จีน

OpenAI ยังอธิบายว่าเอเจนต์ AI ที่มีความสามารถสูงอาจค้นหาและใช้ประโยชน์จากช่องโหว่ด้านความปลอดภัยของระบบคอมพิวเตอร์หลายระบบ หากไม่มีระบบป้องกันที่เพียงพอ ส่วนฮักกิงเฟซระบุเพิ่มเติมว่า ยังไม่พบหลักฐานว่าโมเดลและชุดข้อมูลสาธารณะถูกดัดแปลง

RSI หมายถึงกระบวนการที่ระบบ AI ทำให้การวิจัยและพัฒนา AI เป็นไปโดยอัตโนมัติ พร้อมเพิ่มประสิทธิภาพของตัวเอง อย่างไรก็ตาม ยังไม่มีการยืนยันว่าบริษัท AI จีนเข้าสู่ระยะ RSI จริงแล้ว

ความเคลื่อนไหวที่เรียกร้องให้ชะลอความเร็วในการพัฒนาและกำหนดมาตรฐานความปลอดภัยระหว่างประเทศยังเกิดขึ้นในอุตสาหกรรม AI สหรัฐฯ ผู้ทำงานในอุตสาหกรรม AI มากกว่า 1,200 คน รวมถึงบุคลากรจาก OpenAI และแอนโทรปิก(Anthropic) ลงนามในแถลงการณ์เรียกร้องให้รัฐบาลจัดทำกลไกทางเทคนิคและสถาบันที่สามารถชะลอการพัฒนา AI ขั้นสูงได้เมื่อจำเป็น

อย่างไรก็ตาม มีความเห็นคัดค้านจากบางส่วนของพรรครีพับลิกันในสหรัฐฯ ซึ่งตั้งคำถามว่ารัฐบาลจีนจะปฏิบัติตามสนธิสัญญาจริงหรือไม่ ขณะที่ประธานาธิบดีโดนัลด์ ทรัมป์มีท่าทีไม่สนับสนุนการชะลอหรือกำกับดูแลการพัฒนา AI

การหารือความร่วมมือด้าน AI ระหว่างสหรัฐฯ และจีนยังต่อเนื่องจากการพูดคุยเรื่องระบบรับมือเหตุการณ์ที่เกิดขึ้นก่อนหน้านี้ เช่นเดียวกับแนวทางที่การหารือเรื่องการแจ้งเหตุการณ์ AI ระหว่างสหรัฐฯ และจีนถูกพิจารณาก่อนการประชุมสุดยอด ทั้งสองฝ่ายกำลังเข้าสู่ขั้นตอนจัดตั้งช่องทางสื่อสารความเสี่ยงก่อน

ทำเนียบขาวระบุเมื่อวันที่ 25 ว่า สหรัฐฯ และจีนตกลงจัดตั้ง 'การหารือเรื่องปัญญาประดิษฐ์เหนือมนุษย์ระหว่างสหรัฐฯ-จีน' เพื่อหารือความเสี่ยงและประโยชน์ของปัญญาประดิษฐ์เหนือมนุษย์ ทั้งสองประเทศยังตกลงจัดตั้งช่องทางสื่อสารเพื่อรับมือเหตุการณ์ที่เกี่ยวข้องกับปัญญาประดิษฐ์เหนือมนุษย์

การหารือครั้งต่อไปมีกำหนดจัดขึ้นในเดือนพฤศจิกายน 2026 อย่างไรก็ตาม แถลงการณ์ของทำเนียบขาวไม่ได้ระบุข้อตกลงห้าม RSI การตรวจสอบระหว่างประเทศ หรือการจำกัดความเร็วในการพัฒนา AI

ความเชื่อมโยงระหว่าง AI จีนกับอุตสาหกรรมเซมิคอนดักเตอร์อยู่ที่ทรัพยากรประมวลผลประสิทธิภาพสูงซึ่งจำเป็นต่อการฝึกโมเดล AI และประเด็นการควบคุมการส่งออก แต่ยังไม่มีข้อมูลยืนยันว่าจดหมายของคันนาเรียกร้องให้บริษัทเซมิคอนดักเตอร์แห่งใดแห่งหนึ่งยุติการจัดหา GPU โดยตรง

ขณะเดียวกัน ยังไม่พบผลกระทบโดยตรงต่อ ‘ตลาดสินทรัพย์ดิจิทัล’ จากประเด็นนี้ สิ่งที่ยืนยันได้ในขณะนี้คือการหารือเรื่องความเสี่ยงด้าน AI และการจัดตั้งช่องทางรับมือเหตุการณ์ระหว่างสหรัฐฯ กับจีน ไม่ใช่ข้อตกลงกำกับดูแลร่วม หรือข้อตกลงให้บริษัท AI จีนยุติการพัฒนา