สหรัฐฯ-จีนหารือระบบแจ้งเหตุ AI หวั่นข้อมูลผิดพลาดนำไปสู่ความขัดแย้งทางทหาร

สหรัฐฯ และจีนหารือการจัดทำระบบแจ้งเหตุปัญญาประดิษฐ์ (AI) ที่อาจกระทบต่อความมั่นคงแห่งชาติ แต่ยังไม่มีการเปิดเผยว่าทั้งสองฝ่ายตกลงจัดตั้งสายด่วนหรือศูนย์ปฏิบัติการร่วมอย่างเป็นทางการ

สก็อตต์ เบสเซนต์(Scott Bessent) รัฐมนตรีคลังสหรัฐฯ เปิดเผยหลังพบเหอ ลี่เฟิง รองนายกรัฐมนตรีจีน ที่นครนิวยอร์กเมื่อวันที่ 20 กันยายนว่า สหรัฐฯ เสนอ ‘กลไกการแจ้งเตือน’ (notification mechanism) โดยกล่าวว่า “การลดความไม่โปร่งใสและเพิ่มความโปร่งใสระหว่างสองมหาอำนาจ AI อันดับหนึ่งและสองของโลกมีความสำคัญอย่างยิ่ง”

เบสเซนต์ระบุด้วยว่า ทั้งสองประเทศต้องการ “วิสัยทัศน์ร่วมเกี่ยวกับเป้าหมายร่วมกันและภัยคุกคามร่วมกัน” การหารือเกิดขึ้นก่อนการประชุมสุดยอดระหว่างประธานาธิบดีโดนัลด์ ทรัมป์ และประธานาธิบดีสี จิ้นผิง ในวันที่ 24 กันยายน

กระทรวงการต่างประเทศจีนตอบคำถามเมื่อวันที่ 22 กันยายนว่า ให้ยึดผลการหารือด้านเศรษฐกิจและการค้าระหว่างสหรัฐฯ กับจีนที่ฝ่ายจีนประกาศไว้ และให้สอบถามหน่วยงานที่รับผิดชอบเกี่ยวกับมาตรการที่具体เจาะจง ขณะนี้จีนยังไม่ได้ชี้แจงผู้ดำเนินการหรือวิธีติดต่อของระบบแจ้งเหตุดังกล่าว

ประเด็นนี้เป็นบริบทต่อเนื่องจากรายงานก่อนหน้าที่ระบุว่าสหรัฐฯ เสนอระบบแจ้งเหตุ AI ให้จีน เนื้อหาที่เปิดเผยในขณะนี้เป็นเพียงการหารือและพิจารณาวิธีแจ้งเหตุที่เกี่ยวข้องกับความมั่นคงแห่งชาติ ไม่ใช่การจัดตั้งองค์กรระหว่างประเทศหรือศูนย์รับมือร่วม

การทำให้ระบบแจ้งเหตุ AI ใช้งานได้จริงจำเป็นต้องกำหนดว่าเหตุการณ์ใดเข้าข่ายความมั่นคงแห่งชาติ ต้องแจ้งใครและเมื่อใด รวมถึงวิธีตรวจสอบความถูกต้องของข้อมูล การหารือครั้งนี้ยังไม่มีการเปิดเผยเกณฑ์การเปิดใช้งาน ผลผูกพันทางกฎหมาย หรือมาตรการลงโทษ

เบื้องหลังการหารือคือความกังวลว่า AI อาจสร้างข้อมูลข่าวกรองทางทหารที่ผิดพลาดจนจุดชนวนความขัดแย้งทางอาวุธ CNN รายงานเมื่อต้นปีว่า นักวิเคราะห์จากกองบัญชาการปฏิบัติการพิเศษสหรัฐฯ ใช้ AI จัดทำรายงานข่าวกรองที่ประเมินว่าเรือจีนกำลังขนส่งชิ้นส่วนที่เกี่ยวข้องกับโครงการอาวุธนิวเคลียร์ไปยังอิหร่าน

ข้อมูลดังกล่าวไม่เป็นความจริง แต่กองทัพสหรัฐฯ ได้วางแผนสกัดเรือ เตรียมกำลังติดอาวุธขึ้นเรือ และเตรียมส่งเครื่องบินทหารแล้ว CNN รายงานว่า AI ผสานข้อมูลสาธารณะกับข่าวกรองสัญญาณลับของรัฐบาลสหรัฐฯ จนได้ข้อสรุปที่ผิดพลาด ก่อนที่นักวิเคราะห์จะเรียบเรียงข้อมูลดังกล่าวใหม่ในรูปแบบรายงานข่าวกรองทางทหารและเผยแพร่ต่อ

ยังไม่มีการเปิดเผยสินค้าจริงบนเรือ หรือประเภทและสถานะเชิงพาณิชย์ของเครื่องมือ AI ที่ใช้ กระทรวงกลาโหมสหรัฐฯ และกองบัญชาการปฏิบัติการพิเศษสหรัฐฯ ไม่ได้แสดงความเห็นต่อรายงานดังกล่าว

โอเพนเอไอ(OpenAI) ระบุในข้อเสนอเกณฑ์ความปลอดภัยของ AI เมื่อวันที่ 21 กันยายนว่า รัฐบาลและผู้ให้บริการโครงสร้างพื้นฐานสำคัญควรจัดทำช่องทางสื่อสารที่ปลอดภัย เพื่อแบ่งปันข้อกังวลด้านความมั่นคงแห่งชาติ รวมถึงช่องโหว่และภัยคุกคามใหม่ ๆ โอเพนเอไอมองว่าการหารือด้าน AI ระหว่างสหรัฐฯ กับจีนเป็นมาตรการเชิงบวก และเสนอให้มีวิธีวัดผลร่วม ตลอดจนขั้นตอนจำแนกและรายงานเหตุการณ์

ความเป็นไปได้ของการโจมตีทางไซเบอร์โดยใช้ AI ก็ถูกกล่าวถึงในฐานะปัจจัยเบื้องหลังการหารือ Hacktron AI บริษัทความปลอดภัยทางไซเบอร์ เปิดเผยเมื่อวันที่ 25 กรกฎาคมว่า บริษัทเชื่อมโยงช่องโหว่สองจุดเพื่อเข้าถึงบัญชี ChatGPT ของพนักงานโอเพนเอไอ และสร้าง pull request ที่ไม่เป็นอันตรายในคลังโค้ดภายใน

Hacktron AI อธิบายว่าใช้ช่องโหว่การอัปโหลดภาพในฟอรัม Discourse และการตั้งค่า SSO ที่ผิดพลาดของโอเพนเอไอ ก่อนเข้าถึงบัญชี ChatGPT และ Codex รวมถึงการเชื่อมต่อกับ GitHub นักวิจัยใช้คลอดด์ โอปุส 5(Claude Opus 5) ของแอนโทรปิก(Anthropic) และระบุว่าตั้งแต่ค้นพบช่องโหว่เบื้องต้นจนเข้าถึงคลังโค้ดภายในโอเพนเอไอใช้เวลาไม่ถึง 72 ชั่วโมง

โอเพนเอไอจ่ายเงินรางวัลบั๊กบาวน์ตีมูลค่า 6,500 ดอลลาร์(ประมาณ 8.95 ล้านบาท) ให้แก่นักวิจัย อย่างไรก็ตาม กรณีนี้เป็นการตรวจสอบความปลอดภัยแบบจำกัดที่นักวิจัยเปิดเผยเอง และยังไม่ยืนยันว่าผู้โจมตีที่มีเจตนาร้ายเคยใช้ช่องทางเดียวกัน

จอร์จ เฉิน(George Chen) ผู้เชี่ยวชาญด้านนโยบายดิจิทัลและหุ้นส่วนของ Asia Group ประเมินว่ากลไกแจ้งความเสี่ยงจาก AI อาจเป็นต้นแบบให้ประเทศอื่นนำไปใช้ การประเมินดังกล่าวสะท้อนความหมายเชิงสัญลักษณ์ของช่องทางการหารือ ไม่ได้หมายความว่ามีการจัดทำระบบปฏิบัติการจริงแล้ว

ช่องทางสื่อสารเพื่อแจ้งเหตุ AI อาจช่วยป้องกันไม่ให้ข้อมูลข่าวกรองทางทหารที่ผิดพลาดลุกลามเป็นความขัดแย้ง ขณะเดียวกัน มีความเห็นว่าการแจ้งเตือนเพียงอย่างเดียวอาจไม่เพียงพอ หาก AI ถูกใช้โจมตีระบบของบริษัทหรือแพร่กระจายไปยังเซิร์ฟเวอร์หลายแห่ง

ยังไม่มีการเปิดเผยความเชื่อมโยงโดยตรงระหว่างการหารือครั้งนี้กับสินทรัพย์ดิจิทัล รวมถึงยังไม่มีข้อมูลการโจมตีหรือความเสียหายต่อบล็อกเชน กระดานซื้อขาย หรือเหรียญสเตเบิลคอยน์ใด ตลอดจนไม่มีการเปิดเผยข้อตกลงหรือตัวเลขเกี่ยวกับการควบคุมการส่งออกเซมิคอนดักเตอร์ที่เชื่อมโยงกับการหารือด้าน AI สหรัฐฯ และจีนเตรียมจัดการประชุมสุดยอดในวันที่ 24 กันยายน ซึ่งความคืบหน้าของระบบแจ้งเหตุยังเป็นประเด็นที่ต้องติดตาม