สหราชอาณาจักรเรียกร้องเสริมการป้องกันความเสี่ยงจากฟรอนเทียร์ AI

รัฐบาลสหราชอาณาจักรเรียกร้องให้ยกระดับระบบป้องกันความเสี่ยงจากปัญญาประดิษฐ์ฟรอนเทียร์ (AI) ทั้งการโจมตีทางไซเบอร์ การใช้ประโยชน์ในทางชีวเคมี และการสูญเสียการควบคุมโดยมนุษย์ โดยระบุว่าการทดสอบโมเดล AI ล่วงหน้าเพียงอย่างเดียวยังไม่เพียงพอ

คานิชกา นารายัน(Kanishka Narayan) รัฐมนตรีสหราชอาณาจักรด้าน AI และความปลอดภัยออนไลน์ กล่าวว่า “เราต้องเสริมสร้างและพัฒนาระบบป้องกัน” ในการประชุมใหญ่พรรคแรงงาน พร้อมระบุว่าจำเป็นต้องมีมาตรการที่ก้าวไปไกลกว่าการประเมินความเสี่ยงของ AI โดยความกังวลหลักคือ AI ฟรอนเทียร์อาจช่วยผู้ไม่หวังดีโจมตีเป้าหมาย หรือหลุดพ้นจากการควบคุมของมนุษย์

นารายันกล่าวต่อรัฐสภาสหราชอาณาจักรในเดือนกรกฎาคม 2026 ว่า สถานการณ์ความเสี่ยงต่อการดำรงอยู่ของมนุษย์จาก AI ฟรอนเทียร์มี “ความน่าจะเป็นค่อนข้างต่ำ” ขณะเดียวกัน เขาระบุว่าควรขยายงานวิจัยด้านความปลอดภัยของ AI และขีดความสามารถในการประเมินล่วงหน้า โดยสหราชอาณาจักรอยู่ในสถานะที่สามารถเข้าถึงโมเดล AI ขั้นสูงล่วงหน้าเพื่อประเมินความเสี่ยง

รายงาน ‘AI Scenarios 2030’ ซึ่งจัดทำโดยสำนักงานวิทยาศาสตร์รัฐบาลสหราชอาณาจักรและสถาบันความมั่นคงด้าน AI ระบุว่า AI อาจก่อให้เกิดความเสียหายร้ายแรงหรือกระทบต่อการดำรงอยู่ของมนุษย์ผ่านการโจมตีทางไซเบอร์ การใช้ประโยชน์ในทางชีวเคมี และการสูญเสียการควบคุมโดยมนุษย์ อย่างไรก็ตาม รายงานดังกล่าวเป็นฉากทัศน์สำหรับตรวจสอบความไม่แน่นอนและทดสอบนโยบาย ไม่ใช่การคาดการณ์นโยบายอย่างเป็นทางการ

ดังนั้น รายงานจึงไม่ได้ยืนยันว่ารัฐบาลสหราชอาณาจักรคาดการณ์ว่า AI จะทำให้มนุษยชาติสูญพันธุ์ แต่สะท้อนว่าความเสี่ยงดังกล่าวถูกนำมาพิจารณาในระดับนโยบาย

สถาบันความมั่นคงด้าน AI ของสหราชอาณาจักรกำลังประเมินความเป็นไปได้ที่โมเดลฟรอนเทียร์จะถูกใช้โจมตีทางไซเบอร์ การทำงานแบบอัตโนมัติ ความเสี่ยงด้านชีวเคมี และปัญหาการจัดแนวเป้าหมาย โดยใช้ทั้งการประเมินแบบอัตโนมัติและการตรวจสอบโดยผู้เชี่ยวชาญ เพื่อพิจารณาว่าโมเดลขั้นสูงอาจช่วยโจมตีโครงสร้างพื้นฐานสำคัญหรือสนับสนุนอาชญากรรมไซเบอร์ขนาดใหญ่ได้หรือไม่

วาระการวิจัยระบุว่า ในการประเมินด้านไซเบอร์บางส่วน อัตราการทำภารกิจระดับเริ่มต้นของโมเดล AI เพิ่มจากมากกว่า 10% เล็กน้อยในช่วงต้นปี 2024 เป็น 50% ขณะที่ความยาวของภารกิจที่โมเดลสามารถทำได้เพิ่มขึ้นเป็นสองเท่าประมาณทุก 8 เดือน สถาบันความมั่นคงด้าน AI ระบุว่าการเปลี่ยนแปลงดังกล่าวเป็นเหตุผลสำคัญที่ต้องขยายขีดความสามารถในการประเมินความปลอดภัย

การถกเถียงครั้งนี้ขยายวงหลังเจค็อบ ค็อกซอน(Jacob Coxon) อดีตนักวิจัยของแอนโทรปิก ออกจากบริษัทเมื่อวันที่ 8 กันยายน และกล่าวหาว่าบริษัท AI ฟรอนเทียร์กำลังแข่งขันกันพัฒนาซูเปอร์อินเทลลิเจนซ์ที่สามารถปรับปรุงตัวเองได้

โพสต์ของค็อกซอนได้รับการสนับสนุนจากนักวิจัย AI ทั้งในอดีตและปัจจุบัน แต่ยังไม่อาจถือเป็นฉันทามติของอุตสาหกรรม โดยข้อกล่าวหาดังกล่าวเป็นความเห็นส่วนบุคคลผ่านโซเชียลมีเดีย และยังไม่มีหลักฐานเชิงประจักษ์ยืนยันว่า AI จะทำให้มนุษยชาติสูญพันธุ์ภายในช่วงเวลาใดเวลาหนึ่ง

เอแวน ฮิวบิงเกอร์(Evan Hubinger) หัวหน้าฝ่ายวิจัยการจัดแนวเป้าหมายของแอนโทรปิก กล่าวว่าเขาประเมินความเป็นไปได้เป็นการส่วนตัวว่า AI จะสังหารมนุษย์ทั้งหมดภายใน 10 ปีข้างหน้าไว้สูงกว่า 10% อย่างไรก็ตาม นี่เป็นการประเมินความน่าจะเป็นส่วนบุคคลของฮิวบิงเกอร์ ไม่ใช่การคาดการณ์อย่างเป็นทางการของแอนโทรปิกหรือรัฐบาลสหราชอาณาจักร

ในอีกด้านหนึ่ง เจนเซน หวง(Jensen Huang) ซีอีโอของเอ็นวิเดีย($NVDA) โต้แย้งว่าแนวคิดเรื่อง AI จะทำให้มนุษยชาติสูญพันธุ์เป็นการกล่าวเกินจริงที่ไม่มีพื้นฐานทางวิทยาศาสตร์ โดยแสดงความเห็นในการให้สัมภาษณ์กับ CBS News

สหราชอาณาจักรยังให้ความสำคัญกับความร่วมมือระหว่างประเทศ แอนดี เบิร์นแฮม(Andy Burnham) นายกรัฐมนตรีสหราชอาณาจักร กล่าวว่า ในช่วงที่สหราชอาณาจักรดำรงตำแหน่งประธานกลุ่ม G20 ในปี 2027 จะผลักดันให้ AI เป็นวาระสำคัญ พร้อมส่งเสริมหลักการและมาตรฐานระหว่างประเทศด้านความโปร่งใส การเข้าถึง และการพัฒนาอย่างปลอดภัย

สหราชอาณาจักรมีกำหนดเป็นเจ้าภาพการประชุมสุดยอด G20 ปี 2027 ที่เมืองแมนเชสเตอร์ ขณะที่กฎระเบียบที่มีผลผูกพันหรือร่างข้อตกลงที่เป็นรูปธรรมยังไม่ได้ข้อสรุป

การถกเถียงเรื่องความเสี่ยงของ AI ยังเชื่อมโยงกับช่องว่างระหว่างความเร็วในการพัฒนาโมเดลกับการตรวจสอบความปลอดภัย เช่นเดียวกับที่ TokenPost รายงานก่อนหน้านี้ว่า โมเดล AI ขั้นสูงอาจเพิ่มความเสี่ยงทางไซเบอร์ ขณะเดียวกันก็ช่วยทีมความปลอดภัยตรวจสอบช่องโหว่และรับมือเหตุการณ์ได้

รัฐบาลสหราชอาณาจักรยังชี้ถึงโอกาสในการเพิ่มผลิตภาพและปรับปรุงบริการสาธารณะ โดยแนวทางเสริมการป้องกันที่นารายันเสนอจะนำไปสู่มาตรฐานระหว่างประเทศและกฎระเบียบของแต่ละประเทศหรือไม่ จะเป็นประเด็นที่ต้องติดตามในการหารือ G20 ปี 2027