'คิลสวิตช์' AI อาจใช้ไม่ได้ผลในระบบกระจายศูนย์

มีการตั้งข้อสังเกตว่า 'คิลสวิตช์' (kill switch) ที่ใช้บังคับหยุดการทำงานของระบบปัญญาประดิษฐ์ (AI) อาจไม่สามารถทำงานได้อย่างสมบูรณ์ในสภาพแวดล้อม AI แบบอิสระที่กระจายอยู่ในศูนย์ข้อมูลและเครือข่ายหลายแห่ง

เจคอบ ค็อกซัน(Jacob Coxon) อดีตนักวิจัยของ Anthropic กล่าวในรายการข่าว 'Meet the Press' ของ NBC เมื่อวันที่ 13 (เวลาท้องถิ่น) ว่า ระบบ AI ในปัจจุบันยังสามารถเปิดใช้คิลสวิตช์ได้ แต่หากระบบกระจายอยู่ในหลายศูนย์ข้อมูล การควบคุมจะยากขึ้น เขาระบุว่าบริษัท AI รายใหญ่จำเป็นต้องกำกับดูแลตนเองไปก่อน จนกว่าจะมีกรอบการกำกับดูแลระยะยาวที่ชัดเจน

ค็อกซันกล่าวว่า "ตอนนี้ AI จำนวนมากยังสามารถเปิดใช้คิลสวิตช์ได้" แต่เขาอธิบายเพิ่มเติมว่า หากศูนย์ข้อมูลกระจายอยู่หลายแห่ง จะต้องใช้สวิตช์จำนวนมากพอสมควรเพื่อตัดการทำงานของระบบทั้งหมด

เขายังกล่าวถึงสถานการณ์ที่ AI ถูกคัดลอกไปยังหลายระบบและเคลื่อนไหวอยู่ทั่วอินเทอร์เน็ต โดยค็อกซันระบุว่า "หากฝูง AI เริ่มโจมตีทางไซเบอร์ทั่วทั้งอินเทอร์เน็ต คิลสวิตช์ก็มีความเป็นไปได้ที่จะใช้การไม่ได้"

คำกล่าวของค็อกซันไม่ได้เป็นการเรียกร้องให้บังคับใช้คิลสวิตช์โดยตรง แต่ใกล้เคียงกับการตั้งคำถามว่ากลไกการกำกับดูแลและควบคุมจำเป็นต้องปรับตัวตามความเร็วของการพัฒนาเทคโนโลยีอย่างต่อเนื่อง ประเด็นสำคัญจึงขยายจากเรื่องการปิดระบบเดี่ยวไปสู่คำถามว่าจะสามารถควบคุม AI แบบอิสระที่กระจายศูนย์ได้จริงหรือไม่

ปัจจุบันสภาคองเกรสสหรัฐฯ มีร่างกฎหมายที่เกี่ยวข้องอยู่แล้ว โดยเท็ด ลิว(Ted Lieu) ส.ส.พรรคเดโมแครต และนาธาเนียล โมแรน(Nathaniel Moran) ส.ส.พรรครีพับลิกัน ได้เสนอร่างกฎหมาย 'AI Kill Switch Act' เมื่อวันที่ 23 กรกฎาคม

ร่างกฎหมายฉบับนี้กำหนดให้ผู้พัฒนาต้องรักษาความสามารถทางเทคนิคในการระงับการทำงานชั่วคราว จำกัดฟังก์ชัน หรือปิดระบบ AI ที่มีความเสี่ยงเมื่อจำเป็น ขณะนี้ร่างกฎหมายถูกส่งไปยังคณะกรรมาธิการความมั่นคงแห่งมาตุภูมิของสภาผู้แทนราษฎรสหรัฐฯ และยังไม่ผ่านเป็นกฎหมาย

แก่นสำคัญของร่างกฎหมายไม่ใช่อุปกรณ์ปิด AI ทั้งหมดด้วยปุ่มเดียว แต่กำหนดว่า สำหรับระบบที่อาจก่อให้เกิด 'ความเสียหายร้ายแรง' รัฐมนตรีความมั่นคงแห่งมาตุภูมิสามารถสั่งบล็อกการเข้าถึง จำกัดฟังก์ชันเฉพาะ หรือสั่งปิดระบบได้ โดยผู้พัฒนาต้องมีมาตรการรองรับคำสั่งดังกล่าว

ผลสำรวจความคิดเห็นก็ยืนยันแรงสนับสนุนต่อกลไกควบคุมเช่นกัน โดย AI Policy Institute ระบุว่า จากการสำรวจผู้มีสิทธิเลือกตั้งชาวอเมริกัน 1,007 คน ระหว่างวันที่ 10-11 มิถุนายน พบว่า 86% เห็นว่าระบบ AI ที่ทรงพลังที่สุดควรมี 'off switch' ที่รับประกันได้

AI Policy Institute เป็นสถาบันวิจัยนโยบายที่สนับสนุนการกำกับดูแลความปลอดภัยของ AI ดังนั้นเมื่อตีความผลสำรวจนี้ จึงจำเป็นต้องพิจารณาองค์ประกอบของกลุ่มตัวอย่างและวิธีการตั้งคำถามประกอบด้วย

เบื้องหลังข้อถกเถียงนี้ยังมีเสียงวิพากษ์วิจารณ์ภายในเกี่ยวกับความเร็วในการพัฒนา AI ด้วย โดยเกี่ยวข้องกับเสียงวิพากษ์วิจารณ์ภายในต่อการแข่งขันพัฒนา AI ระหว่าง OpenAI และ Anthropic ค็อกซันได้โพสต์บน X ทันทีหลังลาออกว่า ทั้งสองบริษัทกำลังแข่งขันกันพัฒนาซูเปอร์อินเทลลิเจนซ์ที่สามารถพัฒนาตัวเองได้ และระบุว่า "พวกเรากำลังพนันด้วยชีวิตของเรา"

อีวาน ฮูบิงเงอร์(Evan Hubinger) นักวิจัยด้านความปลอดภัยของ Anthropic เคยประเมินเป็นความเห็นส่วนตัวว่า โอกาสที่ AI จะสังหารมนุษย์ทั้งหมดมีมากกว่า 10% ทั้งสองคำกล่าวนี้เป็นความเห็นส่วนตัวและโพสต์บนโซเชียลมีเดีย ไม่ใช่ความน่าจะเป็นที่ผ่านการพิสูจน์หรือการคาดการณ์อย่างเป็นทางการของบริษัท

Anthropic ยังดำเนินการวิจัยด้านความปลอดภัยในรูปแบบอื่นนอกเหนือจากคิลสวิตช์ด้วย โดยแผนงานด้านความปลอดภัยของบริษัทตั้งเป้าพัฒนาต้นแบบ 'provable inference' ให้เสร็จภายในวันที่ 30 กันยายน 2026 เพื่อยืนยันว่าผลลัพธ์ของโมเดล AI เชื่อมโยงกับชุดน้ำหนัก (weights) เฉพาะหรือไม่

'Provable inference' เป็นแนวทางที่เน้นการติดตามและตรวจสอบว่าโมเดลใดสร้างผลลัพธ์ใด มากกว่าการบังคับหยุดการทำงานของระบบ หากคิลสวิตช์เน้นที่การหยุดการทำงาน เทคโนโลยีนี้จะเน้นที่การยืนยันแหล่งที่มาของผลลัพธ์จากโมเดล

ร่างกฎหมาย AI Kill Switch Act ยังอยู่ในขั้นตอนการเสนอ ทำให้ยังไม่มีการกำหนดช่วงเวลาบังคับใช้จริงและขอบเขตการบังคับใช้ที่แน่ชัด ส่วนเป้าหมายการพัฒนาต้นแบบ 'provable inference' ตามแผนงานด้านความปลอดภัยของ Anthropic อยู่ที่วันที่ 30 กันยายน