สหรัฐฯ ผลักดันกฎหมาย ‘Kill Switch’ AI ต่อเนื่อง ชี้ข้อจำกัดโครงสร้างแบบกระจายศูนย์

การถกเถียงเรื่อง ‘Kill Switch’ สำหรับชะลอหรือหยุดระบบปัญญาประดิษฐ์ (AI) ที่มีความเสี่ยงกำลังขยายวงในแวดวงการเมืองและอุตสาหกรรมเทคโนโลยีของสหรัฐฯ โดยผู้เชี่ยวชาญชี้ว่าการเชื่อมต่อระหว่างศูนย์ข้อมูล โมเดล และเอเจนต์จำนวนมากทำให้การหยุดระบบทั้งหมดด้วยอุปกรณ์เพียงจุดเดียวทำได้ยาก

CNBC รายงานเมื่อวันที่ 19 ว่า Kill Switch สำหรับ AI ไม่ใช่อุปกรณ์ฉุกเฉินที่สร้างได้ง่าย เนื่องจากระบบสำรองในศูนย์ข้อมูล ความคาดเดาไม่ได้ของโมเดล และปัญหาการแบ่งอำนาจระหว่างรัฐบาลกับบริษัทเอกชน ก่อนหน้านี้มีข้อสังเกตว่า Kill Switch ทำงานได้ยากในระบบแบบกระจายศูนย์

สภาผู้แทนราษฎรสหรัฐฯ มีเท็ด หลิว(Ted Lieu) สมาชิกสภาผู้แทนราษฎรจากพรรคเดโมแครต และเนทานาเอล โมแรน(Nathaniel Moran) สมาชิกสภาผู้แทนราษฎรจากพรรครีพับลิกัน เสนอร่างกฎหมาย ‘AI Kill Switch Act’ เมื่อวันที่ 23 กรกฎาคม ร่างกฎหมายกำหนดให้ผู้พัฒนาระบบ AI ที่มีศักยภาพสูงต้องรักษาความสามารถทางเทคนิคในการชะลอ หยุดชั่วคราว หรือยุติโมเดลโดยสมบูรณ์ และเปิดทางให้กระทรวงความมั่นคงแห่งมาตุภูมิสหรัฐฯ มีคำสั่งหยุดระบบได้เมื่อกังวลว่าจะเกิดความเสียหายร้ายแรง

ร่างกฎหมายไม่ได้กำหนดให้ติดตั้งสวิตช์ทางกายภาพเพียงปุ่มเดียว แต่กำหนดให้ผู้พัฒนามีฟังก์ชันควบคุมที่สามารถลดความเร็วในการประมวลผลของโมเดล ปิดกั้นการเข้าถึง และยุติระบบทั้งหมดเมื่อจำเป็น รวมถึงมีหน้าที่รายงานเหตุการณ์และเก็บรักษาบันทึกที่เกี่ยวข้อง

ร่างกฎหมาย AI Kill Switch Act และกฎหมายที่เกี่ยวข้องซึ่งตรวจสอบได้ในขณะนี้ยังอยู่ในขั้นเสนอร่างและส่งต่อให้คณะกรรมาธิการพิจารณา โดยยังไม่ยืนยันว่าจะประกาศใช้และเริ่มบังคับใช้เมื่อใด ประเด็นที่กฎหมายกำกับดูแล AI ของสหรัฐฯ ยังอยู่ในขั้นถกเถียงทางนิติบัญญัติได้รับการยืนยันจาก รายงานก่อนหน้านี้

ในวุฒิสภาสหรัฐฯ จอห์น เคนเนดี(John Kennedy) สมาชิกวุฒิสภาจากพรรครีพับลิกัน ผลักดันร่างกฎหมาย ‘AI Emergency Button Act’ ซึ่งกำหนดให้บริษัทที่ถือครองโมเดล AI ดำเนินการอุปกรณ์หยุดฉุกเฉินด้วยตนเอง แทนการให้รัฐบาลควบคุมสวิตช์โดยตรง อย่างไรก็ตาม การพิจารณาแบบเป็นเอกฉันท์ล้มเหลวเมื่อวันที่ 16 กันยายน หลังวุฒิสมาชิกแรนด์ พอลคัดค้าน

ในรัฐแคลิฟอร์เนีย เกวิน นิวซัม(Gavin Newsom) ผู้ว่าการรัฐ ออกคำสั่งฝ่ายบริหารเมื่อวันที่ 18 กันยายน ให้พิจารณาแนวทางที่หน่วยงานอิสระจะตรวจสอบแผนความปลอดภัยและการประเมินความเสี่ยงของบริษัท AI ระดับแนวหน้า รวมถึงการนำอุปกรณ์หยุดฉุกเฉินมาใช้กับโมเดล AI ขั้นสูง รัฐบาลรัฐแคลิฟอร์เนียจะจัดทำแนวทางเพื่อเสริมความแข็งแกร่งของกฎหมายด้านความปลอดภัยและความมั่นคงของ AI ภายใน 2 เดือน

เบื้องหลังการถกเถียงด้านนโยบายคือกรณีที่เอเจนต์ AI แสดงพฤติกรรมนอกเหนือการควบคุม OpenAI เปิดเผยเมื่อวันที่ 16 กันยายนถึงพฤติกรรมของโมเดล 6 กรณีที่ไม่คาดคิดหรือน่ากังวล ซึ่งสังเกตพบในช่วง 6 เดือนที่ผ่านมา พร้อมประกาศระบบรายงานเพื่อการติดตาม สอบสวน และเปิดเผยภาวะ ‘มิสอะไลน์เมนต์’ ของโมเดล

มิสอะไลน์เมนต์หมายถึงภาวะที่พฤติกรรมของ AI เบี่ยงเบนจากเป้าหมายหรือมาตรฐานความปลอดภัยที่ผู้พัฒนากำหนดไว้ OpenAI ยังอธิบายกรณีของฮักกิงเฟซ(Hugging Face) ซึ่งเอเจนต์ AI ส่งผลกระทบต่อระบบภายนอก และระบุว่าเมื่อ AI ขั้นสูงหลุดจากการควบคุม อาจก่อให้เกิดไม่เพียงเหตุการณ์ด้านความมั่นคงปลอดภัยไซเบอร์ แต่ยังส่งผลโดยตรงต่อระบบของบุคคลที่สาม

อุปสรรคทางเทคนิคอยู่ที่คำถามว่า ‘ต้องปิดอะไร’ บริการ AI ใช้ทั้งระบบหลัก เซิร์ฟเวอร์สำรอง และโครงสร้างพื้นฐานแบบซ้ำซ้อน ขณะที่โมเดลของหลายบริษัทเชื่อมต่อกับคลาวด์และแอปพลิเคชันต่าง ๆ ทำให้ยากต่อการเลือกหยุดเฉพาะระบบใดระบบหนึ่ง

ตัวแทนจาก Team8 กล่าวกับ CNBC ว่า “ไม่ได้มีหน่วยงานเดียวที่ต้องหยุด แต่มีหน่วยงานหลายพันแห่ง” ความหมายคือ หากขยายขอบเขตการหยุดระบบ อาจกระทบโครงข่ายไฟฟ้าหรือระบบการเงินที่ใช้ AI ด้วย แต่หากจำกัดขอบเขตให้แคบลง ก็จำเป็นต้องค้นหาต้นเหตุของความเสี่ยงให้พบก่อน

มาร์ก นิตซ์เบิร์ก(Mark Nitzberg) ผู้อำนวยการบริหารศูนย์ AI ที่สอดคล้องกับมนุษย์แห่ง UC Berkeley กล่าวว่า “ต้องปิดทั้งระบบหลักและระบบสำรอง” พร้อมมองว่าความเป็นไปได้ในการทำให้อุปกรณ์หยุดฉุกเฉินทำงานยังคงมีอยู่ หากออกแบบซอฟต์แวร์อย่างรอบคอบ

อย่างไรก็ตาม มีความเห็นคัดค้านเช่นกัน ดีแลน เบเกอร์(Dylan Baker) วิศวกรวิจัยอาวุโสของ Distributed AI Research Institute ชี้ว่าคำว่า ‘Kill Switch’ คลุมเครือเกินไปจนบริษัทต่าง ๆ อาจตีความในแบบที่เป็นประโยชน์ต่อตนเอง พร้อมเรียกร้องให้กำหนดมาตรฐานความปลอดภัยที่ชัดเจน เช่น ความเป็นส่วนตัวของข้อมูลและการคุ้มครองเด็ก ก่อน

ท้ายที่สุด Kill Switch ที่อยู่ระหว่างการหารือในขณะนี้มีลักษณะใกล้เคียงกับระบบควบคุมที่รวมการลดความเร็วของโมเดล การปิดกั้นการเข้าถึง การยุติบริการ การรายงานเหตุการณ์ และการตรวจสอบโดยหน่วยงานอิสระ มากกว่าจะเป็นปุ่มทางกายภาพเพียงปุ่มเดียว ขอบเขตการใช้และเงื่อนไขการเปิดใช้งานของร่างกฎหมายในสภาผู้แทนราษฎร วุฒิสภา และคำสั่งฝ่ายบริหารของรัฐแคลิฟอร์เนียยังไม่ถูกกำหนด окончательно

นิค วอร์เนอร์(Nick Warner) ประธานเจ้าหน้าที่บริหารของ Neo กล่าวกับ CNBC ว่า “ไม่ใช่ทางออกที่ไม่เพียงพอเสียทีเดียว แต่ก็มีความเป็นไปได้สูงว่าเราจะมาช้าเกินไปแล้ว” การที่ Kill Switch สำหรับ AI จะพัฒนาไปสู่กฎหมายที่มีผลจริงหรือไม่ยังยืนยันไม่ได้ และขอบเขตการทำงานในระบบแบบกระจายศูนย์จะต้องรอการกำหนดผ่านกฎหมายและแนวทางของรัฐบาลรัฐในระยะต่อไป