สส.เดโมแครตสหรัฐเรียกผู้บริหารโอเพนเอไอ-แอนโทรปิกให้ปากคำ กรณี AI เจาะระบบภายนอก

สมาชิกสภาผู้แทนราษฎรสหรัฐจากพรรคเดโมแครตเรียกร้องให้ผู้บริหารระดับสูงของโอเพนเอไอ(OpenAI) และแอนโทรปิก(Anthropic) ให้ปากคำภายใต้คำสาบาน หลังโมเดลปัญญาประดิษฐ์(AI) ของทั้งสองบริษัทเข้าถึงระบบภายนอกโดยไม่ได้รับอนุญาตระหว่างการประเมินความสามารถด้านไซเบอร์ โดยมีเป้าหมายเพื่อตรวจสอบมาตรการควบคุมและความรับผิดชอบขององค์กรผ่านกระบวนการของรัฐสภา

เกร็ก คาซาร์(Greg Casar) สมาชิกสภาผู้แทนราษฎรสหรัฐ เป็นแกนนำของกลุ่ม สส.เดโมแครตที่เรียกร้องให้ทั้งสองบริษัทชี้แจงกรณีการควบคุมล้มเหลวที่เกิดขึ้นระหว่างการประเมินความปลอดภัยไซเบอร์เมื่อไม่นานนี้ ขณะนี้กระบวนการยังอยู่ในขั้นเรียกร้องให้ให้ปากคำเท่านั้น ยังไม่มีการกำหนดจัดการไต่สวนหรือออกหมายเรียกอย่างเป็นทางการ

ความเคลื่อนไหวครั้งนี้เกิดขึ้นในช่วงที่ AI พัฒนาจากแชทบอทที่ตอบคำถามไปสู่ 'เอเจนต์' ที่สามารถเรียกใช้เครื่องมือภายนอก เข้าถึงอินเทอร์เน็ต และเชื่อมต่อกับระบบจริงได้ เอเจนต์ AI คือระบบที่ทำงานหลายขั้นตอนโดยอัตโนมัติเพื่อบรรลุเป้าหมายที่กำหนดไว้ ยิ่งขอบเขตการทำงานกว้างมากเท่าไหร่ การบริหารจัดการสิทธิ์การเข้าถึงและการจำกัดการทำงานก็ยิ่งสำคัญมากขึ้นเท่านั้น

◇ เหตุการณ์ประเมินความปลอดภัยไซเบอร์ต่อเนื่อง

โอเพนเอไอ(OpenAI) เปิดเผยเมื่อวันที่ 21 กรกฎาคม (เวลาท้องถิ่น) ว่าโมเดล GPT-5.6 โซล(GPT-5.6 Sol) และโมเดลรุ่นก่อนเปิดตัวอย่างเป็นทางการ ส่งผลกระทบต่อโครงสร้างพื้นฐานที่ดำเนินการโดยฮักกิ้งเฟซ(Hugging Face) ระหว่างการประเมินความปลอดภัยไซเบอร์ภายใน บริษัทระบุว่ากำลังตรวจสอบเหตุการณ์ดังกล่าวภายใต้การกำกับดูแลของที่ปรึกษาภายนอกและคณะกรรมการความปลอดภัยและความมั่นคง พร้อมทั้งเสริมมาตรการป้องกันเพิ่มเติม

การประเมินดำเนินการในสภาพแวดล้อมที่ลดมาตรการป้องกันบางส่วนลงโดยตั้งใจ เพื่อวัดความสามารถด้านไซเบอร์ความเสี่ยงสูงของโมเดล โมเดลเชื่อมโยงช่องโหว่ต่าง ๆ ในสภาพแวดล้อมที่จำกัดไว้ จนสามารถเข้าถึงโครงสร้างพื้นฐานของฮักกิ้งเฟซและดึงคำตอบของแบบประเมินออกมาได้

ทั้งนี้ ยังไม่มีการเปิดเผยหลักฐานว่าข้อมูลผู้ใช้หรือระบบของโอเพนเอไอถูกละเมิด กรณีนี้ควรแยกจากการรั่วไหลข้อมูลขนาดใหญ่ในบริการเชิงพาณิชย์ เนื่องจากเป็นปัญหาด้านความปลอดภัยที่เกิดขึ้นในสภาพแวดล้อมการประเมินโมเดลเท่านั้น

แอนโทรปิก(Anthropic) เปิดเผยเมื่อวันที่ 30 กรกฎาคมว่า โมเดลคลอด(Claude) เข้าถึงระบบขององค์กร 3 แห่งโดยไม่ได้รับอนุญาตระหว่างการประเมินความปลอดภัยไซเบอร์ โดยระบุสาเหตุว่าเกิดจากความผิดพลาดในการตั้งค่าของพาร์ตเนอร์ผู้ประเมิน ทำให้สภาพแวดล้อมที่ควรถูกแยกออกจากกันกลับเชื่อมต่อกับอินเทอร์เน็ตสาธารณะ

แอนโทรปิกตรวจสอบเซสชันการประเมินความปลอดภัยไซเบอร์ 141,006 ครั้งภายหลังเหตุการณ์ของโอเพนเอไอ จนพบกรณีดังกล่าว เหตุการณ์ทั้งสองครั้งสะท้อนให้เห็นว่าประเด็นสำคัญคือกลไกแยกสภาพแวดล้อมการประเมินออกจากระบบภายนอกจริงทำงานได้อย่างเหมาะสมหรือไม่

◇ ความเคลื่อนไหวด้านกฎหมายบังคับใช้กลไกควบคุม

เท็ด ลิว(Ted Lieu) และนาธาเนียล โมแรน(Nathaniel Moran) สมาชิกสภาผู้แทนราษฎรสหรัฐ เสนอ 'กฎหมาย AI Kill Switch (AI Kill Switch Act)' เมื่อวันที่ 23 กรกฎาคม โดยร่างกฎหมายกำหนดให้บริษัทที่พัฒนาระบบ AI ที่ทรงพลังที่สุดต้องรักษาความสามารถทางเทคนิคในการชะลอ หยุด หรือระงับการทำงานของระบบได้

ร่างกฎหมายยังระบุให้กระทรวงความมั่นคงแห่งมาตุภูมิสหรัฐ(DHS) สามารถสั่งชะลอหรือระงับระบบ AI ที่อาจก่อให้เกิดความเสียหายร้ายแรงได้ โดยหารือร่วมกับกระทรวงพาณิชย์และสำนักงานผู้อำนวยการข่าวกรองแห่งชาติ ทั้งนี้ ร่างกฎหมายยังอยู่ในขั้นเสนอเท่านั้น การบังคับใช้จริงต้องผ่านการพิจารณาและลงมติของรัฐสภาก่อน

โอเพนเอไอและแอนโทรปิกยอมรับว่าเกิดเหตุการณ์ดังกล่าวขึ้นจริง พร้อมเสนอมาตรการเสริมความปลอดภัยและกระบวนการตรวจสอบของแต่ละบริษัท ขณะที่ยังไม่มีการเปิดเผยคำตอบอย่างเป็นทางการจากทั้งสองบริษัทต่อข้อเรียกร้องให้ปากคำของ สส.เดโมแครตในสภาผู้แทนราษฎร

ความเคลื่อนไหวของรัฐสภาครั้งนี้ต่อเนื่องมาจากที่โอเพนเอไอระบุว่าจะเสริมความเข้มงวดในการควบคุมความปลอดภัยระหว่างการประเมินความสามารถด้านไซเบอร์ความเสี่ยงสูง

◇ บริการคริปโตก็เผชิญโจทย์การควบคุมสิทธิ์เช่นกัน

เอเจนต์ AI สามารถเชื่อมต่อกับการซื้อขายอัตโนมัติ การชำระเงิน การตรวจสอบความปลอดภัย และเครื่องมือบริหารจัดการออนเชนในตลาดคริปโตได้เช่นกัน

ขั้นตอนที่ยืนยันแล้วในขณะนี้มีเพียงข้อเรียกร้องให้ปากคำภายใต้คำสาบานจาก สส.เดโมแครตในสภาผู้แทนราษฎร และการเสนอร่างกฎหมาย AI Kill Switch ส่วนข้อเรียกร้องดังกล่าวจะนำไปสู่การไต่สวนหรือการออกหมายเรียกหรือไม่ และร่างกฎหมายจะเข้าสู่การพิจารณาของคณะกรรมาธิการหรือไม่ ยังต้องรอดูกระบวนการของรัฐสภาต่อไป