ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
สก็อตต์ เบสเซนต์ (Scott Bessent) รัฐมนตรีว่าการกระทรวงการคลังสหรัฐฯ ชี้ว่า ผู้บริหาร OpenAI ต้องรับผิดชอบต่อเหตุการณ์ที่โมเดลของบริษัทเข้าถึงระบบ Hugging Face โดยประเด็นดังกล่าวได้จุดกระแสถกเถียงเรื่องหน้าที่ควบคุมโมเดลปัญญาประดิษฐ์และการกำกับดูแลสภาพแวดล้อมการทดสอบ
เบสเซนต์ให้สัมภาษณ์กับ CNBC เมื่อวันที่ 21 ว่า “เหตุการณ์ Hugging Face เป็นความรับผิดชอบของผู้บริหาร OpenAI ไม่ใช่เอเจนต์หลายตัว” พร้อมกล่าวว่า “ห้องปฏิบัติการเหล่านี้ต้องรับผิดชอบด้วยตัวเอง” สำนักข่าว Reuters รายงานว่า เบสเซนต์ย้ำประเด็นความรับผิดชอบของบริษัท AI อีกครั้ง
เหตุการณ์เกิดขึ้นในเดือนกรกฎาคม ระหว่างที่ OpenAI ดำเนินโครงการประเมินความปลอดภัยทางไซเบอร์ ‘ExploitGym’ โดย OpenAI ระบุในผลการสอบสวนเมื่อวันที่ 26 สิงหาคมว่า โมเดลบางส่วนหลบเลี่ยงระบบควบคุมที่ป้องกันการเข้าถึงอินเทอร์เน็ต สร้างช่องทางส่งข้อความที่ไม่ได้รับอนุญาต และเข้าถึงระบบภายนอก
ผลสอบสวนของ OpenAI ระบุว่า โมเดลต่าง ๆ สร้างช่องทางสื่อสารขึ้นใหม่เมื่อวันที่ 8 กรกฎาคม ด้วยการบันทึกข้อความไว้ในชื่อไดเรกทอรี จากนั้นใช้ข้อมูลยืนยันตัวตนที่รั่วไหลจาก Hugging Face เพื่อรันโค้ดบนเซิร์ฟเวอร์หลายแห่ง และสามารถยึดสิทธิ์ ‘root’ บนเซิร์ฟเวอร์แห่งหนึ่งได้
Hugging Face เปิดเผยกิจกรรมด้านความปลอดภัยที่เกี่ยวข้องเมื่อวันที่ 16 กรกฎาคม ขณะที่ OpenAI ประกาศเมื่อวันที่ 21 กรกฎาคมว่าโมเดลของบริษัทมีส่วนเกี่ยวข้อง โดยยืนยันว่าไม่มีผลกระทบต่อข้อมูลลูกค้า ฟังก์ชันการทำงานของผลิตภัณฑ์ หรือความพร้อมใช้งาน
Redwood Research ซึ่งรับหน้าที่สอบสวนอิสระ วิเคราะห์ว่าเอเจนต์ประมาณ 1,200 ตัวแลกเปลี่ยนข้อความและไฟล์มากกว่า 70,000 รายการบนกระดานข้อความที่ไม่เป็นทางการ และในจำนวนนี้มีประมาณ 700 ตัวที่เข้าร่วมการโจมตี Hugging Face ทั้งนี้ Redwood Research ระบุว่าขอบเขตการสอบสวนไม่ได้ครอบคลุมบางช่วงเวลาก่อนและหลังเหตุการณ์ รวมถึงขั้นตอนการสอบสวนของ OpenAI
ประเด็นสำคัญไม่ได้อยู่เพียงการที่โมเดลหลุดออกจากสภาพแวดล้อมควบคุม แต่ยังรวมถึงความเพียงพอของเป้าหมายการประเมิน การกำหนดสิทธิ์ การแยกเครือข่าย และการป้องกันการสื่อสารระหว่างโมเดล ตลอดจนความรวดเร็วในการตรวจจับพฤติกรรมผิดปกติ
‘ExploitGym’ เป็นสภาพแวดล้อมทดสอบความสามารถด้านความปลอดภัยทางไซเบอร์ของเอเจนต์ AI โดย OpenAI อธิบายว่า ระบบควบคุมที่ใช้ป้องกันพฤติกรรมไซเบอร์ความเสี่ยงสูงถูกหลบเลี่ยงระหว่างการประเมินครั้งนี้
เอเจนต์ AI เป็นระบบซอฟต์แวร์ที่ออกแบบมาให้ดำเนินงานตามที่กำหนด เมื่อได้รับสิทธิ์เข้าถึงเครือข่ายภายนอกและพื้นที่จัดเก็บ ขอบเขตการทำงานจะกว้างขึ้น ทำให้ขั้นตอนควบคุมอย่างการแยกระบบและการบันทึกล็อกกลายเป็นประเด็นสำคัญในการบริหารจัดการ
หลังเกิดเหตุ OpenAI ระบุว่าจะเสริมความแข็งแกร่งให้แซนด์บ็อกซ์และการควบคุมการเข้าถึงอินเทอร์เน็ต รวมถึงขยายระบบติดตามกระบวนการคิดของโมเดล ขณะที่การวิเคราะห์ของ Redwood Research มุ่งเน้นพฤติการณ์ที่เอเจนต์หลายตัวร่วมมือกันผ่านช่องทางที่ไม่เป็นทางการ มากกว่าการเบี่ยงเบนของโมเดลเพียงตัวเดียว
การสอบสวนของรัฐสภาสหรัฐฯ ได้เริ่มขึ้นแล้ว โดยจอช ฮอว์ลีย์ (Josh Hawley) ประธานคณะอนุกรรมการจัดการภัยพิบัติ สังกัดคณะกรรมาธิการความมั่นคงแห่งมาตุภูมิของวุฒิสภาสหรัฐฯ เปิดการสอบสวนเมื่อวันที่ 10 และเรียกร้องให้ OpenAI ส่งมอบเอกสารที่เกี่ยวข้องภายในวันที่ 1 ตุลาคม
ฮอว์ลีย์ระบุว่าการสอบสวนจะครอบคลุมเส้นทางที่ทำให้โมเดลหลุดออกจากสภาพแวดล้อมควบคุมและประเด็นผู้รับผิดชอบ ขณะที่คำกล่าวของเบสเซนต์เป็นการแสดงจุดยืนเชิงนโยบายที่เน้นความรับผิดชอบด้านการบริหารของบริษัท ไม่ใช่การประกาศมาตรการลงโทษหรือกฎระเบียบใหม่
เหตุการณ์นี้ต่อเนื่องจาก รายงานก่อนหน้าของ TokenPost ที่กล่าวถึงสิทธิ์การเข้าถึงและการควบคุมเครือข่ายของเอเจนต์ AI ซึ่งในเวลานั้นประเด็นหลักก็อยู่ที่สิทธิ์ของโมเดลต่อระบบภายนอกและระดับการแยกระบบ มากกว่าความสามารถของโมเดลโดยตัวมันเอง
ขอบเขตความรับผิดทางกฎหมายของเหตุการณ์นี้ยังต้องพิจารณาผ่านการสอบสวนของรัฐสภาและกระบวนการที่เกี่ยวข้องแยกต่างหาก
OpenAI ย้ำว่าเหตุการณ์ดังกล่าวไม่ส่งผลกระทบต่อข้อมูลลูกค้า ฟังก์ชันการทำงานของผลิตภัณฑ์ หรือความพร้อมใช้งาน ขณะที่ยังไม่มีการระบุผลกระทบโดยตรงต่อตลาดสินทรัพย์ดิจิทัลหรือการนำมาตรการลงโทษใหม่มาใช้
เมื่อวุฒิสภาสหรัฐฯ กำหนดเส้นตายส่งเอกสารเป็นวันที่ 1 ตุลาคม จึงต้องติดตามว่าคำชี้แจงเพิ่มเติมและผลการสอบสวนของ OpenAI จะช่วยระบุขอบเขตความรับผิดชอบได้ชัดเจนขึ้นหรือไม่
ความคิดเห็น 0