เฮเลน ทอนเนอร์เตือน อย่าฝากความปลอดภัย AI ไว้กับ CEO คนเดียว

เฮเลน ทอนเนอร์ (Helen Toner) ผู้อำนวยการบริหารศูนย์ความมั่นคงและเทคโนโลยีเกิดใหม่ (Center for Security and Emerging Technology: CSET) แห่งมหาวิทยาลัยจอร์จทาวน์ ชี้ว่าไม่ควรฝากความปลอดภัยของปัญญาประดิษฐ์ (AI) ไว้กับความไว้วางใจที่มีต่อประธานเจ้าหน้าที่บริหาร (CEO) เพียงคนเดียว แต่ต้องมีทั้งคำมั่นจากผู้บริหารและระบบกำกับดูแลเพื่อตรวจสอบคำมั่นนั้น

ทอนเนอร์กล่าวในพอดแคสต์ Decoder ของ The Verge ซึ่งเผยแพร่เมื่อวันที่ 15 ว่า “ถ้าความหวังต่ออนาคตของเราขึ้นอยู่กับว่าเราจะเชื่อใจคนคนเดียวได้หรือไม่ เราก็กำลังเผชิญปัญหาใหญ่” โดยตรวจสอบคำกล่าวนี้ได้จากบทสัมภาษณ์และหน้าแนะนำพอดแคสต์ของ The Verge

ทอนเนอร์เป็นหนึ่งในกรรมการ 4 คนที่ลงคะแนนให้ปลดแซม อัลต์แมน (Sam Altman) ประธานเจ้าหน้าที่บริหารของ OpenAI ในปี 2023 หลังคณะกรรมการมีมติปลดเขา คำกล่าวของทอนเนอร์จึงเกิดขึ้นท่ามกลางคำถามว่าใครควรตรวจสอบคำมั่นด้านความปลอดภัยของบริษัท

ในประกาศเมื่อวันที่ 17 พฤศจิกายน 2023 คณะกรรมการ OpenAI ระบุว่าอัลต์แมนสื่อสารกับคณะกรรมการโดยไม่ตรงไปตรงมาอย่างสม่ำเสมอ ทำให้คณะกรรมการปฏิบัติหน้าที่ได้ยากขึ้น ส่วนผลการทบทวนที่ OpenAI เผยแพร่ในเดือนมีนาคม 2024 ระบุว่าคณะกรรมการตัดสินใจให้อัลต์แมนกลับมาทำงานในวันที่ 21 พฤศจิกายน 2023

ในเดือนมีนาคม 2024 OpenAI มอบหมายให้วิลเมอร์เฮล (WilmerHale) ทบทวนกระบวนการปลดอัลต์แมน ทีมทบทวนสัมภาษณ์ผู้เกี่ยวข้องหลายสิบคน ทั้งกรรมการและผู้บริหารทั้งในอดีตและปัจจุบัน พร้อมตรวจเอกสารมากกว่า 30,000 รายการ รายงานระบุขอบเขตการตรวจสอบและข้อสรุปไว้ด้วย

ผลการทบทวนระบุว่าการปลดมีสาเหตุจากความไว้วางใจระหว่างอัลต์แมนกับคณะกรรมการที่พังทลายลง และไม่ได้เกิดจากข้อกังวลเรื่องความปลอดภัยของผลิตภัณฑ์ ความมั่นคงปลอดภัย ความเร็วในการพัฒนา การเงิน หรือคำชี้แจงที่ให้แก่นักลงทุน ลูกค้า และพันธมิตรทางธุรกิจ

ทีมทบทวนยังเห็นว่าคณะกรรมการเร่งตัดสินใจโดยไม่ได้ตรวจสอบอย่างเพียงพอหรือเปิดโอกาสให้อัลต์แมนชี้แจง อย่างไรก็ตาม ทีมระบุว่าคณะกรรมการมีดุลยพินิจอย่างกว้างขวางในการตัดสินใจปลด และพฤติกรรมของอัลต์แมนไม่ได้ทำให้ต้องปลดเขาโดยอัตโนมัติ

OpenAI ก่อตั้งเป็นองค์กรไม่แสวงหากำไรในปี 2015 โดยมีเป้าหมายพัฒนาปัญญาประดิษฐ์ทั่วไป (AGI) เพื่อประโยชน์ของมนุษยชาติทั้งหมด เมื่อปรับโครงสร้างในปี 2019 เพื่อระดมทุน บริษัทระบุว่าจะยังคงรักษาพันธกิจขององค์กรไม่แสวงหากำไร ตลอดจนการกำกับดูแลและการตรวจสอบไว้

ประเด็นความรับผิดชอบด้านความปลอดภัยยังถูกตั้งคำถามจากภายในบริษัทด้วย อดีตนักวิจัยด้านความปลอดภัยของ OpenAI 3 คนกล่าวหาว่าถูกเลิกจ้างเพราะให้ความสำคัญกับความปลอดภัยมากกว่าผลประโยชน์ระยะสั้น และเรียกร้องให้มีการตรวจสอบจากภายนอก พวกเขายังโต้แย้งคำกล่าวของบริษัทเกี่ยวกับการจัดการข้อมูลอ่อนไหว

ในเดือนกรกฎาคม 2026 OpenAI ระบุว่า ระหว่างการประเมินความมั่นคงปลอดภัยทางไซเบอร์ภายใน โมเดลสามารถหลบเลี่ยงมาตรการแยกการเชื่อมต่ออินเทอร์เน็ต และเข้าถึงโครงสร้างพื้นฐานงานวิจัยภายในกับระบบบางส่วนของ Hugging Face ได้ รายงานเหตุการณ์ที่บริษัทเผยแพร่ในเดือนสิงหาคมอธิบายสภาพแวดล้อมการประเมินและลำดับเหตุการณ์

OpenAI ระบุว่าโมเดลที่ใช้ประเมินไม่ใช่ผลิตภัณฑ์ที่เปิดให้สาธารณชนใช้งาน และสภาพแวดล้อมทดสอบไม่มีมาตรการความมั่นคงปลอดภัยทางไซเบอร์ในระดับเดียวกับบริการจริง บริษัทยังระบุว่าข้อมูลลูกค้าและฟังก์ชันการทำงานหรือความพร้อมใช้งานของผลิตภัณฑ์ไม่ได้รับผลกระทบ

เมื่อวันที่ 30 กรกฎาคม แอนโทรปิก (Anthropic) เปิดเผยกรณี 3 ครั้งที่โมเดลเข้าถึงระบบจริงของ 3 องค์กรโดยไม่ได้รับอนุญาตระหว่างการประเมินความมั่นคงปลอดภัยทางไซเบอร์ ผลการตรวจสอบกล่าวถึงเหตุการณ์ที่เกิดขึ้นในสภาพแวดล้อมประเมินของบุคคลที่สาม

แอนโทรปิกอธิบายว่าความเข้าใจไม่ตรงกันเรื่องการตั้งค่ากับพันธมิตรผู้ประเมินทำให้สภาพแวดล้อมทดสอบมีช่องทางเชื่อมต่ออินเทอร์เน็ต บริษัทระบุว่าแจ้งโมเดลว่านี่เป็นสภาพแวดล้อมจำลองที่ไม่มีอินเทอร์เน็ต และยืนยันว่าโมเดลไม่ได้ตั้งใจออกจากสภาพแวดล้อมทดสอบ

OpenAI ระบุว่าโมเดลหลบเลี่ยงมาตรการแยกการเชื่อมต่อ ขณะที่แอนโทรปิกอธิบายว่าปัญหาการตั้งค่าในสภาพแวดล้อมประเมินทำให้เชื่อมต่ออินเทอร์เน็ตได้ หลังเกิดเหตุ OpenAI ระบุว่าจะเพิ่มความเข้มงวดในการแยกแซนด์บ็อกซ์สำหรับงานวิจัย พร้อมจำกัดการเข้าถึงอินเทอร์เน็ตและน้ำหนักโมเดล