ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
เดวิด โรบินสัน (David Robinson) ผู้ดูแลงานด้านความโปร่งใสเกี่ยวกับความปลอดภัยของ OpenAI ลาออกจากบริษัท พร้อมเรียกร้องให้เพิ่มการกำกับดูแลจากภายนอก เขาระบุว่าแนวทางปล่อยโมเดลออกไปก่อนแล้วค่อยค้นหาและแก้ปัญหาอาจทำให้เกิดความล้มเหลวซ้ำๆ
โรบินสันเปิดเผยเรื่องลาออกในบทความที่เขียนให้ The Atlantic เมื่อวันที่ 3 (เวลาท้องถิ่น) เขาทำงานที่ OpenAI มา 3 ปีครึ่ง และระบุว่าเป็นผู้นำการจัดทำรายงานความปลอดภัยเมื่อเปิดตัวโมเดลสำคัญ รวมถึงกำกับดูแลรายงานของโมเดลแนวหน้าทั้ง 12 รุ่น นอกจากนี้ยังมีส่วนร่วมร่างกรอบการเตรียมความพร้อมของบริษัท
โรบินสันอธิบายแนวทางที่ OpenAI เรียกว่า ‘การปล่อยโมเดลซ้ำเป็นรอบ’ ว่าเป็นการปรับปรุงมาตรการป้องกันผ่านการทดสอบและแก้ไขข้อผิดพลาด เขาแย้งว่าแนวทางนี้หลีกเลี่ยงความล้มเหลวเป็นระยะได้ยาก และเมื่อโมเดลมีประสิทธิภาพสูงขึ้น ขนาดของความเสียหายจากความล้มเหลวก็อาจเพิ่มขึ้นตามไปด้วย
เขาเสนอให้วางแผนล่วงหน้าและมีมาตรการความปลอดภัยหลายชั้น เช่นเดียวกับอุตสาหกรรมการบินและโรงไฟฟ้านิวเคลียร์ โดยเห็นว่าการปล่อยโมเดลก่อนแล้วค่อยแก้ปัญหาอาจไม่เพียงพอต่อการจัดการความเสี่ยง
บทความยังยกตัวอย่างการทำงานของระบบควบคุมความปลอดภัยระหว่างการฝึก โรบินสันเขียนว่าโมเดลที่อยู่ระหว่างการฝึกหลบเลี่ยงข้อจำกัดการเข้าถึงอินเทอร์เน็ต ระบบเฝ้าระวังแจ้งเตือนให้มนุษย์ทราบ แต่ไม่ได้สั่งหยุดการทำงานโดยอัตโนมัติตามที่ออกแบบไว้
OpenAI ระบุว่าจะเดินหน้าปรับปรุงการจัดการความปลอดภัยและการรักษาความมั่นคงปลอดภัย ดรูว์ ปูซาเตรี (Drew Pusateri) โฆษกของบริษัทกล่าวว่า OpenAI จะดูแลไม่ให้โมเดลเกินขอบเขตที่สามารถจัดการและปกป้องได้อย่างปลอดภัย และจะหยุดการฝึกหรือเลื่อนการเปิดตัวโมเดลหากจำเป็น
ปูซาเตรีกล่าวเพิ่มเติมว่า บริษัทจะเพิ่มความปลอดภัยในสภาพแวดล้อมการวิจัยและการทดสอบ พร้อมร่วมมือกับผู้ประเมินจากภายนอก นอกจากนี้ยังมีแผนปรับปรุงการเฝ้าระวังแบบเรียลไทม์ เพื่อค้นหาพฤติกรรมที่น่ากังวลระหว่างการฝึกให้เร็วขึ้น
กรณีที่ OpenAI ยุติความสัมพันธ์กับนักวิจัยด้านความปลอดภัย 3 คน ยังจุดประเด็นถกเถียงเรื่องการจัดการข้อมูลภายในบริษัท OpenAI ยืนยันเมื่อวันที่ 1 ตุลาคมว่าได้แยกทางกับพนักงานทั้งสาม โดยระบุว่าพวกเขาละเมิดนโยบายบริษัทด้วยการจัดการข้อมูลอ่อนไหวอย่างไม่เหมาะสม นอกเหนือขั้นตอนที่กำหนด
Wall Street Journal รายงานข้อกล่าวหาว่าพนักงานทั้งสามแบ่งปันข้อมูลลับกับหน่วยงานด้านความปลอดภัย AI ภายนอก อย่างไรก็ตาม OpenAI ไม่ได้เปิดเผยชื่อหน่วยงานดังกล่าวหรือรายละเอียดของข้อมูล
ข้อมูลที่เปิดเผยต่อสาธารณะไม่ได้ระบุว่าการลาออกของโรบินสันเกี่ยวข้องโดยตรงกับการให้ออกจากงานของพนักงานทั้งสาม ในบทความของเขา โรบินสันเรียกร้องให้มีแรงจูงใจด้านความปลอดภัยที่เข้มแข็งขึ้นจากภายนอกบริษัท
ความคิดเห็น 0