OpenAI ทำสัญญากับผู้ประเมินอิสระ 4 แห่ง เพื่อตรวจสอบการจัดแนวและมาตรการความปลอดภัยของโมเดล AI โดยแต่ละแห่งจะเข้าถึงโมเดลและระบบภายในตามขอบเขตที่ตกลงไว้ในสัญญา
OpenAI เปิดเผยเมื่อวันที่ 16 พฤศจิกายนว่าได้ทำสัญญาประเมินระยะแรกกับ Apollo Research, METR, Transluce และ Goodfire ผู้ประเมินจะเข้าถึงจุดตรวจสอบโมเดล ซอร์สโค้ด ข้อมูลฝึกและข้อมูลประเมิน ระบบติดตามตรวจสอบ ตลอดจนเอกสารทางเทคนิค เท่าที่จำเป็นต่อการประเมินตามขอบเขตของแต่ละสัญญา
การจัดแนว AI คือการทำให้ AI ทำงานสอดคล้องกับความตั้งใจและค่านิยมของมนุษย์ เรื่องนี้ไม่ได้แก้ได้ด้วยการเพิ่มประสิทธิภาพโมเดลเพียงอย่างเดียว แต่ยังต้องตรวจสอบระหว่างการฝึกและการใช้งานว่าโมเดลแสดงพฤติกรรมที่ไม่ตรงกับเจตนาหรือไม่
สัตยา นาเดลลา (Satya Nadella) ซีอีโอของไมโครซอฟท์ (Microsoft, MSFT) กล่าวในการสัมภาษณ์กับ 20VC ที่เผยแพร่เมื่อวันที่ 26 ตุลาคมว่า ก่อนหน้านี้เขาคิดว่าการจัดแนวจะเกิดขึ้นเองเมื่อโมเดลมีขนาดใหญ่ขึ้น แต่ “เรื่องนี้อาจยากกว่าและเป็นปัญหาอีกเรื่องหนึ่ง” คำกล่าวดังกล่าวสะท้อนว่าการขยายขนาดโมเดลอาจไม่ทำให้การจัดแนวเกิดขึ้นโดยอัตโนมัติ
นาเดลลายังกล่าวในปาฐกถาหลักของงาน Microsoft Ignite ซึ่งจัดขึ้นในช่วงเช้ามืดวันที่ 18 ตามเวลาเกาหลีว่า แม้กฎการขยายขนาดจะยังทำงานต่อไป แต่ความเข้าใจเรื่องการจัดแนวและกลไกการทำงานของโมเดลยังอยู่ไกล เขาเน้นว่าการออกแบบจำเป็นต้องแยกการจัดหาความฉลาดออกจากการให้อำนาจควบคุมความฉลาดนั้น
แซม อัลต์แมน (Sam Altman) ซีอีโอของ OpenAI กล่าวต่อคณะมนตรีความมั่นคงแห่งสหประชาชาติเมื่อวันที่ 23 กันยายนว่า “ยิ่ง AI มีความสามารถมากขึ้นเท่าใด มนุษย์ก็ยิ่งต้องอยู่ในศูนย์กลางของการตัดสินใจ” ถ้อยแถลงที่ OpenAI เผยแพร่ระบุหลักการว่าไม่ควรมอบการตัดสินใจและการควบคุมของมนุษย์ให้ระบบ AI
อัลต์แมนกล่าวด้วยว่า การตัดสินใจสำคัญไม่ควรอยู่ในมือของห้องปฏิบัติการวิจัยของบริษัทเพียงฝ่ายเดียว แต่ควรมีกระบวนการประชาธิปไตยที่รับผิดชอบต่อรัฐบาล เขายังเสนอให้มีมาตรฐานร่วมทั้งระดับประเทศและระหว่างประเทศ เพื่อประเมินความสามารถ ความเสี่ยง และมาตรการความปลอดภัยของ AI พร้อมรักษาการกำกับดูแลโดยมนุษย์
ก่อนหน้านี้ TokenPost รายงานว่า AI Evaluator Forum เรียกร้องความเป็นอิสระและสิทธิการเข้าถึงข้อมูลของผู้ประเมิน ในเวลานั้น OpenAI ยังไม่ได้เปิดเผยว่าจะเลือกผู้ประเมินรายใด หรือจะให้เข้าถึงข้อมูลในขอบเขตใด แต่ประกาศครั้งนี้ระบุผู้เข้าร่วมสัญญาระยะแรกและขอบเขตการประเมินแล้ว
ในจดหมายเปิดผนึกที่เผยแพร่เมื่อวันที่ 18 กันยายน AI Evaluator Forum เรียกร้องให้ผู้ประเมินมีอิสระด้านบรรณาธิการและการเงิน มีหลายหน่วยงานเข้าร่วม ได้รับการคุ้มครองจากการตอบโต้ และเข้าถึงข้อมูลภายในอย่างเพียงพอ จดหมายมีผู้ลงนามมากกว่า 200 คน นอกจากนี้ยังเสนอให้ผู้ประเมินเผยแพร่ผลและหลักฐานได้ พร้อมกำหนดขั้นตอนลบข้อมูลอ่อนไหวภายในระยะเวลาที่จำกัด
ผู้ประเมินแต่ละแห่งได้รับมอบหมายงานต่างกัน Apollo Research จะตรวจสอบว่าโมเดลอาจปกปิดการกระทำที่ขัดกับเจตนาของผู้พัฒนาหรือไม่ และมาตรการความปลอดภัยตรวจจับพฤติกรรมดังกล่าวได้หรือไม่ ส่วน METR จะประเมินว่าการฝึกเสริมแรงครั้งใหญ่ที่สุดของ OpenAI มีปัญหาด้านการจัดแนวที่การทดสอบและระบบติดตามเดิมตรวจไม่พบหรือไม่
Transluce จะตรวจสอบคุณภาพและขอบเขตของการประเมินการจัดแนวหลังการฝึก ขณะที่ Goodfire จะส่งนักวิจัยด้านการตีความโมเดลมาวิเคราะห์กลไกภายใน และร่วมตรวจสอบระบบติดตามระหว่างการฝึก การแก้จุดบกพร่อง และการประเมินการจัดแนว
ขอบเขตการเข้าถึงและทรัพยากรสำหรับการประเมินแต่ละครั้งจะตกลงกันล่วงหน้า หากการเข้าถึงน้ำหนักหรือโครงสร้างของโมเดลอ่อนไหวโดยตรงอาจทำให้ทรัพย์สินทางปัญญาถูกเปิดเผย ก็อาจพิจารณาใช้วิธีวิเคราะห์ร่วมกับนักวิจัยของ OpenAI แทน
ผู้ประเมินที่ทำงานกับข้อมูลลับจะใช้คอมพิวเตอร์ของบริษัทภายในสำนักงาน OpenAI และการทดลองจะอยู่ภายใต้มาตรฐานความปลอดภัยเดียวกับพนักงาน OpenAI บริษัทระบุว่าคณะกรรมการกำกับดูแลอิสระของคณะกรรมการมูลนิธิจะตรวจสอบกระบวนการและผลการประเมินทั้งหมด และจะได้รับรายงานฉบับที่ไม่ผ่านการแก้ไข
OpenAI เปิดเผยเงื่อนไขค่าตอบแทนด้วย Apollo Research และ Goodfire จะได้รับค่าตอบแทนเป็นเงิน แต่ไม่ผูกกับผลการประเมิน ส่วน METR และ Transluce จะไม่ได้รับค่าตอบแทนเป็นเงิน แต่อาจได้รับเครดิต API หรือทรัพยากรประมวลผลสำหรับใช้ในการประเมิน
OpenAI ระบุว่าผู้ประเมินสามารถเผยแพร่ผลได้อย่างเป็นอิสระ อย่างไรก็ตาม บริษัทสงวนสิทธิ์ลบข้อมูลลับ และอาจขอเลื่อนการเผยแพร่หากต้องการเวลาแก้ไขความเสี่ยงด้านความปลอดภัยหรือความมั่นคง OpenAI กับ Transluce ยังระบุว่าตั้งใจจะประเมินต่อเป็นเวลาประมาณ 8 สัปดาห์ในช่วงต้นปี 2027 โดยจะเข้าถึงโมเดลเพิ่มเติมและตรวจสอบว่าผลประเมินมีผลต่อการตัดสินใจเปิดตัวอย่างไร
Comment 0