Seed องค์กรพัฒนาโมเดลขนาดใหญ่ของ ByteDance เตรียมตั้งทีมรับผิดชอบด้านความปลอดภัยและการจัดแนวโมเดลโดยเฉพาะ โดยมีเป้าหมายยกระดับความปลอดภัยของโมเดลเอเจนต์และรับมือความเสี่ยงจากขีดความสามารถขั้นสูงในด้านเคมี ชีววิทยา รังสี และนิวเคลียร์
PANews รายงานว่า Seed แจ้งการตั้งทีม ‘Seed Model-Alignment&Preparedness’ ผ่านอีเมลภายในเมื่อไม่นานมานี้ โดยเหยียนหลินจะเป็นผู้นำทีมและรายงานต่ออู๋หย่งฮุย หัวหน้า Seed ขณะที่พนักงานบางส่วนจากทีม Responsible AI และ Chat จะย้ายไปสังกัดทีมใหม่
การจัดแนวโมเดลหมายถึงการปรับพฤติกรรมของโมเดลให้สอดคล้องกับเจตนาของมนุษย์และข้อกำหนดด้านความปลอดภัย ส่วน CBRN หมายถึงสาขาเคมี ชีววิทยา รังสี และนิวเคลียร์
รายงานไม่ได้ระบุอำนาจหน้าที่โดยละเอียด กำหนดการดำเนินงาน หรือจำนวนบุคลากรของทีมใหม่
ความคิดเห็น 0