ByteDance Seed รับสมัครนักวิจัย AI ด้านความปลอดภัยและการจัดแนว 10 คน

Seed องค์กรวิจัย AI ของ ByteDance เตรียมตั้งทีมวิจัยด้านความปลอดภัยและการจัดแนวโมเดล พร้อมรับนักวิจัยชุดแรก 10 คน เพื่อทำงานด้านการประเมินความปลอดภัยและการจัดแนวโมเดลในปักกิ่ง เซี่ยงไฮ้ และซานโฮเซ สหรัฐฯ

Seed ระบุในประกาศรับสมัครที่เผยแพร่เมื่อวันที่ 14 ตุลาคมว่าได้จัดตั้งทีมใหม่ชื่อ ‘Alignment & Preparedness’ พร้อมระบุว่าบริษัทจะลงทุนในสาขานี้ระยะยาว และจัดหาทรัพยากรกับการสนับสนุนให้สอดคล้องกับการวิจัยโมเดลล้ำสมัย เนื้อหาหลักได้รับการตรวจสอบเทียบกับประกาศรับสมัครอย่างเป็นทางการของ Seed และรายงานที่เกี่ยวข้องจากสื่อเศรษฐกิจจีน Caixin (财新)

ขอบเขตการวิจัยครอบคลุมการกำหนดกฎพฤติกรรมของโมเดลและนโยบายความปลอดภัย การสร้างระบบประเมินความปลอดภัย การฝึกจัดแนว การทำเรดทีมอัตโนมัติ และการเตรียมพร้อมรับมือความเสี่ยงในอนาคต เรดทีมคือวิธีทดสอบที่จงใจโจมตีโมเดลเพื่อค้นหาจุดอ่อนหรือโอกาสที่จะเกิดความล้มเหลว นอกจากนี้ Seed ยังระบุถึงการมีส่วนร่วมของนักวิจัยภายนอกและองค์กรประเมินอิสระ

การจัดแนว AI เป็นสาขาวิจัยที่มุ่งทำให้พฤติกรรมของโมเดลสอดคล้องกับเจตนาของมนุษย์และมาตรฐานความปลอดภัย ประกาศรับสมัครครั้งนี้สะท้อนแผนของ Seed ที่จะนำงานวิจัยด้านความปลอดภัยเข้าไปอยู่ในกระบวนการฝึก ประเมิน และนำโมเดลออกใช้งาน

ก่อนหน้านี้ ByteDance ได้ตั้งแผนก ‘ข้อมูล AI และความปลอดภัย’ เพื่อดูแลการผลิตข้อมูลสำหรับโมเดลขนาดใหญ่และการจัดการความปลอดภัยโดยเฉพาะ การตั้งทีมวิจัยด้านความปลอดภัยและการจัดแนวภายใน Seed ครั้งนี้จะทำให้การวิจัยโมเดลและการตรวจสอบความปลอดภัยอยู่ในขอบเขตการทำงานร่วมกัน

ประกาศระบุข้อมูลเกี่ยวกับการตั้งทีม จำนวนรับสมัครเบื้องต้น หัวข้อวิจัย และสถานที่ทำงาน แต่ไม่ได้เปิดเผยงบประมาณของทีม กำหนดเวลาสิ้นสุดการรับสมัคร หรือผลงานวิจัย ทั้งนี้ ประกาศรับสมัครไม่ได้ระบุความเกี่ยวข้องโดยตรงกับสินทรัพย์ดิจิทัลหรือบล็อกเชน