เปิดตัว PolicyLM-1.7B โมเดล AI คัดแยกโพสต์ได้โดยไม่ต้องฝึกใหม่เมื่อแก้กฎ

มีการเปิดตัวโมเดลปัญญาประดิษฐ์ขนาดเล็กที่คัดแยกโพสต์ได้โดยไม่ต้องฝึกใหม่ แม้แพลตฟอร์มโซเชียลจะเปลี่ยนถ้อยคำในนโยบาย โดย PolicyLM-1.7B ของ Musubi ออกแบบมาให้จัดประเภทข้อความตามนโยบายเนื้อหาภาษาอังกฤษที่ผู้ดูแลระบบกำหนด

TechCrunch รายงานเมื่อวันที่ 6 (เวลาท้องถิ่น) ว่า Musubi เปิดตัวโมเดลนี้ในรูปแบบเปิดเผยน้ำหนักโมเดล ระบบจะแสดงคะแนนว่าข้อความเข้าข่ายแต่ละข้อของนโยบายหรือไม่ และ Musubi ระบุว่าใช้เวลาประมวลผลไม่ถึง 50 มิลลิวินาที

เครื่องมือคัดแยกแบบเดิมมุ่งค้นหาประเภทที่กำหนดไว้ล่วงหน้าอย่างรวดเร็ว ส่วน PolicyLM-1.7B ให้ผู้ดูแลปรับเกณฑ์การจัดประเภทเพื่อสะท้อนการเปลี่ยนแปลงนโยบาย แพลตฟอร์มจึงนำกฎเฉพาะของแต่ละชุมชนมาใช้ตรวจสอบโพสต์และความคิดเห็นได้

ตามข้อมูลใน Model Card โมเดลมีพารามิเตอร์ 1.7 พันล้านตัว รับข้อความและนโยบายเป็นข้อมูลนำเข้า แล้วส่งคะแนนแยกตามแต่ละข้อกลับมา ไลเซนส์สำหรับน้ำหนักโมเดลที่เปิดเผยคือ Apache-2.0 ทั้งนี้ ความเร็วที่ระบุใน Model Card อาจแตกต่างตามฮาร์ดแวร์และการตั้งค่า

เมื่อประมวลผลข้อความสั้นและหมวดหมู่สูงสุด 6 รายการบน NVIDIA L4 ค่ามัธยฐานอยู่ที่ 35 มิลลิวินาที ส่วนบน H100 อยู่ที่ 22 มิลลิวินาที แม้จะระบุว่ารองรับการจัดประเภทแบบเรียลไทม์ แต่ผลการจัดประเภทไม่ได้หมายความว่าโพสต์จะถูกลบหรือบัญชีถูกลงโทษ

ผลการตัดสินอาจต่างกันตามเกณฑ์คะแนนที่ผู้ดูแลกำหนด Musubi แนะนำให้ปรับค่าขีดแบ่งโดยใช้ข้อมูลของแต่ละองค์กรเอง

Model Card ระบุว่าทดสอบนโยบายเป็นภาษาอังกฤษ ประสิทธิภาพอาจลดลงกับข้อความหลายภาษา ภาษาที่มีทรัพยากรข้อมูลจำกัดบางภาษา และการเขียนหลบเลี่ยงรูปแบบเดิม นอกจากนี้ ยังไม่มีการตรวจสอบกับทราฟฟิกจากบริการจริง

โมเดลยังไม่รองรับการพิจารณาภาพที่ต้องอาศัยบริบทหรือประวัติการสนทนาประกอบ ดังนั้น ต้องประเมินในสภาพแวดล้อมการใช้งานจริงว่าโมเดลจะช่วยลดขั้นตอนตรวจสอบของแพลตฟอร์มได้มากเพียงใด