Liquid AI เปิดตัวโมเดลให้เหตุผลที่มีพารามิเตอร์ทั้งหมด 24B และใช้พารามิเตอร์ 2.45B ในการประมวลผลแต่ละโทเคน โดยบริษัทระบุว่า LFM2.5-24B-A2B เป็นโมเดลข้อความล้วนที่ออกแบบมาสำหรับงานเอเจนต์และการใช้เครื่องมือบนอุปกรณ์
เมื่อวันที่ 13 ตุลาคม Liquid AI เปิดตัว LFM2.5-24B-A2B ซึ่งเป็นโมเดลสุดท้ายในตระกูล LFM2.5 ผู้ใช้สามารถดาวน์โหลดน้ำหนักของโมเดลพื้นฐานและโมเดลที่ผ่านการปรับแต่งสำหรับงานเอเจนต์ได้จาก Hugging Face
การ์ดโมเดลระบุว่ามีพารามิเตอร์ทั้งหมด 24.0B และพารามิเตอร์ที่ทำงานอยู่ 2.45B ซึ่งหมายถึงส่วนที่เข้าร่วมการคำนวณจริงขณะประมวลผลโทเคน อย่างไรก็ตาม หน่วยความจำที่ต้องใช้จัดเก็บและเรียกใช้โมเดลไม่ได้ลดลงตามสัดส่วนของพารามิเตอร์ที่ทำงานอยู่ โดยความต้องการจริงขึ้นอยู่กับเครื่องมือรันโมเดลและวิธีควอนไทซ์
โมเดลรองรับบริบทสูงสุด 131,072 โทเคน และ 16 ภาษา รวมถึงภาษาเกาหลี เมื่อเทียบกับ LFM2-24B-A2B รุ่นก่อน ความยาวบริบทเพิ่มจาก 32K เป็น 131K ส่วนขนาดคลังคำเพิ่มจาก 65K เป็น 128K การ์ดโมเดลยังระบุช่องทางการรันผ่าน Transformers, vLLM และ SGLang รวมถึงรูปแบบ GGUF และ MLX
ตัวเลขประสิทธิภาพมาจากการประเมินของ Liquid AI เอง บริษัทเปรียบเทียบโมเดล 16 รายการ และระบุว่า LFM2.5-24B-A2B ทำคะแนนได้เทียบเท่าหรือสูงกว่า Qwen3.6-35B-A3B ใน 5 จาก 8 การประเมินด้านเอเจนต์และการใช้เครื่องมือ โดยได้ 27.69 คะแนนใน AutomationBench เทียบกับ 8.72 คะแนนของโมเดลที่นำมาเปรียบเทียบ
ผลทดสอบความเร็วมีเงื่อนไขกำกับ Liquid AI ระบุว่าโมเดลสร้างข้อความได้ 184 โทเคนต่อวินาทีบน Apple M5 Max ส่วนการ์ดโมเดลระบุว่าใช้ llama.cpp การควอนไทซ์ Q4_K_M และบริบทอินพุต 4K ตัวเลขความเร็วสูงสุด 1.7 เท่าเมื่อเทียบกับโมเดลที่บริษัทเลือกมาเปรียบเทียบก็อ้างอิงเงื่อนไขการทดสอบดังกล่าว
โมเดลนี้รองรับเฉพาะข้อความ ไม่สามารถประมวลผลภาพหรือเสียงได้ บริษัทเปิดเผยน้ำหนักโมเดลและรูปแบบการรันหลายแบบเพื่อให้นักพัฒนาทดลองใช้ในสภาพแวดล้อมของตนเอง ขณะที่ความเร็วและหน่วยความจำที่ต้องใช้จริงอาจแตกต่างกันตามอุปกรณ์และเงื่อนไขการรัน
ความคิดเห็น 0