Meta($META) เปิดเผยน้ำหนักของโมเดลปัญญาประดิษฐ์แบบมัลติโหมด Muse Spark Open ซึ่งมีพารามิเตอร์รวม 816,000 ล้านตัว ผู้ที่ต้องการรันโมเดลด้วยตนเองจำเป็นต้องพิจารณาทั้งฮาร์ดแวร์ที่รองรับน้ำหนักทั้งหมดและเงื่อนไขใบอนุญาต
Meta ระบุในเอกสารสำหรับนักพัฒนาที่เผยแพร่เมื่อวันที่ 15 ตุลาคมว่า โมเดลมีพารามิเตอร์ที่ใช้งานอยู่ 42,000 ล้านตัว และมีหน้าต่างบริบท 1,048,576 โทเคน รองรับข้อมูลป้อนเข้าทั้งข้อความ ภาพ เสียง และวิดีโอ โดยออกแบบมาสำหรับงานเขียนโค้ด งานเอเจนต์ และการให้เหตุผลหลายขั้นตอน
น้ำหนักโมเดลมีให้ผ่าน Hugging Face รวมถึงแพลตฟอร์มคลาวด์และแพลตฟอร์มอนุมาน เอกสารของ Meta ระบุช่องทางให้บริการ ได้แก่ Amazon SageMaker AI, Google Cloud Model Garden และ Microsoft Foundry ส่วนแพลตฟอร์มอนุมานมี Baseten, Fireworks AI และ Groq อย่างไรก็ตาม การเปิดเผยน้ำหนักไม่ได้หมายความว่าสามารถใช้งานแบบโอเพนซอร์สได้โดยไม่มีข้อจำกัด การใช้โมเดลอยู่ภายใต้ Muse Model License และนโยบายการใช้งานแยกต่างหาก
การรันโมเดลด้วยตนเองต้องโหลดน้ำหนักของพารามิเตอร์ทั้งหมด 816,000 ล้านตัวเข้าไปในหน่วยความจำ ไม่ใช่เพียงจำนวนพารามิเตอร์ที่ใช้งานอยู่ Meta อธิบายว่าการคำนวณต่อโทเคนใช้พารามิเตอร์ที่เปิดใช้งาน 42,000 ล้านตัว แต่การให้บริการโมเดลต้องโหลดน้ำหนักทั้งหมด
Meta ยกตัวอย่างการตั้งค่าเดสก์ท็อปที่ใช้ Mac Studio ซึ่งติดตั้งชิป Apple M5 Ultra จำนวนสองเครื่องร่วมกับ MLX ค่าใช้จ่ายและประสิทธิภาพจริงอาจแตกต่างกันไปตามสภาพแวดล้อมการติดตั้งใช้งาน ความแตกต่างระหว่างพารามิเตอร์ทั้งหมดกับพารามิเตอร์ที่ใช้งานอยู่ยังเป็นปัจจัยสำคัญในการพิจารณาข้อกำหนดการใช้งานโมเดลแบบเปิดน้ำหนัก
การเปิดเผยครั้งนี้ทำให้ Meta นำเสนอน้ำหนักของ Muse Spark Open ให้บุคคลภายนอกใช้งาน ก่อนหน้านี้ Meta เปิดตัว Muse Glimmer ซึ่งทำให้เกิดการถกเถียงเกี่ยวกับโมเดลแบบเปิดน้ำหนักอีกครั้ง Muse Spark Open ก็เปิดให้นำไปใช้งานในสภาพแวดล้อมของตนเองได้ แต่ขอบเขตการใช้งานขึ้นอยู่กับใบอนุญาตและทรัพยากรด้านการประมวลผล
รายงานต้นทางระบุว่า Muse Spark Open เริ่มเปิดให้ทดสอบสาธารณะบน Agent Arena และ Code Arena ของ Arena.ai อย่างไรก็ตาม บันทึกการเปลี่ยนแปลงอย่างเป็นทางการของ Arena.ai แสดงรายการ Muse Spark 1.3 ในลีดเดอร์บอร์ดบางหมวดจนถึงวันที่ 13 กันยายน ส่วนบันทึกที่เปิดเผย ณ วันที่ 15 ตุลาคมไม่มีข้อมูลยืนยันว่า Muse Spark Open ถูกจัดอันดับหรือได้คะแนน
Arena.ai จัดโมเดลขึ้นลีดเดอร์บอร์ดแยกตามหมวดการประเมิน การจัดอันดับและคะแนนแสดงให้เห็นว่าโมเดลเข้าร่วมการประเมินใดบ้าง แต่บันทึกสาธารณะยังไม่ยืนยันการเข้าร่วมหรือผลการประเมินของ Muse Spark Open
ความคิดเห็น 0