Apple และ Meta ร่วมมือกันเพื่อให้การรันโมเดล AI Muse Spark Open บน Mac Studio หลายเครื่องทำได้ง่ายขึ้น ตามรายงาน การติดตั้งนี้ช่วยให้นักพัฒนารันโมเดลบนอุปกรณ์ที่ตนมีแทนการใช้คลาวด์ อย่างไรก็ตาม ยังไม่มีการยืนยันว่าตัวเลขประสิทธิภาพการประมวลผลแบบกระจายที่ Apple เคยระบุจะเกิดขึ้นกับโมเดลนี้
CNBC รายงานเมื่อวันที่ 15 (เวลาท้องถิ่น) ว่าทั้งสองบริษัททำงานร่วมกันเพื่อรันโมเดลโดยเชื่อมต่อ Mac Studio 2–4 เครื่อง โดยมีกรณีใช้งานที่กล่าวถึง เช่น การเขียนโค้ด การวิเคราะห์วิดีโอ และงานของเอเจนต์ AI
Apple เคยเปิดเผยความสามารถในการเชื่อมต่อ Mac Studio หลายเครื่องแล้ว ในประกาศเมื่อเดือนสิงหาคม บริษัทระบุว่าสามารถใช้ Thunderbolt 5 และ RDMA แบ่งงานประมวลผล AI inference ไปยังหลายระบบได้ พร้อมระบุว่าระบบที่เชื่อมต่อ 4 เครื่องอาจประมวลผล AI inference แบบกระจายได้เร็วขึ้นสูงสุด 3 เท่าเมื่อเทียบกับระบบเครื่องเดียว
ตัวเลขสูงสุด 3 เท่านี้เป็นคำอธิบายความสามารถด้านฮาร์ดแวร์ของ Apple จึงไม่ควรถือเป็นผลทดสอบประสิทธิภาพจากการรัน Muse Spark Open
การรันโมเดลในเครื่องหมายถึงการประมวลผล inference บนฮาร์ดแวร์ของผู้ใช้ Apple มีเฟรมเวิร์กแมชชีนเลิร์นนิง MLX ที่ปรับให้เหมาะกับชิปของบริษัท และระบุว่าผู้ใช้สามารถรันโมเดลบน Mac พร้อมกระจายงานไปยังหลายระบบได้
การรันโมเดลบนอุปกรณ์ของตนเองอาจช่วยลดข้อมูลที่ส่งไปยังคลาวด์และค่าใช้จ่ายจากการประมวลผลซ้ำได้ อย่างไรก็ดี ยังไม่มีการระบุว่าความร่วมมือครั้งนี้จะลดการส่งข้อมูลหรือค่าใช้จ่ายได้จริงมากน้อยเพียงใด
ต้นทุนการติดตั้งและประสิทธิภาพอาจแตกต่างกันตามชุดอุปกรณ์ รายงานของ CNBC กล่าวถึงการใช้ Mac Studio ระดับสูงหลายเครื่อง แต่ไม่ได้ให้ผลทดสอบอิสระเพื่อเปรียบเทียบหน่วยความจำที่ต้องใช้ ต้นทุนอุปกรณ์โดยละเอียด ความเร็วในการประมวลผล หรือการใช้พลังงาน
ขอบเขตของคำว่า ‘Open’ ในชื่อโมเดลก็ยังต้องพิจารณา Meta เปิดตัว Muse Spark เมื่อเดือนเมษายน โดยระบุว่าจะให้พาร์ตเนอร์บางรายเข้าถึง API ในรูปแบบพรีวิวแบบปิด และหวังว่าจะเปิดโมเดลเป็นโอเพนซอร์สในอนาคต แต่ข้อมูลดังกล่าวยังไม่ยืนยันว่าจะเปิดเผยน้ำหนักโมเดล Muse Spark Open ตามรายงานนี้หรือเมื่อใด
คำว่า open-weight หมายถึงโมเดลที่ผู้ใช้ดาวน์โหลดน้ำหนักที่ผ่านการฝึกแล้วไปรันบนฮาร์ดแวร์ของตนเองได้ การเปิดเผยน้ำหนักโมเดลกับขอบเขตการอนุญาตให้ใช้เชิงพาณิชย์เป็นคนละเรื่องกัน และเงื่อนไขใบอนุญาตของโมเดลนี้ยังยืนยันไม่ได้จากเนื้อหารายงาน
รายละเอียดเงื่อนไขการรองรับและกำหนดการนำไปใช้งานเชิงพาณิชย์ของความร่วมมือที่เชื่อมโมเดลของ Meta เข้ากับสภาพแวดล้อมการประมวลผลของ Apple ยังไม่ได้เปิดเผย ขอบเขตการใช้งานจริงของโมเดลจะประเมินได้หลังมีการเปิดเผยน้ำหนัก ใบอนุญาต และข้อมูลประสิทธิภาพ
ตัวอย่างโมเดลที่ Meta เปิดตัวโดยเน้นการทำงานต่อเนื่องเป็นเวลานานและความสามารถด้านความจำ ปรากฏในข่าวเปิดตัวโมเดล Muse ก่อนหน้านี้
ความคิดเห็น 0