มีรายงานว่าแอปเปิล($AAPL) กำลังพัฒนา Harbor แอปสำหรับรันและจัดการโมเดล AI แบบเปิดเผยน้ำหนักบน Mac ที่ใช้ชิปแอปเปิล และเชื่อม Mac หลายเครื่องผ่าน Thunderbolt 5
เมื่อวันที่ 10 9to5Mac รายงานโดยอ้างอิงคำอธิบายแอปที่ผู้ให้ข้อมูลเปิดเผยว่า Harbor จะเปลี่ยน Mac ให้เป็นเซิร์ฟเวอร์ประมวลผล AI สำหรับใช้งานส่วนตัว ผู้ใช้จะค้นหา ดาวน์โหลด รัน และจัดการโมเดลผ่านแอปได้ รายงานของ 9to5Mac
คำอธิบายแอประบุด้วยว่า ข้อมูลที่ป้อนจะถูกประมวลผลบน Mac โดยไม่ส่งไปยังคลาวด์ งานที่จำเป็นต่อการรันโมเดลจึงเกิดขึ้นภายในอุปกรณ์
โมเดล AI แบบเปิดเผยน้ำหนักคือโมเดลที่เปิดให้เข้าถึงพารามิเตอร์ซึ่งผ่านการฝึกแล้ว เพื่อให้ผู้ใช้ดาวน์โหลดและนำไปรันได้ ฟังก์ชันที่รายงานเกี่ยวกับ Harbor มุ่งให้ผู้ใช้ค้นหา รัน และจัดการโมเดลเหล่านี้บน Mac
หากเชื่อม Mac ตั้งแต่สองเครื่องขึ้นไปที่รองรับ Thunderbolt 5 แอปจะค้นหาอุปกรณ์และจัดกลุ่มเป็นคลัสเตอร์สำหรับทำงาน โดยใช้หน่วยความจำแบบรวมของแต่ละเครื่องร่วมกัน วิธีนี้จะรวม Mac หลายเครื่องไว้ในสภาพแวดล้อมการทำงานเดียว
การตั้งค่าดังกล่าวอาจใช้รันโมเดลที่ต้องการหน่วยความจำเกินความจุของ Mac เครื่องเดียว หรือรองรับคำขอที่เข้ามาพร้อมกันได้มากขึ้น ทั้งสองกรณีเป็นการใช้งานที่ระบุไว้ในคำอธิบายแอป
มีรายงานว่าผู้ใช้สามารถเชื่อมต่ออุปกรณ์และตั้งค่าคลัสเตอร์ผ่านแอปได้ โดยไม่ต้องตั้งค่าด้วยตนเองหรือป้อนคำสั่ง แนวทางนี้ช่วยลดขั้นตอนการกำหนดค่าไฟล์เพื่อนำ Mac แต่ละเครื่องมาทำงานร่วมกัน
การอนุมานคือขั้นตอนที่โมเดล AI ซึ่งผ่านการฝึกแล้วรับข้อมูลเข้าและสร้างผลลัพธ์ Harbor ถูกนำเสนอเป็นแอปสำหรับรันโมเดลที่เปิดให้ใช้งานบน Mac มากกว่าจะใช้ฝึกโมเดลใหม่
แอปเปิลเคยประกาศเทคโนโลยีสำหรับรวมทรัพยากรจาก Mac หลายเครื่องแล้ว โดยในเอกสารประกาศ Mac Studio เมื่อวันที่ 25 สิงหาคม บริษัทอธิบายการเชื่อมอุปกรณ์ผ่าน Thunderbolt 5 และ RDMA เพื่อแบ่งปันทรัพยากรหน่วยความจำ ประกาศของแอปเปิล
แอปเปิลระบุว่าการทดสอบเชื่อม Mac Studio สี่เครื่องทำให้ความเร็วในการอนุมาน AI สูงกว่าเครื่องเดียวได้สูงสุด 3 เท่า ตัวเลขนี้มาจากการทดสอบการเชื่อมต่อ Mac Studio ดังกล่าว ไม่ใช่ผลทดสอบประสิทธิภาพของ Harbor
RDMA เป็นเทคโนโลยีสื่อสารที่ช่วยให้อุปกรณ์แลกเปลี่ยนข้อมูลระหว่างกัน แอปเปิลนำเทคโนโลยีนี้มาใช้กับงานแบบกระจายที่อาศัยทรัพยากรหน่วยความจำจาก Mac หลายเครื่อง
ในรายงานเทคนิค MLX ที่เผยแพร่เมื่อวันที่ 15 ตุลาคม แอปเปิลยังอธิบายวิธีแบ่งโมเดลขนาดใหญ่ที่ใส่ใน Mac เครื่องเดียวได้ยากไปยัง Mac Studio หลายเครื่อง แต่ละเครื่องรับผิดชอบโมเดลบางส่วนและแลกเปลี่ยนผลการคำนวณผ่านการเชื่อมต่อ Thunderbolt รายงานเทคนิคของแอปเปิล
รายงานกล่าวถึงภาระที่เกิดจากการสื่อสารระหว่างอุปกรณ์ด้วย ประสิทธิภาพเมื่อเชื่อม Mac หลายเครื่องจึงอาจแตกต่างกันตามโมเดลและรูปแบบงาน
เอกสารสำหรับนักพัฒนาของแอปเปิลระบุว่า macOS 26.2 รองรับการสื่อสาร RDMA ระหว่าง Mac ที่ใช้ชิปแอปเปิลและมี Thunderbolt 5 ส่วนตัวอย่างการใช้งาน MLX ที่บริษัทเผยแพร่เริ่มงานแบบกระจายด้วยคำสั่งและไฟล์กำหนดค่าอุปกรณ์ เอกสารสำหรับนักพัฒนาของแอปเปิล
ก่อนหน้านี้ TokenPost รายงานถึงเซสชัน WWDC26 ที่นำเสนอการให้บริการโมเดลในเครื่องผ่าน API มาตรฐาน เพื่อให้เครื่องมือสำหรับนักพัฒนาเรียกใช้งานได้ รายงานเกี่ยวกับ Harbor ครั้งนี้อธิบายขั้นตอนการค้นหาและรันโมเดลที่เปิดให้ใช้งาน รวมถึงการเชื่อม Mac หลายเครื่อง รายงานก่อนหน้าว่าด้วยการรัน AI ในเครื่องและหน่วยความจำของ Apple Silicon
มีรายงานว่า Harbor อยู่ระหว่างการทดสอบแบบส่วนตัวภายใต้ชื่อ Claris บริษัทซอฟต์แวร์ในเครือแอปเปิล ขณะนี้ยังไม่มีการประกาศวันเปิดตัวอย่างเป็นทางการ
Comment 0