Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

โมเดล AI 235 พันล้านพารามิเตอร์รันบนพีซี 3 เครื่องผ่าน USB4

ไมโครซอฟท์ (Microsoft, $MSFT) เปิดเผยผลทดสอบรันโมเดล AI ขนาด 235 พันล้านพารามิเตอร์แบบกระจายงานบนมินิพีซี 3 เครื่องที่เชื่อมต่อผ่าน USB4 พร้อมเตรียมเปิดให้ทดลองใช้ RDMA over USB4 บน Windows

ไมโครซอฟท์แนะนำฟีเจอร์นี้ในโพสต์ทางเทคนิคอย่างเป็นทางการเมื่อวันที่ 19 โดยระบุว่าฟีเจอร์จะเปิดให้ใช้งานในเร็ว ๆ นี้ผ่านบิลด์ Future Platforms ของช่อง Windows Insider Experimental แต่ไม่ได้ระบุวันที่เผยแพร่บิลด์ดังกล่าว

RDMA เป็นเทคโนโลยีที่ลดขั้นตอนการประมวลผลเครือข่ายทั่วไปเมื่อรับส่งข้อมูลระหว่างหน่วยความจำของคอมพิวเตอร์สองเครื่อง เฟรมเวิร์กอนุมานที่รองรับจะแบ่งโมเดลไปทำงานบนพีซีหลายเครื่อง ส่วนแอปพลิเคชันใช้ API NetworkDirect ของ Windows จัดการการสื่อสารระหว่างพีซี

Windows รองรับการเชื่อมต่อเครือข่ายระหว่างพีซีผ่าน USB4 อยู่แล้ว ฟีเจอร์ใหม่นี้เพิ่มเส้นทาง RDMA เข้าไปในการเชื่อมต่อเดิม เพื่อลดการคัดลอกข้อมูลและความหน่วงในการสื่อสาร โดยใช้ DMA ring ของ USB4 host router

ระบบปฏิบัติการไม่ได้รวมหน่วยความจำและหน่วยประมวลผลกราฟิก (GPU) ของแต่ละพีซีให้เป็นอุปกรณ์เดียว เฟรมเวิร์กที่รองรับจะทำหน้าที่แบ่งโมเดลให้รันบนหลายเครื่อง ส่วนพีซีรับส่งข้อมูลกันผ่านการเชื่อมต่อ USB4

ไมโครซอฟท์วัดความหน่วงไปกลับของข้อความขนาดเล็กบนการเชื่อมต่อ USB4 ได้ประมาณ 28–50 ไมโครวินาที ซึ่งต่ำกว่าการสื่อสารผ่าน UDP บน Ethernet ในการเชื่อมต่อเดียวกันประมาณ 4 เท่า อย่างไรก็ตาม ตัวเลขนี้ไม่ได้หมายความว่าการประมวลผลโมเดล AI เร็วขึ้น 4 เท่า

ห้องทดลองของไมโครซอฟท์เชื่อมมินิพีซี 3 เครื่องผ่าน USB4 ความเร็ว 40Gbps โดยแต่ละเครื่องใช้โปรเซสเซอร์ AMD Ryzen AI Max กราฟิก Radeon 8060S และหน่วยความจำแบบรวม 128GB โมเดล Qwen3-235B-A22B ที่ผ่านการควอนไทซ์เป็น 4 บิตสร้างข้อความได้ประมาณ 18.5 โทเคนต่อวินาที

AMD วัดโมเดล 4 บิตเดียวกันบนพีซี 3 เครื่องที่ใช้ Ryzen AI Max+ 395 ได้ความเร็วถอดรหัส 21.98 โทเคนต่อวินาที และประมวลผลพรอมป์ตได้ 117.98 โทเคนต่อวินาที

อินเทล (Intel, $INTC) รัน GPT-OSS-120B บนระบบ Core Ultra Series 3 ที่มีหน่วยความจำเครื่องละ 64GB โดยเมื่อใช้บริบท 1K โทเคน พีซี 3 เครื่องทำได้ 49.4 โทเคนต่อวินาที และ 4 เครื่องทำได้ 54.2 โทเคนต่อวินาที ส่วนบริบท 2K โทเคนทำได้ 49.4 และ 51.7 โทเคนต่อวินาทีตามลำดับ

ผลการทดสอบของแต่ละบริษัทเปรียบเทียบกันโดยตรงได้ยาก เพราะใช้ฮาร์ดแวร์ โมเดล ความยาวบริบท และเงื่อนไขการวัดต่างกัน ความเร็วสร้างโทเคนที่เปิดเผยยังไม่ใช่ผลการใช้งานทั่วไปที่รับประกันว่าจะทำซ้ำได้บนพีซีทุกเครื่อง

การเชื่อมต่อพีซี 3 เครื่องต้องใช้พอร์ต USB4 เครื่องละ 2 พอร์ต และเดินสายตรงระหว่างพีซีแต่ละคู่ ไมโครซอฟท์แนะนำให้เชื่อมต่อพีซีแต่ละเครื่องเข้าหากันโดยตรงแบบ full mesh แทนการต่อพ่วงแบบ daisy chain

การตั้งค่าทดลองใช้จำเป็นต้องมีลายเซ็นทดสอบ จึงต้องปิด Secure Boot ไมโครซอฟท์แนะนำให้ใช้พีซีสำหรับทดสอบโดยเฉพาะแทนเครื่องที่ใช้ในชีวิตประจำวัน พร้อมระบุว่าเมื่อการเชื่อมต่อขาดลง ชั้นการรับส่งข้อมูลจะไม่ลองส่งใหม่โดยอัตโนมัติ และการต่อแบบ daisy chain อาจทำให้ประสิทธิภาพลดลงมาก

ในความคิดเห็นใต้โพสต์ มีผู้ถามว่าสามารถใช้พีซีที่มี NPU และ GPU ต่างชนิดกันร่วมกันได้หรือไม่ ไมโครซอฟท์ตอบว่าทำได้ หากพีซีผ่านข้อกำหนด USB4 และใช้เฟรมเวิร์กที่รองรับการรันหลายโหนดแบบต่างชนิดกัน

แอปเปิล (Apple, $AAPL) ระบุในเอกสารทางเทคนิคว่า macOS 26.2 รองรับ Thunderbolt RDMA บน Mac ที่ใช้ Apple silicon และ Thunderbolt 5 ซึ่งเป็นการพัฒนาแยกจากฟีเจอร์ USB4 สำหรับ Windows

Local AI คือการรันโมเดลบนพีซีแทนเซิร์ฟเวอร์คลาวด์ ก่อนหน้านี้ไมโครซอฟท์เปิดเผยแนวทางขยาย Windows ให้เป็นแพลตฟอร์มสำหรับรัน AI ในเครื่อง

ไมโครซอฟท์ระบุในโพสต์ทางเทคนิคเมื่อวันที่ 19 ว่ากำลังพิจารณานำฟีเจอร์จากผลทดลองไปใช้กับพีซีจำนวนมากขึ้น ร่วมกับพันธมิตรด้านซิลิคอน และใน Windows รุ่นต่อไป

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1