Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

100+ แอปและเวิร์กโฟลว์รองรับ AMD XDNA 2 NPU เป็นครั้งแรก

แล็ปท็อปและบอร์ดพัฒนา NPU สาธิตการอนุมานภายในเครื่อง / TokenPost.ai

AMD($AMD) และ Unsloth เพิ่มการรองรับหน่วยประมวลผลเครือข่ายประสาท (NPU) AMD XDNA 2 ใน Unsloth Desktop เมื่อวันที่ 19 ทำให้เอเจนต์ปัญญาประดิษฐ์ (AI) มากกว่า 100 รายการ ซึ่งนับรวมแอปและเวิร์กโฟลว์ สามารถเชื่อมต่อการอนุมานภายในเครื่องด้วย NPU ผ่าน API ที่เข้ากันได้กับ OpenAI

AMD ระบุในประกาศอย่างเป็นทางการว่า XDNA 2 NPU เป็น NPU รุ่นแรกที่ Unsloth Desktop รองรับ โดยคำว่า ‘รายแรกของโลก’ หมายถึงขอบเขตการรองรับของแอปนี้เท่านั้น ไม่ได้หมายความว่าเทคโนโลยีการอนุมานภายในเครื่องด้วย NPU ทั้งหมดเป็นครั้งแรก Lemonade และ FastFlowLM รับหน้าที่ให้บริการโมเดลและการอนุมาน ขณะที่ CPU และ GPU ยังคงทำงานอื่นของเอเจนต์

รายการที่เชื่อมต่อได้ประกอบด้วย △Hermes Agent △OpenClaw △Open WebUI △Cline △LangChain และ △GitHub Copilot บล็อกเทคโนโลยีของ AMD ยังยก OMP และ Visual Studio Code เป็นตัวอย่าง

◇ โครงสร้างการทำงานและขอบเขตการรองรับ

AMD เปิดเผยการสาธิตการรันโมเดลแบบผสมผู้เชี่ยวชาญ Qwen3.6 35B-A3B บน XDNA 2 NPU ผ่าน Unsloth Desktop และ FastFlowLM เมื่อใช้คอนเท็กซ์ทั้งหมด ต้องใช้หน่วยความจำ NPU ราว 28GB ขณะที่การตั้งค่าหน่วยความจำร่วมเริ่มต้นของ Windows แนะนำให้มี RAM ระบบ 64GB โดย 64GB เป็นสเปกแนะนำ ไม่ใช่เงื่อนไขบังคับ

อุปกรณ์ที่รองรับครอบคลุม AMD Ryzen AI 300 (Strix Point และ Kraken Point), Ryzen AI Max (Strix Halo), Ryzen AI 400 (Gorgon Point) รวมถึง NPU XDNA 2 ขึ้นไป ระบบปฏิบัติการที่รองรับคือ Windows 11 และ Linux x64 บน Linux ต้องใช้เคอร์เนล 7.0 ขึ้นไปพร้อมไดรเวอร์ amdxdna ส่วนเคอร์เนลรุ่นเก่าใช้ amdxdna-dkms และต้องติดตั้งเฟิร์มแวร์ NPU รุ่นล่าสุดกับตั้งค่า memlock แบบไม่จำกัด

โมเดล NPU ใช้รูปแบบ Q4NX 4 บิตสำหรับ FastFlowLM โมเดล GGUF ทั่วไปไม่สามารถรันบน NPU ได้โดยตรง จึงต้องแปลงเป็น Q4NX ก่อน

◇ การตีความตัวเลขและข้ออ้างด้านพลังงาน

เอกสารของ Unsloth ระบุว่าโมเดล Qwen3.6-35B-A3B-NPU2 มีขนาด 20.6GB และแนะนำ RAM ระบบ 64GB ขณะที่ AMD อธิบายว่าการรันคอนเท็กซ์ทั้งหมดต้องใช้หน่วยความจำ NPU ราว 28GB ตัวเลขสองชุดนี้จึงสะท้อนคนละเรื่อง คือขนาดโมเดลกับความต้องการหน่วยความจำระหว่างการทำงาน

ตารางเดียวกันระบุความเร็วประมวลผล 17.2 โทเค็นต่อวินาที และเวลาแฝงก่อนโทเค็นแรก 3.13 วินาที แต่ไม่ได้เปิดเผยรายละเอียดสภาพแวดล้อมการทดสอบ จึงยังเปรียบเทียบโดยตรงกับโมเดลหรือ GPU อื่นไม่ได้

Unsloth ระบุว่า NPU อาจใช้พลังงานต่อการสร้างโทเค็นน้อยกว่า GPU รุ่นเดิม 2–4 เท่า ตัวเลขนี้เป็นคำกล่าวอ้างของผู้พัฒนาและยังไม่มีผลทดสอบอิสระยืนยัน

AMD อธิบายว่า XDNA เป็น NPU แบบ spatial dataflow ที่ใช้ไทล์ AI Engine และหน่วยความจำบนชิปเพื่อลดการเข้าถึงแคช NPU จึงถูกวางให้รับงานอนุมานภายในเครื่องและปล่อยให้ CPU กับ GPU ทำงานอื่น แทนที่จะเข้ามาแทนที่ GPU

ประสิทธิภาพที่ผู้ใช้สัมผัสและประสิทธิภาพด้านพลังงานจริงอาจเปลี่ยนไปตามรูปแบบโมเดล ความจุหน่วยความจำ ความยาวคอนเท็กซ์ และโหมดพลังงาน การแปลงเป็น Q4NX รวมถึงแบนด์วิดท์หน่วยความจำของโมเดลขนาดใหญ่ก็มีผลต่อเงื่อนไขการทำงาน

◇ ขอบเขตความร่วมมือและปฏิกิริยาจากอุตสาหกรรม

ผู้ใช้ Reddit บางรายแสดงความเห็นเชิงบวกต่อประสิทธิภาพด้านพลังงานและอุปกรณ์ที่รองรับ ขณะที่อีกส่วนตั้งคำถามถึงการเปรียบเทียบความเร็วกับ GPU ในตัว การรองรับ XDNA 1 และความเป็นไปได้ที่แบนด์วิดท์หน่วยความจำของโมเดลขนาดใหญ่จะเป็นคอขวด

ผู้ใช้บางรายแชร์การเปรียบเทียบความเร็วประมวลผลโทเค็นระหว่าง NPU กับ GPU ในตัวบนระบบเดียวกัน แต่ระบุเองว่าเป็น ‘การเปรียบเทียบที่หยาบมาก’ จึงควรแยกตัวเลขไม่เป็นทางการเหล่านี้ออกจากตัวชี้วัดประสิทธิภาพอย่างเป็นทางการ

การประกาศครั้งนี้ต่อยอดความร่วมมือที่ Unsloth รองรับการฝึกและการอนุมานโมเดลบน GPU AMD Radeon, Instinct และ Ryzen เมื่อเดือนกรกฎาคม ในเกาหลีใต้ กระทรวงวิทยาศาสตร์และไอซีทีของเกาหลีใต้กับ AMD ได้หารือแนวทางโครงสร้างพื้นฐานคอมพิวติ้ง AI ที่เชื่อมโยง CPU และ GPU เข้ากับ NPU ที่พัฒนาในประเทศ

Phoronix รายงานว่า หลังสอบถาม AMD ล่วงหน้า ฟีเจอร์นี้ทำงานได้ทั้งบน Windows และบิลด์ Linux ขอบเขตการรองรับอย่างเป็นทางการในปัจจุบันอยู่ที่ XDNA 2 ขึ้นไป ส่วนการรองรับ XDNA 1 และกำหนดการยังไม่มีการยืนยัน

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1