Back to top
  • 공유 แชร์
  • 인쇄 พิมพ์
  • 글자크기 ขนาดตัวอักษร
ลิงก์ถูกคัดลอกแล้ว

AMD รองรับรัน Qwen 27B ในเครื่องได้ทันทีวันเปิดตัว

เอเอ็มดี(AMD) เปิดให้ผู้ใช้รันโมเดล AI คิวเหวิน(Qwen) ระดับ 27,000 ล้านพารามิเตอร์จากอาลีบาบา(BABA) บนพีซีและเวิร์กสเตชันของตัวเองแบบ 'โลคอล' ได้ตั้งแต่วันแรกที่โมเดลเปิดตัว โดยไม่ต้องพึ่งคลาวด์เลย

Odaily รายงานว่าเอเอ็มดีให้การสนับสนุนแบบ 'Day 0' กับโมเดลคิวเหวิน3.8 27B หมายความว่านักพัฒนาสามารถรันโมเดลนี้บนฮาร์ดแวร์ AMD ได้ทันทีตั้งแต่วันที่โมเดลถูกเปิดเผยสู่สาธารณะ

โมเดลดังกล่าวถูกระบุว่าเป็นโมเดลแบบ 'dense' ที่มีพารามิเตอร์ 2.7 หมื่นล้านตัว เอเอ็มดีระบุว่าจะเดินหน้าปรับแโมเดลตระกูลคิวเหวินให้เหมาะกับงานเขียนโค้ด งานใช้จริงในองค์กร งานวิจัย และแอปพลิเคชัน AI ที่ต้องใช้บริบทยาวต่อไป

ระบบรันโมเดลอ้างอิงเฟรมเวิร์กโอเพนซอร์สอย่าง llama.cpp ฮาร์ดแวร์ที่รองรับครอบคลุมพีซีและเวิร์กสเตชัน AI ที่ใช้โปรเซสเซอร์ AMD การ์ดจอ AMD รุ่นเดี่ยวขนาดหน่วยความจำ 32GB รวมถึงแพลตฟอร์มฮาร์ดแวร์ AMD ที่มีหน่วยความจำกราฟิกแบบยืดหยุ่นเกิน 24GB

ผลทดสอบเบื้องต้นของเอเอ็มดีพบว่าโปรเซสเซอร์ Ryzen AI Max+ 395 ทำความเร็วประมวลผลได้สูงสุด 24.5 โทเคนต่อวินาที ส่วนการ์ดจอ Radeon AI PRO R9700 ตัวเดียวทำได้สูงสุด 51.8 โทเคนต่อวินาที การทดสอบนี้ทำบนระบบปฏิบัติการ Windows ผ่านแบ็กเอนด์ Vulkan ของ llama.cpp และเปิดใช้การปรับแต่งแบบ multi-token prediction

การสนับสนุนแบบ 'Day 0' หมายถึงระบบที่เตรียมพร้อมให้รันโมเดลได้ทันทีบนฮาร์ดแวร์และซอฟต์แวร์ที่กำหนดไว้ ตั้งแต่วินาทีที่โมเดลเปิดตัว ท่ามกลางกระแสการใช้งานโมเดล AI ขนาดใหญ่ที่พึ่งพาคลาวด์เป็นหลัก การรันแบบโลคอลช่วยลดการส่งข้อมูลออกนอกเครื่อง และทำให้ผู้ใช้ควบคุมสภาพแวดล้อมการพัฒนาได้เอง

อาลีบาบาระบุว่าเปิดโมเดลตระกูลคิวเหวินเป็นโอเพนซอร์ส ให้นักพัฒนา สถาบันวิจัย และภาคธุรกิจดาวน์โหลดไปใช้งานและเผยแพร่ต่อได้ Odaily รายงานเพิ่มเติมว่าโมเดลคิวเหวิน3.8-27B ที่เพิ่งเปิดตัวเป็นโมเดลแบบ 'native multimodal dense' ที่มีขนาด 2.7 หมื่นล้านพารามิเตอร์ และมีประสิทธิภาพเหนือกว่าคิวเหวิน3.7-Plus ในระดับพารามิเตอร์เท่ากัน

อย่างไรก็ตาม ชื่อรุ่นของโมเดลยังเป็นประเด็นที่ต้องตรวจสอบเพิ่มเติม ก่อนหน้านี้ทางเรารายงานว่าโมเดลน้ำหนักเปิดระดับ 27B ของอาลีบาบาถูกระบุในเอกสารทางการและรายชื่อโมเดลบน Hugging Face ว่าเป็นคิวเหวิน3.6-27B ขณะที่ PANews รายงานชื่อคิวเหวิน3.8-27B ทำให้เกิดความต่างระหว่างสองแหล่งข้อมูล แต่ประเด็นหลักที่ชัดเจนคืออาลีบาบาขยายกลุ่มโมเดลโอเพนเวทมัลติโมดัลระดับ 27B ต่อเนื่อง

การสนับสนุนครั้งนี้อยู่ในจุดที่การแข่งขันด้านชิป AI และโครงสร้างพื้นฐาน AI แบบโลคอลมาบรรจบกัน เอเอ็มดีชูทั้งซีพียู จีพียู และโปรเซสเซอร์สำหรับพีซี AI ไปพร้อมกัน เพื่อขยายระบบนิเวศที่นักพัฒนาสามารถสลับใช้งานระหว่างคลาวด์และเครื่องของตัวเองได้

ความเชื่อมโยงกับตลาดคริปโตโดยตรงยังมีจำกัด ก่อนหน้านี้ทางเราเคยรายงานว่าโมเดล AI แบบโลคอลและการแข่งขันด้านโอเพนเวทอาจเชื่อมโยงกับพื้นที่คอมพิวติ้งแบบกระจายศูนย์ การตรวจสอบ AI และเครื่องมือสำหรับนักพัฒนา แต่การสนับสนุนของเอเอ็มดีครั้งนี้ยังไม่มีข้อมูลที่ระบุผลกระทบโดยตรงต่อราคาหรือปริมาณซื้อขายโทเคนที่เกี่ยวข้อง

เอเอ็มดีระบุว่าประสิทธิภาพจริงอาจดีขึ้นได้อีก หากมีการอัปเดตซอฟต์แวร์และปรับแต่งโมเดลเพิ่มเติมในอนาคต ข้อมูลที่ยืนยันได้ในตอนนี้คือการรองรับรันโมเดลคิวเหวินระดับ 27B แบบโลคอล ตัวเลขผลทดสอบเบื้องต้น และขอบเขตการเผยแพร่แบบโอเพนซอร์ส

แหล่งอ้างอิงตรวจสอบ: ต้นฉบับ Odaily, เอกสารเทคนิค AMD Qwen 3.5 Day 0, เอกสารโมเดล QwenCloud

<ลิขสิทธิ์ ⓒ TokenPost ห้ามเผยแพร่หรือแจกจ่ายซ้ำโดยไม่ได้รับอนุญาต>

บทความที่มีคนดูมากที่สุด

บทความที่เกี่ยวข้อง

ความคิดเห็น 0

ข้อแนะนำสำหรับความคิดเห็น

ขอบคุณสำหรับบทความดี ๆ ต้องการบทความติดตามเพิ่มเติม เป็นการวิเคราะห์ที่ยอดเยี่ยม

0/1000

ข้อแนะนำสำหรับความคิดเห็น

ขอบคุณสำหรับบทความดี ๆ ต้องการบทความติดตามเพิ่มเติม เป็นการวิเคราะห์ที่ยอดเยี่ยม
1