เอเอ็มดี(AMD) เปิดให้ผู้ใช้รันโมเดล AI คิวเหวิน(Qwen) ระดับ 27,000 ล้านพารามิเตอร์จากอาลีบาบา(BABA) บนพีซีและเวิร์กสเตชันของตัวเองแบบ 'โลคอล' ได้ตั้งแต่วันแรกที่โมเดลเปิดตัว โดยไม่ต้องพึ่งคลาวด์เลย
Odaily รายงานว่าเอเอ็มดีให้การสนับสนุนแบบ 'Day 0' กับโมเดลคิวเหวิน3.8 27B หมายความว่านักพัฒนาสามารถรันโมเดลนี้บนฮาร์ดแวร์ AMD ได้ทันทีตั้งแต่วันที่โมเดลถูกเปิดเผยสู่สาธารณะ
โมเดลดังกล่าวถูกระบุว่าเป็นโมเดลแบบ 'dense' ที่มีพารามิเตอร์ 2.7 หมื่นล้านตัว เอเอ็มดีระบุว่าจะเดินหน้าปรับแโมเดลตระกูลคิวเหวินให้เหมาะกับงานเขียนโค้ด งานใช้จริงในองค์กร งานวิจัย และแอปพลิเคชัน AI ที่ต้องใช้บริบทยาวต่อไป
ระบบรันโมเดลอ้างอิงเฟรมเวิร์กโอเพนซอร์สอย่าง llama.cpp ฮาร์ดแวร์ที่รองรับครอบคลุมพีซีและเวิร์กสเตชัน AI ที่ใช้โปรเซสเซอร์ AMD การ์ดจอ AMD รุ่นเดี่ยวขนาดหน่วยความจำ 32GB รวมถึงแพลตฟอร์มฮาร์ดแวร์ AMD ที่มีหน่วยความจำกราฟิกแบบยืดหยุ่นเกิน 24GB
ผลทดสอบเบื้องต้นของเอเอ็มดีพบว่าโปรเซสเซอร์ Ryzen AI Max+ 395 ทำความเร็วประมวลผลได้สูงสุด 24.5 โทเคนต่อวินาที ส่วนการ์ดจอ Radeon AI PRO R9700 ตัวเดียวทำได้สูงสุด 51.8 โทเคนต่อวินาที การทดสอบนี้ทำบนระบบปฏิบัติการ Windows ผ่านแบ็กเอนด์ Vulkan ของ llama.cpp และเปิดใช้การปรับแต่งแบบ multi-token prediction
การสนับสนุนแบบ 'Day 0' หมายถึงระบบที่เตรียมพร้อมให้รันโมเดลได้ทันทีบนฮาร์ดแวร์และซอฟต์แวร์ที่กำหนดไว้ ตั้งแต่วินาทีที่โมเดลเปิดตัว ท่ามกลางกระแสการใช้งานโมเดล AI ขนาดใหญ่ที่พึ่งพาคลาวด์เป็นหลัก การรันแบบโลคอลช่วยลดการส่งข้อมูลออกนอกเครื่อง และทำให้ผู้ใช้ควบคุมสภาพแวดล้อมการพัฒนาได้เอง
อาลีบาบาระบุว่าเปิดโมเดลตระกูลคิวเหวินเป็นโอเพนซอร์ส ให้นักพัฒนา สถาบันวิจัย และภาคธุรกิจดาวน์โหลดไปใช้งานและเผยแพร่ต่อได้ Odaily รายงานเพิ่มเติมว่าโมเดลคิวเหวิน3.8-27B ที่เพิ่งเปิดตัวเป็นโมเดลแบบ 'native multimodal dense' ที่มีขนาด 2.7 หมื่นล้านพารามิเตอร์ และมีประสิทธิภาพเหนือกว่าคิวเหวิน3.7-Plus ในระดับพารามิเตอร์เท่ากัน
อย่างไรก็ตาม ชื่อรุ่นของโมเดลยังเป็นประเด็นที่ต้องตรวจสอบเพิ่มเติม ก่อนหน้านี้ทางเรารายงานว่าโมเดลน้ำหนักเปิดระดับ 27B ของอาลีบาบาถูกระบุในเอกสารทางการและรายชื่อโมเดลบน Hugging Face ว่าเป็นคิวเหวิน3.6-27B ขณะที่ PANews รายงานชื่อคิวเหวิน3.8-27B ทำให้เกิดความต่างระหว่างสองแหล่งข้อมูล แต่ประเด็นหลักที่ชัดเจนคืออาลีบาบาขยายกลุ่มโมเดลโอเพนเวทมัลติโมดัลระดับ 27B ต่อเนื่อง
การสนับสนุนครั้งนี้อยู่ในจุดที่การแข่งขันด้านชิป AI และโครงสร้างพื้นฐาน AI แบบโลคอลมาบรรจบกัน เอเอ็มดีชูทั้งซีพียู จีพียู และโปรเซสเซอร์สำหรับพีซี AI ไปพร้อมกัน เพื่อขยายระบบนิเวศที่นักพัฒนาสามารถสลับใช้งานระหว่างคลาวด์และเครื่องของตัวเองได้
ความเชื่อมโยงกับตลาดคริปโตโดยตรงยังมีจำกัด ก่อนหน้านี้ทางเราเคยรายงานว่าโมเดล AI แบบโลคอลและการแข่งขันด้านโอเพนเวทอาจเชื่อมโยงกับพื้นที่คอมพิวติ้งแบบกระจายศูนย์ การตรวจสอบ AI และเครื่องมือสำหรับนักพัฒนา แต่การสนับสนุนของเอเอ็มดีครั้งนี้ยังไม่มีข้อมูลที่ระบุผลกระทบโดยตรงต่อราคาหรือปริมาณซื้อขายโทเคนที่เกี่ยวข้อง
เอเอ็มดีระบุว่าประสิทธิภาพจริงอาจดีขึ้นได้อีก หากมีการอัปเดตซอฟต์แวร์และปรับแต่งโมเดลเพิ่มเติมในอนาคต ข้อมูลที่ยืนยันได้ในตอนนี้คือการรองรับรันโมเดลคิวเหวินระดับ 27B แบบโลคอล ตัวเลขผลทดสอบเบื้องต้น และขอบเขตการเผยแพร่แบบโอเพนซอร์ส
แหล่งอ้างอิงตรวจสอบ: ต้นฉบับ Odaily, เอกสารเทคนิค AMD Qwen 3.5 Day 0, เอกสารโมเดล QwenCloud
ความคิดเห็น 0