ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
NeuroSpark ใช้ AMD Instinct GPU และ ROCm สำหรับงานอนุมาน AI บนบริการ Bare Metal ของ Oracle Cloud Infrastructure (OCI) โดยรองรับโมเดลภาษา โมเดลสร้างวิดีโอ และโมเดลแปลงข้อความเป็นเสียง AMD เปิดเผยเมื่อวันที่ 23
AMD ระบุว่าโครงสร้างนี้ช่วยเพิ่มกำลังประมวลผลที่ NeuroSpark ให้บริการแก่ลูกค้า แต่ไม่ได้เปิดเผยรุ่น GPU หรือขนาดการติดตั้ง
AMD อธิบายว่า NeuroSpark เลือกฮาร์ดแวร์ตามขนาดโมเดลและข้อกำหนดด้านเวลาแฝงกับประสิทธิภาพ โดยโมเดลขั้นสูงบางรุ่นมีตัวเลือกที่ต้นทุนต่ำลง อย่างไรก็ตาม ประกาศไม่ได้ระบุรายการที่นำมาเปรียบเทียบ เงื่อนไขการประมวลผล หรืออัตราการประหยัด และยังไม่พบข้อมูลตรวจสอบจากหน่วยงานอิสระ
AMD ถ่ายทอดคำกล่าวของ โทมัส หนิง(Thomas Ning) ผู้ก่อตั้ง NeuroSpark ว่า ชิป AMD ช่วยให้บริษัทใช้ศักยภาพของเทคโนโลยีเพื่อเพิ่มประสิทธิภาพและความคุ้มค่าได้ คำกล่าวนี้เป็นคำอธิบายจากผู้บริหารบริษัท โดยไม่มีผลการวัดประสิทธิภาพหรือต้นทุนประกอบ
AMD ระบุว่า NeuroSpark ทดสอบเฟรมเวิร์กอนุมานและฝึกโมเดลแต่ละรุ่นด้วยเวิร์กโหลดจริง แล้วปรับฮาร์ดแวร์และซอฟต์แวร์ตามผลการทดสอบ กระบวนการนี้ใช้ ATOM ซึ่งเป็นเอนจินอนุมานบน ROCm และ AITER ซึ่งเป็นไลบรารีเคอร์เนล พร้อมเดินหน้าผสานการทำงานกับ SGLang เอนจินอนุมานแบบโอเพนซอร์ส
ยังไม่มีการเปิดเผยผลเปรียบเทียบปริมาณงานหรือเวลาแฝงในการตอบสนองของแต่ละโมเดล ข้อมูลที่ยืนยันได้จากประกาศจึงมีเพียง NeuroSpark ใช้ Instinct GPU บน OCI สำหรับงานอนุมาน
Oracle($ORCL) ระบุในกรณีศึกษาลูกค้าว่า NeuroSpark เลือกใช้บริการประมวลผลของ OCI ด้วยเหตุผลด้านความน่าเชื่อถือ ประสิทธิภาพ และการสนับสนุนในหลายภูมิภาค เอกสารดังกล่าวยืนยันการใช้ OCI แต่ไม่ได้กล่าวถึงการใช้ GPU ของ AMD
AMD และ Oracle ประกาศให้บริการอินสแตนซ์ MI300X และ ROCm บน OCI ในปี 2024 เอกสารทางเทคนิคของ Oracle ระบุการกำหนดค่าที่ติดตั้ง MI300X GPU จำนวน 8 ตัว แต่ยังยืนยันไม่ได้ว่าเป็นรุ่นที่ NeuroSpark ใช้งานจริง
ก่อนหน้านี้ AMD เปิดเผยการกำหนดค่าการใช้งาน GPU สำหรับโมเดลของ Meta โดยแสดงวิธีเรียกใช้โมเดลเฉพาะ ส่วนประกาศครั้งนี้ระบุว่า NeuroSpark ใช้ Instinct GPU บน OCI สำหรับงานอนุมาน แต่ไม่ได้เปิดเผยรุ่น GPU ขนาดการติดตั้ง หรือวันเริ่มให้บริการ
ความคิดเห็น 0