เอ็นวิเดีย(NVDA) วางแผนเปิดใช้งานแร็กที่ใช้เทคโนโลยีของ Groq ภายในปีนี้ หลังบรรลุข้อตกลงมูลค่า 2 หมื่นล้านดอลลาร์สหรัฐ (ราว 27.68 ล้านล้านวอน) กับ Groq ทำให้กำหนดการนำโครงสร้างพื้นฐานประมวลผล AI แบบ 'inference' ที่มีความหน่วงต่ำไปใช้งานจริงในระบบของลูกค้าเริ่มชัดเจนขึ้น
สำนักข่าว CNBC รายงานเมื่อวันที่ 24 (เวลาท้องถิ่น) ว่าเอ็นวิเดียกำลังเร่งการผลิตชิป Groq และเร่งส่งมอบให้ลูกค้า พร้อมระบุว่าความเคลื่อนไหวครั้งนี้สะท้อนให้เห็นว่าความสามารถด้านการประมวลผล 'inference' ที่มีความหน่วงต่ำในวงการ AI กำลังขยายตัวมากขึ้น
Groq พัฒนาเทคโนโลยีชิปที่เชี่ยวชาญด้านขั้นตอน inference ซึ่งเป็นช่วงที่โมเดล AI ขนาดใหญ่รับข้อมูลนำเข้าแล้วประมวลผลเพื่อสร้างคำตอบ เอ็นวิเดียมีแนวโน้มจะผนวกเทคโนโลยีดังกล่าวเข้ากับโครงสร้างพื้นฐาน AI ของตนเอง เพื่อรองรับความต้องการบริการที่ต้องตอบสนองอย่างรวดเร็ว
ความคิดเห็น 0