Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

74% ของกำลังประมวลผล AI agent ที่เพิ่มขึ้น ประเมินมาจาก Blackwell

โมดูลเร่งความเร็ว GPU ที่เชื่อมต่อกันด้วยอินเตอร์คอนเน็กต์ความเร็วสูง / TokenPost.ai

ชิปตระกูล Blackwell และ Blackwell Ultra ของเอ็นวิเดีย(NVIDIA, NVDA) ถูกประเมินว่ามีส่วนคิดเป็น 74% ของกำลังรองรับการประมวลผล AI agent ที่เพิ่มขึ้นใหม่ระหว่างไตรมาส 2 ปี 2025 ถึงไตรมาส 2 ปี 2026 สัดส่วนนี้คำนวณจากการประเมินยอดขายชิปและจำนวนคำขอที่ประมวลผลพร้อมกันได้ภายใต้เงื่อนไขงานที่กำหนด

Epoch AI ระบุในบทวิเคราะห์ที่เผยแพร่เมื่อวันที่ 18 ว่า กำลังประมวลผล inference ของชิป AI ที่ขายสะสมในช่วงเดียวกันเพิ่มขึ้น 4.6 เท่า ส่วนความสามารถประมวลผล 8 บิตสูงสุดของชิปกลุ่มเดียวกันเพิ่มขึ้น 2.6 เท่า โดยทั้งสองตัวเลขคำนวณเทียบกับไตรมาส 2 ปี 2025

ตัวเลข 74% หมายถึงสัดส่วนที่ชิปตระกูล Blackwell มีส่วนต่อกำลังประมวลผล inference ที่เพิ่มขึ้นในรอบ 1 ปี ไม่ใช่สัดส่วนในกำลังประมวลผล inference ทั้งหมด ณ ไตรมาส 2 ปี 2026 ชิป Blackwell และ Blackwell Ultra คิดเป็นประมาณ 73% ของกำลังประมวลผล inference สะสม และ 50% ของความสามารถประมวลผล 8 บิตสูงสุด

ในรายงานดัชนีประสิทธิภาพ inference (Inference Performance Index) ที่เผยแพร่เมื่อวันที่ 9 Epoch AI ประเมินว่า GB300 รองรับคำขอ AI agent ต่อชิปได้ประมาณ 25 เท่าของ H100 และประมาณ 8 เท่าของ H200 อย่างไรก็ตาม ปริมาณการประมวลผล 8 บิตสูงสุดต่อวินาทีของ GB300 อยู่ที่ประมาณ 2.5 เท่าของ H100

การเปรียบเทียบนี้ไม่ได้หมายความว่า GB300 ทำงาน AI ทุกประเภทได้เร็วกว่า H100 ถึง 25 เท่า รายงานคำนวณจำนวนคำขอที่ชิปแต่ละรุ่นประมวลผลพร้อมกันได้ โดยใช้โมเดลตัวแทน 4 รุ่นภายใต้เงื่อนไขงานที่กำหนดไว้ตายตัว

งาน AI agent สามารถนำบทสนทนาหรือบันทึกงานก่อนหน้ากลับมาใช้ต่อได้ เงื่อนไขที่มีบริบทยาวจึงสำคัญต่อการเปรียบเทียบกำลังประมวลผล รายงานใช้รูปแบบงานที่นำบริบทเหล่านี้กลับมาใช้ซ้ำเป็นเกณฑ์

ความเร็วเอาต์พุตที่ต้องการต่อคำขอยังแตกต่างกัน โดยกำหนดไว้ในช่วง 50–400 โทเคนต่อวินาที โทเคนคือหน่วยที่โมเดล AI ใช้ประมวลผลหรือสร้างข้อความ

ในงานลักษณะนี้ ปริมาณงานที่ประมวลผลพร้อมกันได้ขึ้นอยู่กับทั้งความเร็วคำนวณ ความจุหน่วยความจำสำหรับเก็บบันทึก ความเร็วในการอ่านข้อมูล และความเร็วในการรับส่งข้อมูลระหว่างชิป การใช้ความสามารถประมวลผลสูงสุดเพียงอย่างเดียวจึงไม่เพียงพอสำหรับเปรียบเทียบกำลังประมวลผล inference

รายงานประเมิน GB300 ในระบบที่เชื่อมต่อ GPU 72 ตัวด้วยความเร็วสูง ผลลัพธ์จึงขึ้นอยู่กับสภาพแวดล้อมการทำงานและรูปแบบการเชื่อมต่อด้วย ไม่ได้ขึ้นอยู่กับคุณสมบัติของชิปแต่ละตัวเพียงอย่างเดียว

เมื่อเทียบกับระบบ B300 ซึ่งใช้วิธีเชื่อมต่อแตกต่างกัน แม้จะอยู่ในตระกูล Blackwell Ultra เหมือนกัน ค่าประเมินกำลังประมวลผล inference ต่อชิปต่างกันประมาณ 1.9 เท่า แสดงว่าการประเมินประสิทธิภาพ inference ของชิปตระกูลเดียวกันอาจแตกต่างตามการจัดวาง GPU

กำลังประมวลผลจากชิปตระกูล Blackwell ยังปรากฏในสัญญาจัดหาสำหรับธุรกิจด้วย ก่อนหน้านี้ TokenPost รายงานว่า Corvex ประกาศทำสัญญาจัดหากำลังประมวลผลที่ใช้ชิป Blackwell ให้แพลตฟอร์ม AI inference

การคำนวณกำลังประมวลผล inference ทั้งหมดนำค่าดัชนีประสิทธิภาพ inference ต่อชิปมาคูณกับยอดขายชิปแต่ละรุ่นที่ประเมินไว้ แล้วรวมผล โดยใช้ชุดงานเดียวกันในทุกไตรมาสเพื่อเปรียบเทียบกำลังประมวลผล

การเพิ่มขึ้น 4.6 เท่าของกำลังประมวลผลสะสมไม่ได้หมายถึงเฉพาะส่วนที่ได้จากชิปซึ่งขายใหม่ในรอบ 1 ปี ทั้งนี้ ชิปที่ขายในไตรมาส 2 ปี 2026 เพิ่มกำลังประมวลผล inference ได้ประมาณ 3.3 เท่าของชิปที่ขายในไตรมาส 2 ปี 2025

การคำนวณยังตั้งสมมติฐานเกี่ยวกับการจัดระบบชิป โดย Epoch AI แบ่งการกำหนดค่าชิปบางส่วนเป็นระบบแร็ก GB/NVL72 60% และเซิร์ฟเวอร์ B/HGX 40% และไม่ได้รวมความแตกต่างด้านประสิทธิภาพของซอฟต์แวร์

เมื่อคำนึงถึงความไม่แน่นอนของยอดขายและการจัดวางฮาร์ดแวร์ ช่วงการเพิ่มขึ้นของกำลังประมวลผล inference ในรอบ 1 ปีอยู่ที่ 4.2–5.1 เท่า Epoch AI ระบุว่าช่วงดังกล่าวครอบคลุมความไม่แน่นอนของสมมติฐานด้านยอดขายและการจัดวางระบบ แต่ไม่รวมความไม่แน่นอนของประสิทธิภาพชิปที่ใช้ในการสร้างแบบจำลอง

ดังนั้น ตัวเลข 74% และ 4.6 เท่าจึงเป็นการเปรียบเทียบกำลังประมวลผลจากยอดขายที่ประเมินไว้และเงื่อนไขงาน AI agent ที่กำหนด ไม่ใช่ผลการประมวลผลจริงของศูนย์ข้อมูลทุกแห่ง

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1