โอเพนเอไอ(OpenAI) เปิดเผยผลทดสอบประสิทธิภาพชิปประมวลผล AI สำหรับงานอนุมาน (Inference) รุ่น 'ฮาลาปิโญ(Jalapeño)' ที่พัฒนาร่วมกับบรอดคอม(Broadcom·AVGO) โดยชูจุดเด่นด้านประสิทธิภาพการใช้พลังงานและความเร็วในการตอบสนองที่ดีขึ้น พร้อมยืนยันว่าจะยังคงใช้ตัวเร่งความเร็ว (Accelerator) ของเอ็นวิเดีย(Nvidia·NVDA) ทั้งในงานฝึกโมเดลและงานอนุมานต่อไป
โอเพนเอไอระบุในรายงานทางเทคนิคเมื่อวันที่ 25 (เวลาท้องถิ่น) ว่า ฮาลาปิโญสามารถประมวลผลงาน AI ได้มากขึ้นต่อหน่วยพลังงาน พร้อมทั้งเพิ่มความเร็วในการตอบสนองด้วย การทดสอบดังกล่าวดำเนินการผ่านเบนช์มาร์กสาธารณะ InferenceX ของเซมิอนาลิซิส(SemiAnalysis)
โมเดลที่ใช้ในการทดสอบ ได้แก่ GPT-OSS 120B, ดีปซีก(DeepSeek) R1 670B และคิมิ(Kimi) K2.5 1T โดยโอเพนเอไอระบุว่าฮาลาปิโญมีกำลังไฟตามสเปกอยู่ที่ 700 วัตต์ ขณะที่กำลังไฟต่อเนื่องระหว่างการทดสอบอยู่ต่ำกว่า 550 วัตต์
ในการทดสอบกับโมเดลคิมิ ฮาลาปิโญให้ประสิทธิภาพการใช้พลังงานช่วงพีค (Peak) สูงกว่าระบบเปรียบเทียบราว 1.5 เท่า และมี latency แบบ end-to-end ต่ำกว่าถึง 3.4 เท่า ก่อนหน้านี้มีการพูดถึงประสิทธิภาพชิปอนุมานของโอเพนเอไอเองควบคู่กับตัวแปรด้านอุปทานชิปหน่วยความจำ HBM มาแล้ว
ฮาลาปิโญเป็นชิปที่ออกแบบมาสำหรับงาน 'อนุมาน' ไม่ใช่งาน 'ฝึกโมเดล' โดยการอนุมานคือขั้นตอนที่โมเดล AI ซึ่งผ่านการฝึกมาแล้วนำมาใช้ตอบคำขอของผู้ใช้งาน ในบริการอย่างแชทจีพีที(ChatGPT) การลดความหน่วงในการตอบสนองและการใช้พลังงานส่งผลโดยตรงต่อทั้งต้นทุนการดำเนินงานและคุณภาพบริการ
โอเพนเอไอระบุว่าได้ออกแบบชิป หน่วยความจำ ระบบเครือข่าย ซอฟต์แวร์ และระบบระดับแร็ก (Rack) ไปพร้อมกันทั้งหมด สะท้อนแนวโน้มที่บริษัท AI รายใหญ่พยายามผนวกรวมการปรับแต่งทั้งฮาร์ดแวร์และการดำเนินงานศูนย์ข้อมูลเข้ากับตัวโมเดลเอง
บรอดคอมเปิดตัวฮาลาปิโญร่วมกับโอเพนเอไอเมื่อเดือนมิถุนายนที่ผ่านมา โดยระบุว่าเป็นตัวเร่งความเร็วด้านอนุมานที่ออกแบบเฉพาะ (Custom) ตัวแรกของโอเพนเอไอ ทั้งสองบริษัทระบุในขณะนั้นว่าฮาลาปิโญเป็นก้าวสำคัญในกลยุทธ์แบบฟูลสแตก (Full-stack) ที่อยู่เบื้องหลังโมเดลและผลิตภัณฑ์ของโอเพนเอไอ
สำนักข่าวซีเอ็นบีซี(CNBC) รายงานว่าการเปิดเผยผลทดสอบครั้งนี้อาจช่วยเพิ่มความน่าเชื่อถือให้กับเป้าหมายรายได้ AI ของบรอดคอมที่ตั้งไว้มากกว่า 100,000 ล้านดอลลาร์ในปีงบประมาณ 2027 อย่างไรก็ตาม มีการประเมินด้วยว่าแรงกดดันทางการเมืองรอบการก่อสร้างศูนย์ข้อมูล และความเร็วในการขยายรายได้ของบรอดคอม ยังคงเป็นตัวแปรที่ต้องจับตาแยกต่างหาก
สำหรับเอ็นวิเดียแล้ว การที่บริษัท AI รายใหญ่มีตัวเลือกชิปออกแบบเฉพาะเพิ่มขึ้น ทำให้เกิดคำถามมากขึ้นเกี่ยวกับโครงสร้างพื้นฐาน AI ที่พึ่งพา GPU เป็นหลัก แต่โอเพนเอไอระบุในรายงานฉบับเดียวกันว่า "จะยังคงใช้ตัวเร่งความเร็วของเอ็นวิเดียและพาร์ตเนอร์รายอื่นอย่างกว้างขวางต่อไป ทั้งในงานฝึกโมเดลและงานอนุมาน" คำกล่าวนี้สะท้อนว่าฮาลาปิโญยังไม่ใช่สิ่งที่จะมาแทนที่เอ็นวิเดียทั้งหมด
ดังนั้น ฮาลาปิโญจึงมีลักษณะเป็นแหล่งจัดหาชิปเพิ่มเติมมากกว่าจะเป็นตัวแทนเอ็นวิเดีย สำหรับบริษัท AI แล้ว การถือครองทั้ง GPU ทั่วไป ชิป ASIC แบบออกแบบเฉพาะ และสัญญาระยะยาวกับศูนย์ข้อมูล เพื่อปรับสมดุลต้นทุนและประสิทธิภาพไปพร้อมกัน กำลังกลายเป็นทางเลือกที่ใช้งานได้จริงมากขึ้นสำหรับบริษัท AI
ความร่วมมือด้านโครงสร้างพื้นฐานระหว่างเอ็นวิเดียและโอเพนเอไอยังคงดำเนินต่อไปเช่นกัน โดยเอ็นวิเดียให้การสนับสนุนวงเงินสินเชื่อสูงสุดถึง 105,000 ล้านดอลลาร์สำหรับโครงการศูนย์ข้อมูลขนาดใหญ่ของโอเพนเอไอในรัฐโอไฮโอ สหรัฐฯ โดยระบุว่าโครงการดังกล่าวจะใช้ระบบคอมพิวติ้งของเอ็นวิเดียแต่เพียงผู้เดียว
โครงการนี้เชื่อมโยงกับศูนย์เทคโนโลยี PORTS-Pike ของเอสบีเอเนอร์จี(SB Energy) ในรัฐโอไฮโอ โดยโอเพนเอไอเป็นลูกค้าขนาด 8 IT-GW ของโครงการ ขณะที่เอสบีเอเนอร์จีเป็นผู้ก่อสร้างและดำเนินการศูนย์ข้อมูลภายใต้โครงสร้างสัญญาเช่าระยะยาว 20 ปี
โอเพนเอไอระบุว่ามีแผนเริ่มติดตั้งฮาลาปิโญในโครงสร้างพื้นฐานคอมพิวติ้งของบริษัทเองภายในสิ้นปีนี้ พร้อมระบุว่ายังคงดำเนินการตรวจสอบกระบวนการผลิต ความสมบูรณ์ของซอฟต์แวร์ ความพร้อมสำหรับการใช้งานระดับใหญ่ และการตรวจสอบร่วมกับโมเดลเพิ่มเติมอย่างต่อเนื่อง
ผลกระทบที่จะเกิดกับเอ็นวิเดียยังต้องรอประเมินหลังทราบขนาดการใช้งานจริงของฮาลาปิโญและความเร็วในการพัฒนาชิปรุ่นถัดไป โดยประธานเจ้าหน้าที่บริหารของเอ็นวิเดียมีแนวโน้มจะถูกสอบถามเรื่องการแข่งขันด้านชิปออกแบบเฉพาะ ในการแถลงผลประกอบการหลังตลาดหุ้นสหรัฐฯ ปิดทำการวันที่ 26 (เวลาท้องถิ่น)
ความคิดเห็น 0