ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
ประสิทธิภาพของ CPU แบบคอร์เดียวและความหน่วงกำลังมีความสำคัญมากขึ้น เมื่อ AI Agent ต้องรันโค้ดและเรียกใช้เครื่องมือต่าง ๆ Nvidia($NVDA) ระบุว่าได้ออกแบบ CPU Vera ให้ใช้โครงสร้างซิลิคอนไดเดียวเพื่อรองรับงานเหล่านี้
ทีม Vera ของ Nvidia อธิบายในการให้สัมภาษณ์กับ Wccftech ซึ่งเผยแพร่เมื่อวันที่ 18 ตุลาคมว่า ยุคคลาวด์มุ่งเพิ่มจำนวนคอร์เพื่อเพิ่มปริมาณงานประมวลผล แต่ AI Agent ทำงานแบบลำดับขั้นมาก จึงต้องให้ความสำคัญกับประสิทธิภาพต่อคอร์ หาก CPU ทำงานช้า GPU อาจต้องรอระหว่างการคำนวณ เพราะ CPU รับหน้าที่รันโค้ดและจัดการข้อมูลก่อนและหลังส่งงานให้ GPU
แนวทางการออกแบบ Vera ใช้โครงสร้าง 'โมโนลิทิก' โดยวางคอร์ไว้บนซิลิคอนไดเดียว ต่างจากการเชื่อมต่อชิปเล็ตหลายชิ้น โดยมุ่งลดความหน่วงด้วยการให้การสื่อสารระหว่างคอร์ไม่ต้องข้ามขอบเขตอินพุตและเอาต์พุต Nvidia ระบุในบล็อกเทคนิคว่า Vera เชื่อมต่อ 88 คอร์ Olympus เข้ากับแคชแบบใช้ร่วมกันและระบบหน่วยความจำ พร้อมแบนด์วิดท์สองทิศทางระหว่างคอร์สูงสุด 3.4TB ต่อวินาที
ตัวเลขเปรียบเทียบประสิทธิภาพมาจากเงื่อนไขการวัดที่แตกต่างกัน ทีม Vera กล่าวในการสัมภาษณ์ว่า Vera เร็วกว่ารุ่นก่อนอย่าง Grace 1.5 เท่า และเร็วกว่าโปรเซสเซอร์ x86 ระดับสูงสุดได้ถึง 2 เท่าในงาน AI Agent เช่น การรันสคริปต์ Python และการคอมไพล์โค้ด ส่วนบล็อกเทคนิคของ Nvidia ระบุว่า Vera ทำประสิทธิภาพแซนด์บ็อกซ์ได้สูงกว่าแพลตฟอร์ม x86 คู่แข่งสูงสุด 1.5 เท่า ภายใต้ภาระงานทั้งซ็อกเก็ตที่รวมคอมไพเลอร์ เครื่องมือเขียนสคริปต์ รันไทม์ และการเรียกใช้เครื่องมือของ Agent ตัวเลขทั้งสองชุดใช้ประเภทงานและเงื่อนไขการวัดต่างกัน จึงนำมาเทียบกันโดยตรงไม่ได้
Vera ยังใช้ 'การทำมัลติเธรดเชิงพื้นที่' ซึ่งแบ่งทรัพยากรให้เธรดที่รันงานและเธรดอินพุตเอาต์พุตแยกกัน Wccftech รายงานจากการสัมภาษณ์ว่า การทดสอบของ Phoronix พบประสิทธิภาพเพิ่มขึ้นราว 20% แต่บล็อกเทคนิคของ Nvidia ไม่ได้ระบุเงื่อนไขการทดสอบโดยละเอียด การเปรียบเทียบประสิทธิภาพจึงควรพิจารณาประเภทงานและภาระการทำงานประกอบด้วย
AI Agent ไม่ได้เพียงสร้างคำตอบ แต่ยังรันโค้ดและเรียกใช้เครื่องมือภายนอกด้วย กระบวนการเหล่านี้ทำให้ CPU ต้องจัดการงานตามลำดับระหว่างการคำนวณของ GPU รายงานก่อนหน้านี้เกี่ยวกับ SpaceX AI ที่จะขยายโครงสร้างพื้นฐานของ Grok ด้วย CPU Vera ระบุว่า GPU ทำงานประมวลผลโมเดลขนาดใหญ่ ส่วน CPU รับหน้าที่เรียกใช้เครื่องมือและรันโค้ด
Nvidia ระบุในบล็อกเทคนิคว่า Vera ออกแบบมาเพื่อลดเวลาทำงานของ CPU ในการประมวลผลภายหลังของการเรียนรู้แบบเสริมกำลังและการอนุมานของ Agent ทั้งนี้ ปริมาณงานและความหน่วงในการใช้งานจริงอาจแตกต่างกันตามองค์ประกอบของงานและสภาพแวดล้อมการติดตั้ง
ความคิดเห็น 0