Nvidia (NVDA) เปิดตัว Minerva ซอฟต์แวร์ปฏิบัติการที่เชื่อมโยงข้อมูล GPU เครือข่าย และพื้นที่จัดเก็บ เพื่อค้นหาความผิดปกติในศูนย์ข้อมูล AI โดยบริษัทระบุว่าการติดตั้งระยะแรกช่วยเพิ่มเวลาที่ GPU ทำงานได้อย่างมีประสิทธิภาพ 2%
Nvidia อธิบายวิธีทำงานและกรณีใช้งานของ Minerva ในบล็อกเทคนิคเมื่อวันที่ 26 นอกจากนี้ หน้า Networking Software ของบริษัทยังระบุผลจากการติดตั้งระยะแรกว่า เวลาเฉลี่ยระหว่างการหยุดชะงัก (MTBI) เพิ่มขึ้น 20% เวลาเฉลี่ยในการกู้คืน (MTTR) ลดลง 63% และสัญญาณเตือนรบกวนลดลงสูงสุด 99.9% อย่างไรก็ตาม บริษัทไม่ได้เปิดเผยขนาดกลุ่มตัวอย่าง เกณฑ์เปรียบเทียบ หรือช่วงเวลาที่ใช้วัดผล
Nvidia ระบุว่า Minerva รวบรวมข้อมูลเมตริก บันทึกเหตุการณ์ และโทโพโลยีจาก GPU, สวิตช์ Spectrum-X และ NVLink, SuperNIC, DPU, ระบบจัดเก็บข้อมูล, NCCL, ตัวจัดตารางงาน และงาน AI จากนั้นเชื่อมโยงข้อมูลเหล่านี้เป็นกราฟความรู้ที่ปรับปรุงแบบไดนามิก เพื่อติดตามความผิดปกติของอุปกรณ์และงานที่ได้รับผลกระทบ บริษัทกล่าวว่าระบบประมวลผลข้อมูลเมตริกและบันทึกเหตุการณ์หลายพันล้านจุดต่อชั่วโมง
บริษัทอธิบายว่าในการฝึก AI แบบกระจาย งานอาจถูกจำกัดด้วย GPU หรือเส้นทางเชื่อมต่อที่ทำงานช้าที่สุด ทำให้ประสิทธิภาพที่ลดลงของอุปกรณ์เพียงชิ้นเดียวส่งผลให้ GPU อื่นต้องรอ หากข้อมูลของทีมที่ดูแลเครือข่าย ระบบประมวลผล และงาน AI แยกจากกัน การค้นหาสาเหตุอาจใช้เวลานานขึ้น
Nvidia ระบุว่า Minerva ออกแบบมาเพื่อเชื่อมโยงความผิดปกติที่ตรวจจับได้ยากด้วยเกณฑ์ที่กำหนดไว้ล่วงหน้าเข้ากับงานที่ได้รับผลกระทบ บล็อกเทคนิคของบริษัทเล่าถึงกรณีที่ระบบค้นพบการเชื่อมต่อ NVLink ที่ประสิทธิภาพลดลงหนึ่งจุด พร้อมงานฝึกที่เกี่ยวข้อง ในศูนย์ข้อมูลซึ่งมีอินเทอร์เฟซประมาณ 400,000 รายการ
ฟังก์ชันผู้ช่วย AI ในตัวชื่อ Sherlock ออกแบบมาให้ผู้ใช้ค้นหาสถานะคลัสเตอร์ ความผิดปกติ เหตุขัดข้อง และโทโพโลยีด้วยคำถามภาษาธรรมชาติ คู่มือผู้ใช้ของ Nvidia ระบุว่า Sherlock ตอบคำถามที่เกี่ยวข้องโดยอิงข้อมูล Minerva แบบเรียลไทม์
ในอีกกรณีหนึ่ง Nvidia ระบุว่าอุปกรณ์จัดเก็บข้อมูล NVMe ไม่สามารถกลับจากสถานะใช้พลังงานต่ำได้ตามปกติ ทำให้งานฝึกหลายรายการล่าช้า บริษัทประเมินว่าการแยกอุปกรณ์ที่มีปัญหาออกช่วยประหยัดเวลารันงานได้ประมาณ 5,530 ชั่วโมง ตัวเลขนี้เป็นค่าประมาณจากกรณีเฉพาะที่ Nvidia นำเสนอ
Nvidia อธิบายว่า Minerva ช่วยเสริมความสามารถด้านการสังเกตการณ์ที่มีอยู่ใน Mission Control เอกสารเผยแพร่ของ Mission Control ระบุว่า Minerva 1.0.0 เป็นองค์ประกอบเบต้าก่อนเปิดตัว ซึ่งให้บริการแก่ผู้เข้าร่วมแบบจำกัด
ความคิดเห็น 0