เอ็นวิเดียเพิ่มรายการเวิร์กโหลด AI ในสูตรอนุมาน GKE บน H100 เป็นค่าเริ่มต้น

เอ็นวิเดีย(NVIDIA, $NVDA) ผนวก k8s-aibom เครื่องมือโอเพนซอร์สที่บันทึกข้อมูลเวิร์กโหลด AI เข้ากับเครื่องมือตรวจสอบการตั้งค่าในสภาพแวดล้อม Kubernetes ที่ใช้ GPU ตัวอย่างชุดเวอร์ชันประกอบด้วย AICR 1.2.0 และ k8s-aibom 1.6.2

เอ็นวิเดียเปิดเผยการผนวกรวมนี้ในบล็อกเทคนิคเมื่อวันที่ 11 โดยเพิ่มรายการเวิร์กโหลด AI ลงในสูตร AICR สำหรับจัดการการตั้งค่าคลัสเตอร์

AICR จัดการเวอร์ชันและสถานะขององค์ประกอบแพลตฟอร์ม เช่น ไดรเวอร์และเครือข่าย ส่วน k8s-aibom จะค้นหาเวิร์กโหลด AI ที่รองรับในสภาพแวดล้อมดังกล่าว แล้วแสดงรายการโมเดลและซอฟต์แวร์อนุมานที่นำไปใช้งาน

ฟังก์ชันรายการเวิร์กโหลด AI รวมอยู่เป็นค่าเริ่มต้นในสูตรอนุมาน GKE ที่ใช้ GPU H100 และสูตร Dynamo ที่สืบทอดการตั้งค่าจากสูตรดังกล่าว ส่วนสูตร GKE อื่น ๆ สามารถเลือกเพิ่มฟังก์ชันนี้ได้ระหว่างขั้นตอนสร้าง แต่จะไม่ได้รับการติดตั้งโดยอัตโนมัติในสูตร AICR ทั้งหมด

รายการดังกล่าวมีโมเดลที่ตรวจพบ รันไทม์อนุมาน เอเจนต์ องค์ประกอบการสร้างข้อมูลเสริมด้วยการค้นคืน (RAG) และคุณสมบัติที่เกี่ยวข้อง ผู้ดูแลระบบสามารถตรวจสอบองค์ประกอบของแต่ละเวิร์กโหลดและแหล่งที่มาของคุณสมบัติได้

k8s-aibom สร้างรายการส่วนประกอบการเรียนรู้ของเครื่อง (ML-BOM) ในรูปแบบ CycloneDX 1.6 แต่ละคุณสมบัติมีข้อมูลตำแหน่งที่พบหลักฐานและระดับความเชื่อมั่นกำกับไว้

ระดับความเชื่อมั่นแบ่งเป็นค่าที่ระบุไว้ในไฟล์ตั้งค่า (declared) ค่าที่เครื่องมืออนุมาน (inferred) ค่าที่ยังตรวจสอบไม่ได้ (unresolved) และคำกล่าวอ้างเกี่ยวกับโมเดลที่ตรวจสอบลายเซ็นตามเกณฑ์ความน่าเชื่อถือที่ตั้งไว้แล้ว (verified) การแบ่งประเภทนี้ช่วยให้ผู้ดูแลระบบแยกข้อมูลจากไฟล์ตั้งค่าออกจากข้อมูลที่เครื่องมือตรวจพบหรืออนุมานได้

Google Cloud เปิดตัว k8s-aibom เมื่อวันที่ 13 กรกฎาคม 2026 โดยเป็นคอนโทรลเลอร์โอเพนซอร์สที่ค้นหารันไทม์ AI ในคลัสเตอร์ Kubernetes และจัดทำ ML-BOM

ก่อนหน้านี้ TokenPost เคยรายงาน ขั้นตอนการใช้ AICR เพื่อจัดการเวอร์ชันและสถานะขององค์ประกอบในคลัสเตอร์ GPU การผนวกรวมครั้งนี้เพิ่มการบันทึกข้อมูลเวิร์กโหลด AI ที่ทำงานอยู่บนแพลตฟอร์ม นอกเหนือจากการจัดการองค์ประกอบของแพลตฟอร์ม

ระบบจะสร้างรายการเมื่อมีเวิร์กโหลดที่รองรับและมีสัญญาณ AI ที่ตรวจจับได้ในเนมสเปซที่ผู้ดูแลระบบเลือก หากไม่มีเวิร์กโหลดที่รองรับหรือไม่มีสัญญาณดังกล่าว เวิร์กโหลดนั้นอาจไม่ปรากฏในรายการ

การเลือกเนมสเปซกำหนดขอบเขตของรายการที่จะสร้าง แต่ไม่ได้จำกัดขอบเขตข้อมูลที่คอนโทรลเลอร์อ่านไว้เฉพาะเนมสเปซนั้น คอนโทรลเลอร์อ่านเวิร์กโหลดและข้อกำหนดของพ็อดทั่วทั้งคลัสเตอร์

ระบบอาจสร้างรายการก่อนที่พ็อดจะเริ่มทำงานจริง แม้สถานะจะแสดง Ready=True การดาวน์โหลดอิมเมจอาจยังไม่เสร็จ ดังนั้นการสร้างรายการหรือสถานะพร้อมใช้งานเพียงอย่างเดียวจึงไม่ยืนยันว่าเวิร์กโหลดทำงานสำเร็จ

คลังซอร์สโค้ดของโครงการระบุว่ารายการนี้ไม่ได้รับรองการปฏิบัติตามกฎระเบียบ แต่เป็นเครื่องมือบันทึกข้อมูลการตั้งค่าเวิร์กโหลด AI ไม่ใช่การรับรองว่าเป็นไปตามข้อกำหนดด้านกฎระเบียบ

ข้อมูล AIBOM ที่สังเกตได้จากรันไทม์ไม่ได้รับการลงลายเซ็น เอ็นวิเดียยังระบุว่าการตรวจสอบลายเซ็นโมเดลของ AICR ปิดใช้งานไว้เป็นค่าเริ่มต้น

การทดสอบการใช้ทรัพยากรที่เอ็นวิเดียนำเสนอใช้ k8s-aibom 1.6.1 โดยเฝ้าสังเกตเป็นเวลา 15 นาทีบนโหนดที่ใช้ CPU อย่างเดียว ขณะให้พ็อดของเวิร์กโหลดรออยู่ พบว่ามีคำขอไปยัง API server ประมาณ 4 ครั้งต่อนาที คอนโทรลเลอร์ใช้ CPU เฉลี่ย 2.2 มิลลิคอร์ และหน่วยความจำ 28–34 MiB ผลนี้ไม่ได้วัดปริมาณงานในบริการจริงหรือประสิทธิภาพโดยรวมของคลัสเตอร์ GPU