เอ็นวิเดีย(NVDA) เปิดโมเดล AI ฟรี 58 ตัว ขยายฐานนักพัฒนา

เอ็นวิเดีย(NVIDIA, NVDA) ขยายฐานนักพัฒนาด้วยการเปิดโมเดล AI แบบโอเพนซอร์สและ API สำหรับการอนุมานฟรี เป็นกลยุทธ์ที่ให้นักพัฒนาทดลองใช้โมเดลก่อน แล้วจึงต่อยอดไปสู่การใช้งานจริงบนสภาพแวดล้อมที่รันด้วยจีพียูของเอ็นวิเดีย

เอ็นวิเดียเปิดตัวเนโมทรอน 3.5 ไลท์นิง(Nemotron 3.5 Lightning) ผ่านบล็อกทางการเมื่อวันที่ 11 (เวลาท้องถิ่น) โมเดลนี้มีพารามิเตอร์รวม 3 หมื่นล้านตัว และพารามิเตอร์ที่ทำงานจริง 3 พันล้านตัว ใช้โครงสร้างแบบผสมผู้เชี่ยวชาญ(Mixture of Experts หรือ MoE)

โครงสร้างแบบผสมผู้เชี่ยวชาญเปิดใช้งานเฉพาะบางส่วนของโมเดลผู้เชี่ยวชาญตามแต่ละอินพุต ช่วยลดปริมาณการประมวลผลลง เนโมทรอน 3.5 ไลท์นิงถูกออกแบบมาสำหรับงานประมวลผลบริบทยาวและงาน AI แบบเอเจนต์ รองรับบริบทสูงสุดถึง 1 ล้านโทเคน

โมเดลนี้ดาวน์โหลดได้ทั้งจากฮักกิ้งเฟซ(Hugging Face) และเอ็นวิเดีย NGC โดยหน้าโมเดลการ์ดบนฮักกิ้งเฟซระบุว่าเปิดตัวเมื่อวันที่ 11 ใช้สัญญาอนุญาต OpenMDW 1.1 และสามารถนำไปใช้เชิงพาณิชย์ได้

เอ็นวิเดีย NGC ระบุว่าคอนเทนเนอร์ดังกล่าวมาพร้อม API ที่รองรับรูปแบบของโอเพนเอไอ(OpenAI) ซึ่งนำไปใช้กับ AI เอเจนต์ แชทบอท ระบบดึงข้อมูลมาเสริมการสร้างคำตอบ(RAG) และตัวช่วยเขียนโค้ดได้ นักพัฒนาสามารถทดลองใช้ทั้งน้ำหนักโมเดล คอนเทนเนอร์สำหรับใช้งานจริง และ API สำหรับการอนุมานได้โดยตรง

จากการตรวจสอบหน้าโมเดลของเอ็นวิเดียเมื่อวันที่ 25 (เวลาประเทศเกาหลี) พบว่ามีการแสดงโมเดลทั้งหมด 126 ตัว ในจำนวนนี้เป็นเอนด์พอยต์ที่ใช้งานฟรี 58 ตัว และเป็นโมเดลที่ดาวน์โหลดได้ 102 ตัว

หน้าเดียวกันยังแนะนำ API แบบเซิร์ฟเวอร์เลสฟรีสำหรับการพัฒนา และบริการไมโครเซอร์วิสสำหรับการอนุมานอย่างเอ็นวิเดีย NIM ควบคู่กันไป โดย API ฟรีใช้สำหรับการทดลองเบื้องต้นและเปรียบเทียบประสิทธิภาพ ขณะที่ NIM เกี่ยวข้องกับการจัดวางบริการอนุมานในขั้นตอนใช้งานจริง

ความเคลื่อนไหวครั้งนี้ต่อเนื่องจากการเปิดตัวเนโมทรอน 3.5 ของเอ็นวิเดียที่โทเคนโพสต์เคยรายงานไปก่อนหน้านี้ เอ็นวิเดียไม่ได้หยุดอยู่แค่การเปิดตัวโมเดลอนุมานขนาดใหญ่ แต่ยังผนวกโมเดลระดับปฏิบัติการขนาดเล็กและเครื่องมือจัดเส้นทางงานเข้าไว้ด้วยกัน

ในวันเดียวกัน เอ็นวิเดียยังเปิดตัวเนโม สวิตช์ยาร์ด(NeMo Switchyard) ไลบรารีจัดเส้นทางงานแบบโอเพนซอร์สที่ช่วยแบ่งงานไปยังโมเดลต่างกันตามลักษณะของงาน เอ็นวิเดียระบุในบล็อกเทคนิคว่าเครื่องมือนี้จัดสรรงานโดยพิจารณาจากประสิทธิภาพของโมเดล ต้นทุน และสัญญาณจากโครงสร้างพื้นฐาน

งาน AI แบบเอเจนต์มักต้องทำงานหลายขั้นตอนซ้ำๆ มากกว่าการตอบคำถามเดียวแบบแชทบอททั่วไป แนวทางที่ไม่ส่งทุกคำขอไปยังโมเดลขนาดใหญ่ แต่ให้โมเดลขนาดเล็กรับงานที่ทำซ้ำ และส่งเฉพาะการตัดสินใจที่ซับซ้อนไปยังโมเดลขนาดใหญ่ ถูกนำมาใช้เพื่อลดต้นทุนและเวลาหน่วง

ก่อนหน้านี้เมื่อวันที่ 4 มิถุนายน (เวลาท้องถิ่น) เอ็นวิเดียเปิดตัวเนโมทรอน 3 อัลตรา(Nemotron 3 Ultra) โมเดล MoE ขนาดใหญ่ที่มีพารามิเตอร์รวม 5.5 แสนล้านตัว และพารามิเตอร์ที่ทำงานจริง 5.5 หมื่นล้านตัว

เอกสารทางการระบุว่าเนโมทรอน 3 อัลตรารองรับบริบทสูงสุด 1 ล้านโทเคน และงานเอเจนต์ที่ใช้เวลานาน ขณะที่เนโมทรอน 3.5 ไลท์นิงถูกนำเสนอในฐานะโมเดลระดับปฏิบัติการที่มีขนาดเล็กกว่า เน้นประมวลผลงานเฉพาะทางได้รวดเร็ว

ชั้นซอฟต์แวร์ก็ขยายตัวไปพร้อมกัน บล็อกเทคนิคของเอ็นวิเดียระบุว่าไดนาโม(Dynamo) เวอร์ชัน 1.0 เพิ่มปริมาณการประมวลผลคำขอได้สูงสุดถึง 7 เท่าบนสภาพแวดล้อมที่ใช้ชิปแบล็กเวลล์(Blackwell)

ตัวเลขดังกล่าวอ้างอิงจากผลทดสอบ InferenceX ของเซมิอนาลิซิส(SemiAnalysis) ที่ปรับปรุงข้อมูลล่าสุดเมื่อวันที่ 3 มีนาคม (เวลาท้องถิ่น) เอ็นวิเดียกำลังสร้างโครงสร้างที่ให้บริการทั้งโมเดล คอนเทนเนอร์ และซอฟต์แวร์ปรับแต่งการอนุมานไปพร้อมกัน เพื่อให้นักพัฒนาตรวจสอบประสิทธิภาพบนฮาร์ดแวร์ของบริษัทได้ด้วยตัวเอง

กลยุทธ์เปิดโมเดลฟรีของเอ็นวิเดียเป็นทางเลือกที่ต่างจากแนวทางการพัฒนา AI ที่พึ่งพา API แบบปิดเป็นหลัก อย่างไรก็ตาม ผลลัพธ์ที่แท้จริงในแง่การประหยัดต้นทุนหรือการขยายความต้องการใช้จีพียูยังขึ้นอยู่กับสภาพแวดล้อมการใช้งาน ปริมาณการใช้ และโครงสร้างฮาร์ดแวร์ของแต่ละบริษัท