Back to top
  • 공유 แชร์
  • 인쇄 พิมพ์
  • 글자크기 ขนาดตัวอักษร
ลิงก์ถูกคัดลอกแล้ว

เอ็นวิเดีย(NVDA) เปิดตัว 'OpenShell' ระบบความปลอดภัยเอเจนต์ AI ชูลดใช้พลังงานต่อโทเคนสูงสุด 30%

เจนเซ่น หวง ถือไมโครโฟนกำลังพูด / TokenPost.Ai

เจนเซ่น หวง(Jensen Huang) ซีอีโอเอ็นวิเดีย(NVDA) เปิดเผยเมื่อวันที่ 21 ที่ผ่านมาว่า บริษัทได้พัฒนา 'OpenShell' สถาปัตยกรรมที่ช่วยให้เอเจนต์ AI ทำงานที่มีคุณค่าได้อย่างอิสระภายในขอบเขตที่กำหนดไว้ชัดเจน พร้อมเปิดเผยในโอกาสเดียวกันว่า DSX สามารถลดการใช้น้ำหล่อเย็นที่ขนาด 2 กิกะวัตต์(GW) ให้เหลือใกล้ศูนย์ ส่วน DSX MaxLPS ช่วยลดการใช้พลังงานต่อโทเคนได้สูงสุดถึง 30%

OpenShell คือ 'สถาปัตยกรรมอ้างอิง' (reference architecture) ที่ช่วยให้องค์กรสร้าง ควบคุม ตรวจสอบ และสั่งการเอเจนต์ AI ได้อย่างปลอดภัย ทั้งในโครงสร้างพื้นฐานขององค์กรและระบบเอดจ์ (edge system) ตามรายงานของ PANews โดยระบบเอดจ์หมายถึงระบบที่ประมวลผลข้อมูลใกล้กับหน้างาน แทนที่จะส่งไปประมวลผลที่เซิร์ฟเวอร์ส่วนกลาง

เอเจนต์ AI คือซอฟต์แวร์ที่ทำงานได้ด้วยตัวเอง โดยไม่ต้องรอคำสั่งทีละขั้นตอนจากผู้ใช้ ก่อนหน้านี้ หวง เคยให้สัมภาษณ์กับนิตยสาร Fortune ที่กรุงลอนดอนว่า เอเจนต์ AI ควรทำงานภายในคอนเทนเนอร์ที่ปลอดภัยและได้รับสิทธิ์เข้าถึงเฉพาะเท่าที่จำเป็นต่องานเท่านั้น การเปิดตัว OpenShell ครั้งนี้จึงเป็นแนวคิดไปในทิศทางเดียวกัน คือกำหนดขอบเขตที่อนุญาตไว้ก่อน แล้วจึงปล่อยให้เอเจนต์ทำงานภายในขอบเขตนั้น

โทเคนคือหน่วยพื้นฐานที่โมเดล AI ใช้ประมวลผลข้อความ ขณะที่ปริมาณการใช้พลังงานต่อโทเคนเป็นตัวชี้วัดที่เชื่อมโยงโดยตรงกับต้นทุนการให้บริการ AI มอร์แกน สแตนลีย์(Morgan Stanley) ระบุในสรุปการประชุมที่เผยแพร่เมื่อวันที่ 17 มีนาคม(เวลาท้องถิ่น) ว่า หวง เคยอธิบายว่าเอเจนติก AI (agentic AI) อาจใช้โทเคนมากกว่าพรอมต์ของ generative AI ทั่วไปได้ถึง 1 ล้านเท่า ยิ่งมีการใช้งานเอเจนต์มากขึ้นเท่าไร ตัวเลขประสิทธิภาพการใช้พลังงานก็ยิ่งมีความสำคัญมากขึ้นเท่านั้น

ความคิดเห็น: ตัวเลข 30% เป็นเพียงค่า 'สูงสุด' เท่านั้น รายงานของ PANews ไม่ได้ระบุเงื่อนไขหรือกรณีเปรียบเทียบที่ใช้คำนวณตัวเลขนี้ไว้ ทั้งตัวเลขการลดน้ำหล่อเย็นให้ 'ใกล้ศูนย์' และตัวเลขการลดพลังงานต่อโทเคน ล้วนเป็นข้อมูลที่เอ็นวิเดียเปิดเผยเอง ดังนั้นประสิทธิภาพจริงเมื่อนำไปใช้งานในดาต้าเซ็นเตอร์จึงยังต้องรอการตรวจสอบยืนยันเพิ่มเติม

<ลิขสิทธิ์ ⓒ TokenPost ห้ามเผยแพร่หรือแจกจ่ายซ้ำโดยไม่ได้รับอนุญาต>

บทความที่มีคนดูมากที่สุด

บทความที่เกี่ยวข้อง

ความคิดเห็น 0

ข้อแนะนำสำหรับความคิดเห็น

ขอบคุณสำหรับบทความดี ๆ ต้องการบทความติดตามเพิ่มเติม เป็นการวิเคราะห์ที่ยอดเยี่ยม

0/1000

ข้อแนะนำสำหรับความคิดเห็น

ขอบคุณสำหรับบทความดี ๆ ต้องการบทความติดตามเพิ่มเติม เป็นการวิเคราะห์ที่ยอดเยี่ยม
1