หน่วยความจำ AI ตึงตัว มัสก์ชี้คอขวดใหม่ไม่ใช่ GPU

บทวิเคราะห์ล่าสุดชี้ว่าคอขวดของโครงสร้างพื้นฐาน AI กำลังขยับจากประสิทธิภาพการประมวลผลของจีพียู(GPU) ไปสู่ปัญหาการจัดหา ‘หน่วยความจำ’ เนื่องจาก AI เอเจนต์ที่ทำงานต่อเนื่องยาวนานต้องบันทึกและเรียกคืนบริบทกับประวัติการทำงานตลอดเวลา ทำให้ความต้องการหน่วยความจำแบนด์วิดท์สูง (HBM) และแนนด์แฟลช (NAND) เพิ่มขึ้นอย่างมาก

อีลอน มัสก์(Elon Musk) ซีอีโอสเปซเอ็กซ์(SpaceX) ตอบกลับโพสต์ของปีเตอร์ เอช. เดียแมนดิส(Peter H. Diamandis) ผู้ก่อตั้งเอ็กซ์ไพรซ์(XPRIZE) บนแพลตฟอร์มเอ็กซ์(X) ว่า “แทบไม่มีใครรู้เรื่องนี้เลย” หลังเดียแมนดิสระบุทำนองว่าปัจจัยจำกัดความเร็วที่แท้จริงของยุคเอเจนต์ AI ไม่ใช่การประมวลผล แต่คือหน่วยความจำ

ปฏิกิริยาของมัสก์ครั้งนี้ต่อเนื่องจากการวิเคราะห์ก่อนหน้านี้ที่ระบุว่าความต้องการหน่วยความจำ AI อาจเพิ่มขึ้นมากกว่า 200% ต่อปี โดยในการประชุมแถลงผลประกอบการไตรมาส 2 ของสเปซเอ็กซ์ มัสก์กล่าวว่าอัตราการเพิ่มกำลังผลิตหน่วยความจำอยู่ที่ราว 20% ต่อปี ขณะที่อัตราการเติบโตของความต้องการอาจสูงกว่า 200% ต่อปี

คำกล่าวดังกล่าวสะท้อนว่าในการแข่งขันขยายศูนย์ข้อมูล AI การจัดหาหน่วยความจำมีความสำคัญไม่แพ้จีพียูอีกต่อไป เมื่อขนาดโมเดล AI และปริมาณการใช้งานอินเฟอเรนซ์เพิ่มขึ้นพร้อมกัน คอขวดจึงไม่ได้จำกัดอยู่แค่หน่วยประมวลผล แต่ยังรวมถึงอุปกรณ์จัดเก็บบริบทด้วย

ประเด็นทางเทคนิคที่เป็นหัวใจสำคัญคือ ‘KV Cache’ โมเดลภาษาขนาดใหญ่ (LLM) จะสร้างข้อมูลคีย์-แวลู (key-value) ที่บันทึกความสัมพันธ์เชิงบริบทระหว่างการประมวลผลโทเคนที่ป้อนเข้าไป แล้วเก็บไว้ในหน่วยความจำ ข้อมูลชุดนี้ทำให้โมเดลประมวลผลต่อจากบริบทเดิมได้โดยไม่ต้องคำนวณใหม่ตั้งแต่ต้นทุกครั้ง

แชทบอทสนทนาทั่วไปมักมีบริบทต่อคำถาม-คำตอบค่อนข้างสั้น แต่ AI เอเจนต์ต้องทำงานต่อเนื่องหลายขั้นตอน ทั้งเขียนโค้ด ค้นหาข้อมูล และวิเคราะห์ ต้องเรียกคืนผลการตัดสินใจและประวัติการทำงานก่อนหน้าตลอดเวลา เมื่อบริบทที่ต้องจัดเก็บเพิ่มขึ้น การพึ่งพา HBM ในตัวจีพียูเพียงอย่างเดียวจึงเริ่มไม่เพียงพอ

เอ็นวิเดีย(NVIDIA·$NVDA) เปิดตัว Inference Context Memory Storage Platform ในงาน CES ปีนี้ โดยระบุว่าการกระจาย KV Cache ไปยังหลายชั้น ทั้ง HBM บนจีพียู หน่วยความจำระบบ เอสเอสดี (SSD) และสตอเรจแบบแชร์ จะช่วยเพิ่มปริมาณโทเคนที่ประมวลผลได้ต่อวินาทีและประสิทธิภาพการใช้พลังงานในงานอินเฟอเรนซ์แบบบริบทยาวและเอเจนต์ได้สูงสุดถึง 5 เท่า เมื่อเทียบกับวิธีจัดเก็บข้อมูลแบบเดิม

โครงสร้างนี้ขยายขอบเขตการแข่งขันด้านชิป AI ให้กว้างขึ้น จากเดิมที่ให้ความสำคัญกับประสิทธิภาพและปริมาณการผลิตจีพียูเป็นหลัก มาสู่คำถามว่าจะจัดเก็บบริบทไว้ที่ไหนและเรียกคืนได้เร็วแค่ไหน ซึ่งกลายเป็นปัจจัยกำหนดต้นทุนและปริมาณงานที่ประมวลผลได้ในงานอินเฟอเรนซ์แบบเอเจนต์

แนวทางของไมโครซอฟท์(Microsoft·$MSFT) ที่เน้นย้ำประสิทธิภาพด้านต้นทุนของชิปเร่งความเร็วอินเฟอเรนซ์ AI รุ่น Maia 200 ก่อนหน้านี้ ก็สะท้อนแนวคิดเดียวกัน เนื่องจากบริการ AI เชิงสร้างสรรค์มีต้นทุนที่เกิดซ้ำในขั้นตอนอินเฟอเรนซ์มากกว่าขั้นตอนฝึกโมเดล การปรับปรุงปริมาณงานและประสิทธิภาพพลังงานจึงส่งผลโดยตรงต่อค่าใช้จ่ายในการดำเนินงาน

เทรนด์ฟอร์ซ(TrendForce) เปิดเผยในรายงานอัปเดตตลาดแนนด์แฟลชประจำเดือนเมื่อวันที่ 21 กรกฎาคมว่า ตลาดแนนด์ในปี 2026 จะอยู่ในภาวะอุปทานตึงตัวจากความต้องการด้าน AI และการขยายกำลังผลิตที่จำกัด โดยประเมินอัตราขาดแคลนอุปทานแนนด์ปี 2026 ไว้ที่ 4-5% และระบุว่าเซิร์ฟเวอร์คิดเป็นสัดส่วนมากกว่า 40% ของความต้องการบิตแนนด์ทั้งหมด

เทรนด์ฟอร์ซประเมินว่าข้อจำกัดด้านอุปทานอาจเริ่มคลี่คลายตั้งแต่ครึ่งหลังของปี 2027 เป็นต้นไป ซึ่งสะท้อนว่าการขยายโครงสร้างพื้นฐาน AI ไม่ได้ส่งผลแค่ความต้องการระยะสั้น แต่ยังส่งแรงสั่นสะเทือนถึงความเร็วในการขยายกำลังผลิตของผู้ผลิตหน่วยความจำและเงื่อนไขสัญญาจัดหาระยะยาวด้วย

ผลกระทบนี้เชื่อมโยงโดยตรงกับตลาดเกาหลีใต้ ผ่านกลยุทธ์การจัดหา HBM และแนนด์ของซัมซุงอิเล็กทรอนิกส์(Samsung Electronics) และเอสเค ไฮนิกซ์(SK Hynix) โดยเอสเค ไฮนิกซ์ระบุในการประชุมแถลงผลประกอบการไตรมาส 2 เมื่อวันที่ 29 กรกฎาคมว่า ความต้องการยังคงแข็งแกร่งต่อเนื่อง จากการลงทุนขยายโครงสร้างพื้นฐาน AI ที่เพิ่มขึ้นและสภาวะอุปทานที่ตึงตัว

อย่างไรก็ตาม แนวโน้มผลกำไรของอุตสาหกรรมหน่วยความจำไม่ได้ถูกกำหนดโดยการเพิ่มขึ้นของความต้องการเพียงอย่างเดียว ราคาตามสัญญาจัดหาระยะยาว การขยายกำลังผลิตของผู้ผลิตจีน และความเร็วในการลงทุนศูนย์ข้อมูล ล้วนเป็นปัจจัยที่อาจเปลี่ยนแปลงระดับความตึงตัวของอุปทานและความสามารถในการทำกำไรได้

การขยายตัวของ AI เอเจนต์กำลังเปลี่ยนจุดศูนย์ถ่วงของความต้องการเซมิคอนดักเตอร์จากจีพียูไปสู่ชั้นหน่วยความจำและสตอเรจมากขึ้นเรื่อยๆ ปฏิกิริยาครั้งนี้ของมัสก์จึงไม่ใช่การเปิดเผยตัวเลขใหม่ แต่ถูกมองว่าเป็นสัญญาณย้ำเตือนอีกครั้งถึงปัญหาคอขวดด้านหน่วยความจำในการลงทุนโครงสร้างพื้นฐาน AI