เวลาสร้างโทเคนแรกลดราว 81% ในการทดสอบ CXL ของ SK hynix

เอสเค ไฮนิกซ์ (SK hynix, $SKHY) เสนอแนวทางให้เซิร์ฟเวอร์ AI หลายเครื่องใช้หน่วยความจำเพิ่มเติมร่วมกัน โดยการทดสอบอนุมานซ้ำพบว่า เมื่อใช้ CXL DRAM ระยะไกล เวลาจนได้โทเคนแรกสั้นกว่าวิธีคำนวณใหม่ราว 81%

เอสเค ไฮนิกซ์เผยแนวคิดดังกล่าวในงาน “Intel AI Summit Seoul 2026” ที่กรุงโซลเมื่อวันที่ 12 พ.ย. รายงานภาษาอังกฤษของ ChosunBiz นำเสนอทั้งงานและผลการทดสอบ

ปัจจุบันเซิร์ฟเวอร์ AI มักติดตั้งหน่วยความจำแบนด์วิดท์สูง (HBM) ไว้ใกล้หน่วยประมวลผลกราฟิก (GPU) เพื่อประมวลผลข้อมูล แต่พื้นที่สำหรับติดตั้งหน่วยความจำเพิ่มเติมรอบ GPU มีจำกัด

พูลหน่วยความจำแบบใช้ร่วมกันที่เอสเค ไฮนิกซ์เสนอจะติดตั้งหน่วยความจำความจุสูงไว้ในแร็กแยก แล้วให้เซิร์ฟเวอร์หลายเครื่องเข้าถึงร่วมกัน แนวทางนี้มุ่งเพิ่มความจุหน่วยความจำโดยไม่ต้องแทนที่การจัดวางเซิร์ฟเวอร์เดิม

แต่ละเซิร์ฟเวอร์ยังคงใช้หน่วยความจำของตัวเอง เมื่อเครื่องหนึ่งทำงานเสร็จ ก็สามารถบันทึกผลลัพธ์ระหว่างทางไว้ในหน่วยความจำส่วนกลาง เพื่อให้เซิร์ฟเวอร์ที่รับงานถัดไปเรียกข้อมูลกลับมาใช้ได้

อินเทล (Intel, $INTC) เสนอการแบ่งหน้าที่สำหรับ AI แบบเอเจนต์ โดย CPU จำแนกคำขอและจัดสรรงาน ส่วน GPU รับหน้าที่คำนวณโมเดล คำขอเดียวอาจประกอบด้วยหลายขั้นตอน เช่น ค้นหา เรียกใช้โปรแกรม และตรวจสอบผลลัพธ์

ข้อมูลที่ใช้ในกระบวนการนี้อย่างหนึ่งคือ KV cache ซึ่งโมเดล AI ใช้เก็บข้อมูลที่คำนวณไปก่อนหน้าชั่วคราว เพื่อนำไปใช้ต่อในการอนุมานครั้งถัดไป เมื่อบทสนทนายาวขึ้น KV cache ก็มีขนาดใหญ่ขึ้น หากหน่วยความจำ GPU ไม่พอและต้องล้างข้อมูลที่เก็บไว้ งานถัดไปอาจต้องคำนวณเนื้อหาเดิมใหม่

ในการทดสอบอนุมานซ้ำของเอสเค ไฮนิกซ์ วิธีล้างแคชแล้วคำนวณใหม่ใช้เวลาเฉลี่ย 80.76 วินาทีจึงสร้างโทเคนแรกได้ การเก็บแคชไว้ใน SSD ภายนอกใช้เวลา 33.56 วินาที ส่วนการเก็บไว้ใน CXL DRAM ระยะไกลใช้เวลา 15.45 วินาที

ตัวเลขที่ลดลงราว 81% มาจากการเปรียบเทียบวิธีคำนวณใหม่กับการใช้ CXL DRAM ระยะไกลในการทดสอบนี้ โดยวัดเฉพาะเวลาจนสร้างโทเคนแรกได้ ไม่ได้หมายความว่าความเร็วการประมวลผลของบริการ AI โดยรวมดีขึ้นในสัดส่วนเดียวกัน

Compute Express Link (CXL) เป็นมาตรฐานการเชื่อมต่อที่ช่วยให้ CPU หรือ GPU เข้าถึงหน่วยความจำภายนอกได้ เอสเค ไฮนิกซ์ทดสอบการใช้ CXL DRAM ระยะไกลเพื่อให้เซิร์ฟเวอร์หลายเครื่องแบ่งปันข้อมูลในหน่วยความจำ

จู ยองพโย (Joo Young-pyo) รองประธานเอสเค ไฮนิกซ์และหัวหน้าฝ่ายสถาปัตยกรรมระบบ กล่าวว่า “การเรียกข้อมูลจากหน่วยความจำระยะไกลใช้เวลานานกว่าการดึงข้อมูลจากหน่วยความจำที่เชื่อมต่อโดยตรงกับ GPU หรือ CPU แต่ประสิทธิภาพยังดีกว่าการคำนวณใหม่มาก” คำอธิบายนี้ชี้ว่าการใช้หน่วยความจำระยะไกลอาจช่วยลดการคำนวณซ้ำ แม้จะมีความหน่วงในการเรียกข้อมูล

ทั้งสองบริษัทร่วมมือด้านหน่วยความจำเซิร์ฟเวอร์มาอย่างต่อเนื่อง ในเดือนธันวาคม 2025 เอสเค ไฮนิกซ์ประกาศว่าเป็นบริษัทแรกในอุตสาหกรรมที่ผ่านการรับรองหน่วยความจำ DDR5 RDIMM ขนาด 256GB สำหรับแพลตฟอร์ม Intel Xeon 6 ในศูนย์ข้อมูล การรับรองครั้งนั้นทดสอบความเข้ากันได้ของโมดูลหน่วยความจำเซิร์ฟเวอร์กับแพลตฟอร์มอินเทล ขณะที่ข้อเสนอครั้งนี้มุ่งไปที่สถาปัตยกรรมซึ่งเซิร์ฟเวอร์หลายเครื่องใช้หน่วยความจำจากแร็กแยกร่วมกัน

เอสเค ไฮนิกซ์กำลังตรวจสอบเทคโนโลยีแบ่งปันหน่วยความจำกับลูกค้าและพันธมิตร พร้อมร่วมมือกับอินเทลตั้งแต่ขั้นออกแบบระบบ