AMD EPYC เจเนอเรชัน 5 รับหน้าที่ CPU โฮสต์ให้ TPU 8tx ของกูเกิล

เอเอ็มดี(AMD)(AMD) ประกาศว่าโปรเซสเซอร์เซิร์ฟเวอร์ EPYC เจเนอเรชัน 5 จะทำหน้าที่เป็นโครงสร้างโฮสต์ให้ TPU 8tx ของ กูเกิล คลาวด์(Google Cloud) โดย TPU 8tx เป็นระบบ TPU บนคลาวด์รุ่นแรกที่รองรับ ‘คอนฟิเดนเชียล คอมพิวติ้ง’ ระดับฮาร์ดแวร์

เมื่อวันที่ 9 เอเอ็มดีระบุในประกาศอย่างเป็นทางการว่า การจับคู่นี้ออกแบบมาเพื่อรองรับงาน AI ขององค์กร ทั้งการอนุมาน (inference) การปรับแต่งโมเดล (fine-tuning) และการเรียนรู้แบบเสริมกำลัง (reinforcement learning) พร้อมปกป้องข้อมูลที่ละเอียดอ่อนไปด้วย

ในระบบนี้ EPYC จะเตรียมข้อมูลให้ TPU ประมวลผล ประสานงานระหว่างงานต่าง ๆ และดูแลการสื่อสารกับตัวเร่งความเร็ว นอกจากนี้ เอเอ็มดียังชูความเข้ากันได้กับซอฟต์แวร์ x86 เป็นอีกจุดเด่นของการออกแบบครั้งนี้

ด้านความปลอดภัย ระบบใช้ SEV ซึ่งเป็นเทคโนโลยีเข้ารหัสการจำลองเสมือนของ EPYC โดยก่อนที่ตัวเร่งความเร็ว TPU จะเข้าถึงหน่วยความจำที่ได้รับการป้องกัน ระบบจะตรวจสอบตัวตนและค่าความปลอดภัยของอุปกรณ์ก่อน ส่วนข้อความที่ลูกค้าป้อนเข้ามา น้ำหนักของโมเดล (model weights) และข้อมูลระหว่างการคำนวณ ถูกออกแบบให้เข้ารหัสทั้งในหน่วยความจำของ CPU และระหว่างการส่งข้อมูลระหว่างโฮสต์กับตัวเร่งความเร็ว เมื่อตัวเร่งความเร็วกำลังคำนวณ จะมีการแยกส่วนระดับฮาร์ดแวร์ด้วย

แดน แมคนามารา(Dan McNamara) รองประธานอาวุโสและผู้จัดการทั่วไปฝ่ายคอมพิวติ้งและ AI สำหรับองค์กรของเอเอ็มดี กล่าวว่า “ระบบ AI ประสิทธิภาพสูงต้องมีฐาน CPU ที่รองรับความต้องการของตัวเร่งความเร็วได้” คำพูดนี้เน้นว่า CPU โฮสต์เป็นส่วนสำคัญที่หนุนการจัดการข้อมูลและการประสานงานของตัวเร่งความเร็ว AI

เอเอ็มดีและกูเกิล คลาวด์ร่วมงานกันมาหลายเจเนอเรชันของ EPYC โดยโปรเซสเซอร์ของเอเอ็มดียังถูกใช้ในเครื่องเสมือน C4D, N4D, H4D, Z4D และ G4 ของกูเกิล คลาวด์ด้วย เอเอ็มดีระบุว่า ผู้ให้บริการไฮเปอร์สเกลรายใหญ่และห้องวิจัย AI แนวหน้ากว่า 10 แห่งเลือกใช้ EPYC เป็น CPU โฮสต์ในระบบที่ใช้ทั้ง GPU และตัวเร่งความเร็ว AI แบบกำหนดเอง ทั้งนี้ ตัวเลขดังกล่าวสะท้อนขอบเขตการใช้ EPYC เป็น CPU โฮสต์ในระบบตัวเร่งความเร็วหลายแบบ ไม่ใช่ขนาดการนำ TPU 8tx ไปใช้งาน