แอนโทรปิกใช้ Claude พอร์ตการประมวลผลอินพุตลงชิป AMD ได้ใน 3 วัน

แอนโทรปิก(Anthropic) เปิดเผยว่าใช้ Claude Mythos Preview พอร์ตฟังก์ชันประมวลผลอินพุตของโมเดล Claude หนึ่งรุ่นไปรันบน GPU AMD(AMD) MI355X ได้ในระดับที่ใช้งานได้จริง โดยใช้เวลาประมาณ 3 วัน ทั้งนี้ ขอบเขตของการทดลองที่เปิดเผยครอบคลุมเฉพาะขั้นตอนการประมวลผลอินพุต ไม่ใช่ทั้งโมเดล

บล็อกบีตส์(BlockBeats) รายงานว่าแอนโทรปิกเปิดเผยการทดลองนี้ในโรดโชว์เตรียมเข้าตลาดหลักทรัพย์ โดย GPU คอร์เนลที่จำเป็นเกือบทั้งหมด Claude เป็นผู้พอร์ตหรือเขียนขึ้นใหม่ และมนุษย์เข้าไปช่วยน้อยมาก

การประมวลผลอินพุตคือขั้นตอนที่โมเดลอ่านสิ่งที่ผู้ใช้ส่งมา แล้วเริ่มคำนวณ การที่ขั้นตอนนี้ทำงานบนชิป AMD ได้ ยังไม่เพียงพอที่จะตัดสินประสิทธิภาพของกระบวนการอนุมานทั้งหมดที่รวมการสร้างคำตอบ หรือประสิทธิภาพเมื่อให้บริการในระดับใหญ่

แอนโทรปิกอธิบายว่า ที่ผ่านมาการนำชิปแพลตฟอร์มใหม่มาใช้ต้องใช้วิศวกรหลายสิบคนทำงาน 6-12 เดือน ตัวเลขนี้เป็นประสบการณ์ในการนำแพลตฟอร์มมาใช้ ส่วนเวลาราว 3 วันครั้งนี้คือการพอร์ตฟังก์ชันประมวลผลอินพุตของโมเดลเดียว ขอบเขตงานจึงต่างกัน

GPU คอร์เนลคือโค้ดระดับล่างที่สั่งให้ GPU คำนวณเรื่องใดเรื่องหนึ่ง หากจะนำคอร์เนลที่เขียนไว้สำหรับชิปเดิมไปรันบน GPU อื่น ต้องตรวจสอบความเข้ากันได้ของโค้ด ปรับให้เข้ากับโครงสร้างชิป แล้วทดสอบทั้งความถูกต้องของผลคำนวณและความเร็วในการรัน

CUDA ที่เอ็นวิเดีย(NVDA) เปิดตัวในปี 2006 เป็นแพลตฟอร์มสำหรับเขียนและรันโปรแกรมบน GPU บล็อกบีตส์ระบุว่า ตั้งแต่ราวปี 2018 เฟรมเวิร์กดีปเลิร์นนิงหลักอย่างไพทอร์ช(PyTorch) และเทนเซอร์โฟลว์(TensorFlow) ใช้ CUDA และไลบรารีคำนวณที่เกี่ยวข้องกันอย่างแพร่หลาย ส่วนคู่มือ CUDA ของเอ็นวิเดียก็อธิบายความสามารถของแพลตฟอร์มนี้ไว้

เอ็นวิเดียยังมีเครื่องมือสำหรับการสื่อสารระหว่าง GPU การดีบัก และการปรับประสิทธิภาพ เมื่อโค้ดและเครื่องมือสะสมอยู่ในระบบนิเวศนี้มานาน การย้ายไปใช้ชิปอื่นจึงไม่ใช่แค่การเปลี่ยนโค้ด แต่ต้องปรับให้เข้ากันได้และให้ได้ประสิทธิภาพตามที่ต้องการด้วย

บล็อกบีตส์อธิบายว่า AMD MI355X มีหน่วยความจำแบนด์วิดท์สูง (HBM) 288GB แต่คอร์เนลที่สร้างมาสำหรับ GPU เอ็นวิเดียอาจรันบนชิป AMD ตรง ๆ ไม่ได้ หรือรันได้แต่ประสิทธิภาพไม่ถึงที่คาด จึงต้องปรับให้เหมาะกับสถาปัตยกรรมของ AMD และทดสอบซ้ำหลายรอบ

AMD มีเครื่องมือ ROCm และ HIPIFY ช่วยย้ายโปรแกรม CUDA ส่วนเครื่องมือข้ามแพลตฟอร์มอย่างไทรทัน(Triton) ก็ช่วยลดภาระการย้าย แต่โค้ดคำนวณระดับล่างที่ซับซ้อนอาจยังต้องปรับแต่งเพิ่ม โดยคู่มือ HIPIFY ของ AMD แนะนำเครื่องมือที่เกี่ยวข้องไว้

ก่อนหน้านี้ TokenPost เคยรายงานการประเมินเบื้องต้นของ MI355X ว่า วิศวกรคนหนึ่งเริ่มงาน แล้วกราฟประสิทธิภาพของโมเดลหลักก็พุ่งขึ้นตลอดสุดสัปดาห์ สำหรับการเปิดเผยครั้งนี้ มีการระบุขั้นตอนประมวลผลอินพุตของโมเดลหนึ่งรุ่น และระยะเวลางานราว 3 วัน

แอนโทรปิกระบุในเอกสารยื่นขอเข้าตลาดว่า ได้สร้างระบบจัดสรรงานประมวลผลแบบหลายชิปมาเป็นเวลาหลายปี ครอบคลุม GPU เอ็นวิเดีย GPU AMD TPU ของกูเกิล(GOOGL) และเทรนเนียม(Trainium) ของแอมะซอน(AMZN) ระบบนี้เลือกชิปสำหรับแต่ละงานโดยดูจากราคาและประสิทธิภาพ

ในการแถลงร่วมกันเมื่อเดือนกรกฎาคม แอนโทรปิกและ AMD ระบุว่าแอนโทรปิกใช้ MI355X อยู่แล้ว และจะใช้ Claude ช่วยปรับแต่งงานบน GPU AMD รวมถึงเร่งการพัฒนา ROCm ซึ่งเป็นสภาพแวดล้อมซอฟต์แวร์สำหรับรันโปรแกรมคำนวณบน GPU AMD แถลงการณ์ร่วมของสองบริษัทระบุแผนความร่วมมือนี้ไว้

ทอม บราวน์(Tom Brown) ผู้ร่วมก่อตั้งและหัวหน้าฝ่ายคอมพิวต์ของแอนโทรปิก กล่าวในการแถลงครั้งนั้นว่า “เมื่อรันบนฮาร์ดแวร์หลากหลาย เราก็จัดสรรฮาร์ดแวร์ที่เหมาะกับแต่ละงานได้” คำพูดนี้สะท้อนว่าแอนโทรปิกตั้งเป้าไม่พึ่งชิปตัวเดียว

มาร์เซโล พี. ลิมา(Marcelo P. Lima) นักลงทุน ประเมินว่ากำแพงของ CUDA หมดไปแล้ว ขณะที่เบน พูลาเดียน(Ben Pouladian) นักวิเคราะห์ ชี้ว่าการรันการคำนวณบางส่วนบน AMD ไม่เหมือนกับการรันทั้งระบบอย่างเสถียรและคุ้มค่าในระดับใหญ่

AMD จะลงทุนในแอนโทรปิกสูงสุด 5,000 ล้านดอลลาร์ (ประมาณ 6.71 ล้านล้านวอน) ทั้งสองบริษัทวางแผนติดตั้ง GPU ซีรีส์ MI450 สูงสุด 2 กิกะวัตต์ โดยการติดตั้ง 1 กิกะวัตต์แรกมีกำหนดเริ่มในครึ่งแรกของปี 2027