General Compute (เจเนอรัล คอมพิวต์) กำลังพัฒนาโครงสร้างพื้นฐานสำหรับการอนุมาน AI ที่ใช้ GPU ของ Nvidia (NVDA) และชิปเฉพาะทางของ Cerebras (เซเรบราส) ควบคู่กัน โดยแบ่งการประมวลผลอินพุตและการสร้างคำตอบไปยังชิปคนละประเภทเพื่อรองรับงาน AI แบบเอเจนต์
Crypto Briefing รายงานว่า General Compute มีแผนใช้งานชิปแบบเวเฟอร์สเกลของ Cerebras ร่วมกับ GPU เดิม ขณะที่กำลังประมวลผลสำหรับลูกค้ามีกำหนดเปิดใช้งานในไตรมาส 1 ปี 2027 โดยงานเขียนโค้ดแบบเอเจนต์ถูกระบุเป็นหนึ่งในกรณีใช้งานแรก
General Compute นำเสนอโครงสร้างบน เว็บไซต์ทางการ โดยให้ GPU รับหน้าที่ประมวลผลพรอมต์พร้อมกันในขั้นตอน ‘prefill’ ส่วนชิปเฉพาะทางจาก Cerebras และ SambaNova รับหน้าที่สร้างโทเคนตามลำดับในขั้นตอน ‘decode’ บริษัทระบุว่า Cerebras CS-3 เป็นผลิตภัณฑ์ที่ ‘Shipping now’
Prefill คือขั้นตอนประมวลผลบริบทอินพุตขนาดยาวแบบขนาน ซึ่งได้รับผลกระทบอย่างมากจากประสิทธิภาพการประมวลผล ขณะที่ decode เป็นขั้นตอนสร้างคำตอบทีละโทเคน ทำให้แบนด์วิดท์หน่วยความจำและความเร็วในการเคลื่อนย้ายข้อมูลมีความสำคัญ
ใน ไวท์เปเปอร์เดือนสิงหาคม General Compute ระบุว่า decode เป็นคอขวดที่แก้ได้ยากด้วยประสิทธิภาพการประมวลผลของ GPU เพียงอย่างเดียว พร้อมอธิบายว่าเครื่องยนต์เวเฟอร์สเกลของ Cerebras วางน้ำหนักโมเดลไว้ใน SRAM ภายในชิป เพื่อลดการเข้าถึงหน่วยความจำภายนอก
General Compute ระบุว่าแนวทางนี้เหมาะกับงานแบบเอเจนต์ที่ให้ความสำคัญกับความเร็วในการสร้างโทเคนสำหรับผู้ใช้แต่ละราย เนื่องจาก AI แบบเอเจนต์อาจต้องดำเนินการอนุมานหลายรอบระหว่างตอบสนองคำขอของผู้ใช้ ทำให้ความหน่วงในการสร้างคำตอบเป็นปัจจัยสำคัญด้านประสิทธิภาพ
Cerebras เคยเปิดเผยกลยุทธ์การอนุมานแบบแยกหน้าที่โดยใช้ชิปเฉพาะทางเช่นกัน โดยใน เอกสารที่เผยแพร่เดือนมิถุนายน บริษัทเสนอให้ชิป Trainium ของ AWS รับผิดชอบ prefill และให้ Cerebras CS-3 รับผิดชอบ decode
ในเอกสารฉบับเดียวกัน Cerebras ระบุว่าได้ทำสัญญากับ OpenAI เพื่อจัดวางระบบประมวลผลสำหรับการอนุมานขนาด 750MW แนวทางดังกล่าวสอดคล้องกับกระแสการแบ่งทรัพยากรประมวลผลตามลักษณะงาน แทนการใช้ระบบชิปเดียวทั้งสำหรับการฝึกและการอนุมาน
General Compute กำลังผลักดันโมเดลธุรกิจที่นำชิปเฉพาะทางหลายประเภทไปติดตั้งในศูนย์ข้อมูลเดิมและสถานที่โคโลเคชัน เพื่อให้ลูกค้าเข้าถึงกำลังประมวลผลผ่านสัญญาเดียว เว็บไซต์ของบริษัทระบุผลิตภัณฑ์จาก Cerebras, SambaNova, Positron, d-Matrix และ Nvidia B300
บริษัทเดินหน้าระดมทุนด้วย โดย General Compute ได้รับวงเงินจัดหาเงินกู้สูงสุด 400 ล้านดอลลาร์ (ประมาณ 543.6 พันล้านวอน) จาก Upper90 ในเดือนกรกฎาคม TechCrunch รายงานว่าเงินทุนดังกล่าวจะนำไปขยายคลาวด์สำหรับการอนุมานที่ใช้ SambaNova SN50
TechCrunch ยังอธิบายว่านี่เป็นกรณีการใช้ชิปเฉพาะทางสำหรับการอนุมานเป็นหลักประกันทางการเงิน อย่างไรก็ตาม ยังไม่มีการเปิดเผยว่าการจัดหาเงินทุนครั้งนี้ถูกนำไปใช้ซื้อชิปของ Cerebras โดยตรงหรือไม่
ฟินน์ พุคลอฟสกี(Finn Puklowski) CEO ของ General Compute กล่าวในการสัมภาษณ์กับ TechCrunch เมื่อเดือนพฤษภาคมว่า ผู้ประกอบการขุดบิตคอยน์กำลังพิจารณาเปลี่ยนสถานที่เดิมให้เป็นศูนย์ข้อมูล AI ความเคลื่อนไหวดังกล่าวสะท้อนความเชื่อมโยงระหว่างธุรกิจโครงสร้างพื้นฐาน AI กับอุตสาหกรรมสินทรัพย์ดิจิทัล
ยังไม่มีข้อมูลยืนยันว่าการนำ Cerebras มาใช้ครั้งนี้เชื่อมโยงกับผู้ประกอบการขุดรายใดหรือผู้ประกอบการในประเทศ General Compute เปิดเผยเพียงโมเดลการติดตั้งชิปหลายประเภทในศูนย์ข้อมูลและสถานที่โคโลเคชัน โดยยังไม่ได้ระบุกำหนดการติดตั้งสำหรับลูกค้าแต่ละราย
ก่อนหน้านี้มีการนำเสนอ โครงสร้างที่ใช้การอนุมานแบบเวเฟอร์สเกลของ Cerebras เป็นกรณีศึกษาของโครงสร้างพื้นฐาน AI เช่นกัน โดยแนวทางดังกล่าวแบ่งการใช้งาน Cerebras และ GPU ตามลักษณะงาน
นอกจากนี้ Cerebras ยังเน้นหน่วยความจำภายในชิปและความหน่วงต่ำใน กรณีที่นำเสนอ CS-4 เป็นระบบที่มุ่งเน้นการอนุมาน อย่างไรก็ตาม การประเมินประสิทธิภาพผลิตภัณฑ์และศักยภาพการขยายธุรกิจยังต้องพิจารณาความสม่ำเสมอของการจัดหา ความเข้ากันได้กับโมเดล และต้นทุนการดำเนินงานร่วมกัน
General Compute ตั้งเป้าเปิดใช้งานกำลังประมวลผลสำหรับลูกค้าในไตรมาส 1 ปี 2027 ขณะที่จำนวนชิป Cerebras ที่จะจัดซื้อ มูลค่าสัญญา และกำหนดการติดตั้งสำหรับลูกค้าแต่ละรายยังไม่ได้รับการเปิดเผย
ความคิดเห็น 0