เพิ่มงบโทเคนแล้ว GPU kernel ได้ 1.21 เท่าของ FlashInfer; งบเท่ากันเหลือ 0.75 เท่า

นักวิจัยจากมหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์(UC Berkeley) ปรับบทบาทและรูปแบบการทำงานร่วมกันของทีมเขียนโค้ด AI เพื่อเพิ่มประสิทธิภาพ GPU kernel ในการทดลองที่ให้งบโทเคนเพิ่ม ประสิทธิภาพเฉลี่ยเรขาคณิตจาก 47 งานอยู่ที่ 1.21 เท่าของ FlashInfer แต่เมื่อเทียบภายใต้งบเท่ากันอยู่ที่ 0.75 เท่า

ทีมวิจัยทดลอง MLA paged decode kernel ซึ่งใช้สร้างคำตอบของโมเดลภาษาขนาดใหญ่ ในบทความเรื่อง Evolving Agent Teams ที่เผยแพร่เมื่อวันที่ 27 ตุลาคม 2026 การทดลองใช้ NVIDIA(NVIDIA, $NVDA) H100

GPU kernel คือโค้ดระดับต่ำที่ใช้ประมวลผลบนหน่วยประมวลผลกราฟิก ส่วน FlashInfer เป็นไลบรารี GPU kernel สำหรับการอนุมานของโมเดลภาษาขนาดใหญ่ และใช้เป็นเกณฑ์เปรียบเทียบในงานนี้

แนวทางที่ทีมวิจัยเสนอเรียกว่า ‘ทีมเอเจนต์ที่ปรับเปลี่ยนได้’ โดยเอเจนต์ผู้กำกับจะติดตามความคืบหน้าและสาเหตุของความล้มเหลว หากงานหยุดชะงักก็จะออกแบบบทบาท ลำดับการทำงานร่วมกัน และวิธีแบ่งปันข้อมูลใหม่ จากนั้นเอเจนต์เขียนโค้ดจะสร้าง kernel ตามทีมรูปแบบใหม่

บทความยกตัวอย่างเอเจนต์เดี่ยวที่พยายามเขียนการคำนวณ GPU ที่ซับซ้อน แต่ติดปัญหาความถูกต้องจนเปลี่ยนไปใช้การออกแบบที่ทำได้ง่ายกว่า เอเจนต์ผู้กำกับจะวินิจฉัยว่าการทำงานติดขัด และจัดบทบาทใหม่ให้ช่วยแก้ข้อผิดพลาดหรือวิเคราะห์ประสิทธิภาพ

ผลการทดลอง บันทึกความล้มเหลว และโค้ดของทีมก่อนหน้าจะเก็บไว้ในระบบไฟล์ที่ใช้ร่วมกัน เพื่อให้ทีมถัดไปนำไปใช้ ในการทดลอง MLA decode เอเจนต์ผู้กำกับสำรวจการจัดทีมมากกว่า 100 รูปแบบ และปรับทีมตามขั้นตอนของงาน

ในการทดลองที่ให้งบโทเคนเพิ่ม kernel ใหม่ทำงานเร็วกว่า FlashInfer ใน 36 จาก 47 งาน ส่วนอีก 11 งานมีประสิทธิภาพอยู่ที่ 0.86–0.99 เท่าของ kernel อ้างอิง ค่า 1.21 เท่าคำนวณจากค่าเฉลี่ยเรขาคณิตของอัตราความเร็วในแต่ละงาน จึงไม่ได้หมายความว่าทุกงานมีประสิทธิภาพสูงกว่า

เมื่อใช้งบโทเคนเท่ากัน ทีมที่ปรับโครงสร้างใหม่ทำได้ 0.75 เท่าของ FlashInfer ส่วนเอเจนต์เดี่ยว Claude Code ทำได้ 0.44–0.51 เท่า ภายใต้เงื่อนไขเปรียบเทียบนี้ ผลทั้งสองแบบยังต่ำกว่า kernel เดิม

การเปรียบเทียบการรันแยกอีกชุดหนึ่งพบว่าทีมที่ปรับโครงสร้างใหม่ทำได้ 0.74 เท่า ทีม 4 คนที่กำหนดบทบาทตายตัวทำได้ 0.31 เท่า และ Codex ทำได้ 0.28 เท่า เงื่อนไขการรันชุดนี้ต่างจากการเปรียบเทียบที่ใช้งบเท่ากัน จึงไม่ควรรวมเป็นผลจากการทดลองเดียวกัน

ผลยังเปลี่ยนไปตามวิธีวัดด้วย บทความระบุว่าเมื่อตัดขั้นเตรียมการ plan() ออกและเปรียบเทียบเฉพาะขั้นรัน kernel ประสิทธิภาพของ kernel ใหม่อยู่ที่ 0.96 เท่าของ FlashInfer ในการใช้งานจริง FlashInfer เก็บผลจาก plan() ไว้ในแคชและคำนวณใหม่เมื่อเงื่อนไขอินพุตเปลี่ยนเท่านั้น ส่วนค่า 1.21 เท่าเป็นการเปรียบเทียบที่ใช้แนวทางการทำงานนี้

การทดลองเพิ่มเติมพบว่า KDA prefill kernel บน MI350X ของ AMD(AMD, $AMD) ทำได้ 3.01 เท่าของ vLLM ส่วน kernel บน B200 ของ NVIDIA ทำได้ 3.44 เท่าของ FlashKDA การทดลองทั้งสองใช้ชิป งาน และเกณฑ์เปรียบเทียบต่างกัน

การตั้งค่าหลักสำหรับการเปรียบเทียบรันสองครั้งและรายงานผลที่ดีกว่า ส่วนการเปรียบเทียบทีมแบบกำหนดบทบาทตายตัวและกรณีทดสอบฮาร์ดแวร์เพิ่มเติมรันอย่างละหนึ่งครั้ง ทีมวิจัยระบุว่าจำนวนครั้งที่ทดลองยังน้อย จึงมีข้อจำกัดในการเปรียบเทียบเชิงสถิติ

ก่อนหน้านี้ TokenPost รายงานกรณีทีมวิจัยของเซลส์ฟอร์ซ(Salesforce, $CRM) ปรับโครงสร้างการทำงานของเอเจนต์ AI เพื่อเพิ่มอัตราความสำเร็จของงานบนเว็บ งานวิจัยครั้งนี้นำการปรับทีมและรูปแบบทำงานร่วมกันตามขั้นตอนของงานมาใช้กับการเพิ่มประสิทธิภาพโค้ด GPU

เส้นทางการเขียน GPU kernel กับการจัดทีมเพื่อทำงานปรับประสิทธิภาพเป็นคนละระดับกัน ทีมวิจัยเปิดเผยโค้ดที่ใช้ในการทดลองนี้ด้วย