Back to top
  • 링크복사 คัดลอกลิงก์
  • 공유 แชร์
  • 인쇄 พิมพ์
  • 글자크기 ขนาดตัวอักษร
ลิงก์ถูกคัดลอกแล้ว

แชร์

x
บล็อกเชน

Kimi เร่งความเร็วอนุมานเกือบ 3 เท่าหลัง AI เขียนเคอร์เนล Attention ใหม่

ตรวจสอบบอร์ดเร่งความเร็ว GPU ประสิทธิภาพสูง / TokenPost.ai

มีรายงานว่าเคอร์เนล Attention ของ Kimi ที่ AI เขียนใหม่ให้เหมาะกับ GPU ของ NVIDIA ทำความเร็วในการอนุมานได้เกือบ 3 เท่าเมื่อเทียบกับการใช้งานเวอร์ชันทางการ

BlockBeats รายงานว่า AI ได้ปรับแต่งเคอร์เนล GPU ที่ใช้ในการคำนวณ Attention ของ Kimi โดยการใช้งานที่เขียนใหม่ทำความเร็วได้เกือบ 3 เท่าของเวอร์ชันทางการ เคอร์เนลคือโค้ดระดับล่างที่ใช้ประมวลผล Attention ของโมเดล AI บน GPU

Moonshot AI เปิดเผย FlashKDA สำหรับ Kimi Delta Attention ซึ่งพัฒนาบนพื้นฐาน CUTLASS ของ NVIDIA ขณะที่ vLLM ระบุว่าได้นำเคอร์เนล CUDA แบบผสานการทำงานและเคอร์เนลที่พัฒนาร่วมกับ NVIDIA มาใช้กับ Kimi K3

<ลิขสิทธิ์ ⓒ TokenPost ห้ามเผยแพร่หรือแจกจ่ายซ้ำโดยไม่ได้รับอนุญาต>

#KIMI #AI #GPU #NVIDIA #เคอร์เนล Attention

บทความที่มีคนดูมากที่สุด

1
กระทรวงการต่างประเทศสหรัฐฯ ตั้งรางวัล 15 ล้านดอลลาร์สำหรับข้อมูลเครือข่ายเงินทุน IRGC
2
Robinhood ขยายการซื้อขายฟิวเจอร์สไม่มีกำหนดอายุของสินทรัพย์ดั้งเดิมในยุโรป
3
มูลค่าตามสัญญาบิตคอยน์ฟิวเจอร์สเหลือ 0.24 เท่า ต่ำสุดในรอบ 2 ปี
4
โรบินฮูดเตรียมเปิดตัว AI เทรดอัตโนมัติ-ซื้อขายหุ้นช่วงสุดสัปดาห์
5
โรบินฮูดเพิ่มการซื้อขายสุดสัปดาห์ เปิดตัวผลิตภัณฑ์คริปโตแบบมีเลเวอเรจ
6
เจรจาสหรัฐฯ-อิหร่านคืบหน้าน้อย ประเด็นหลักยังเห็นต่าง
7
Balancer อนุมัติ BIP-928 เปลี่ยนพูลเป็นโหมดถอนเงินเท่านั้น 30 ตุลาคม
8
โรบินฮูดเปิดซื้อขายสัญญาฟิวเจอร์สไม่มีกำหนดในยุโรป รองรับเลเวอเรจสูงสุด 10 เท่า
9
ท่อส่งก๊าซซีเรียระเบิด 2 ครั้งใน 6 สัปดาห์ กระทบการจ่ายไฟฟ้า
10
โพลีมาร์เก็ตดึงอดีตพาร์ตเนอร์โกลด์แมน แซคส์ขยายธุรกิจสถาบัน

บทความที่เกี่ยวข้อง

518 พันล้านดอลลาร์ แอนโทรปิกเตรียมทุ่มโครงสร้างพื้นฐาน AI

4.60% ดอกเบี้ยออสเตรเลียอาจแตะระดับสูงขึ้น แรงกดดันจากพลังงานและ AI

เจนเซน หวงชี้ “การกลั่นโมเดล AI ไม่ใช่การขโมย แต่คือการแข่งขัน”

สีแซ็กส์เตือนคุม AI เข้ม อาจผลักนวัตกรรมสหรัฐฯ ไปต่างประเทศ

NMR พุ่งกว่า 40% HBAR เพิ่มกว่า 27% จากปัจจัยเทคนิคและข่าว AI

บทความหมวดหมู่

ดูเพิ่มเติม

สต๊อกน้ำมันโลกลด 95 ล้านบาร์เรล เยอรมนีลดภาษีเชื้อเพลิง

SVRN พุ่ง 10.98% ก่อนเปิดตลาด หลังวานนี้เพิ่มขึ้น 29.34%

โดจคอยน์เพิ่ม 13% ในเดือนกันยายน เงินไหลเข้า ETF 2.89 ล้านดอลลาร์ แต่ BWOW เตรียมปิดกองทุน

EU เสนอเพิ่มความจุศูนย์ข้อมูล 3 เท่าภายใน 5–7 ปี

ยอดขาย EV สหรัฐฯ อยู่ที่ 5-6% หลังสิทธิ์ลดภาษีหมดอายุครบ 1 ปี

คาดต่างชาติขายหุ้นและพันธบัตรรัฐบาลอินเดีย 3.2 พันล้านดอลลาร์ในเดือนกันยายน

2 พันล้านดอลลาร์: ฟอร์ด·JP모건 เปิดแพลตฟอร์มซัพพลายเชนในมิชิแกน

Coinbase CT-USD เข้าสู่โหมดประมูลอย่างน้อย 10 นาที

ยอดโจรกรรมสินทรัพย์ดิจิทัลเชื่อมโยงเกาหลีเหนือปีนี้ทะลุ 1.2 พันล้านดอลลาร์

กองทุน AI 200 ล้านดอลลาร์ แดน ไอฟส์เดินหน้าลงทุนบริษัทนอกตลาด

ความคิดเห็น 0

ข้อแนะนำสำหรับความคิดเห็น

ขอบคุณสำหรับบทความดี ๆ ต้องการบทความติดตามเพิ่มเติม เป็นการวิเคราะห์ที่ยอดเยี่ยม

0/1000

ข้อแนะนำสำหรับความคิดเห็น

ขอบคุณสำหรับบทความดี ๆ ต้องการบทความติดตามเพิ่มเติม เป็นการวิเคราะห์ที่ยอดเยี่ยม
1