Back to top
  • 공유 Share
  • 인쇄 Print
  • 글자크기 Font size
URL copied.

Google และ Amazon เปิดเครื่องมือย้ายแอป PyTorch ไปใช้ชิป AI ของตน

Google และ Amazon เปิดตัวเครื่องมือที่ช่วยให้แอป AI ซึ่งพัฒนาด้วย PyTorch ทำงานบนชิปของแต่ละบริษัทได้ โดยย้ายไปใช้ Google TPU หรือ Amazon Trainium ได้โดยไม่ต้องเขียนแอปใหม่

Google เปิดตัว TorchTPU เมื่อวันที่ 20 โดย TechCrunch รายงานว่านักพัฒนาสามารถย้ายแอป PyTorch ที่มีอยู่ไปยัง TPU ได้ด้วยการเปลี่ยนการตั้งค่าเพียงเล็กน้อย โดยไม่ต้องเขียนแอปใหม่ Google ระบุว่าได้ร่วมมือกับ Meta, Hugging Face, Inferact ผู้พัฒนา vLLM และ RadixArk ผู้พัฒนา SGLang เพื่อให้ TorchTPU ทำงานร่วมกับเครื่องมือเหล่านี้ได้ดี

TorchTPU ใช้งานร่วมกับ vLLM, SGLang และ Hugging Face ได้ Google ยังเปิดตัวชุดเครื่องมือเอเจนต์ TPU ที่ช่วยย้ายแอปไปยัง TPU และคลาวด์ รวมถึงแก้ไขข้อผิดพลาด

Amazon เปิดตัว TorchNeuron เมื่อวันที่ 19 เพื่อย้ายแอป AI ไปยังชิป Trainium และ AWS โดยไม่ต้องเขียนแอปใหม่ บริษัทระบุว่ากำลังส่งโค้ดที่แยกฟังก์ชันซึ่งผูกติดกับชิป Nvidia ออกจากกันเข้าไปในโครงการหลักของ PyTorch

PyTorch เป็นเครื่องมือโอเพนซอร์สที่ใช้สร้าง ฝึก และรันโมเดล AI TechCrunch รายงานว่าการย้ายแอป PyTorch เดิมไปยัง TPU หรือ Trainium ไม่จำเป็นต้องเขียนแอปใหม่ อย่างไรก็ตาม การเปิดตัวครั้งนี้เพียงอย่างเดียวยังไม่เพียงพอที่จะสรุปว่านักพัฒนาจะย้ายออกจาก GPU ของ Nvidia จำนวนมาก

<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>

Most Popular

Other related articles

Comment 0

Comment tips

Great article. Requesting a follow-up. Excellent analysis.

0/1000

Comment tips

Great article. Requesting a follow-up. Excellent analysis.
1