ข่าว 
ข้อมูลเหรียญ 
แนะนำสื่อ 
Google และ Amazon เปิดตัวเครื่องมือที่ช่วยให้แอป AI ซึ่งพัฒนาด้วย PyTorch ทำงานบนชิปของแต่ละบริษัทได้ โดยย้ายไปใช้ Google TPU หรือ Amazon Trainium ได้โดยไม่ต้องเขียนแอปใหม่
Google เปิดตัว TorchTPU เมื่อวันที่ 20 โดย TechCrunch รายงานว่านักพัฒนาสามารถย้ายแอป PyTorch ที่มีอยู่ไปยัง TPU ได้ด้วยการเปลี่ยนการตั้งค่าเพียงเล็กน้อย โดยไม่ต้องเขียนแอปใหม่ Google ระบุว่าได้ร่วมมือกับ Meta, Hugging Face, Inferact ผู้พัฒนา vLLM และ RadixArk ผู้พัฒนา SGLang เพื่อให้ TorchTPU ทำงานร่วมกับเครื่องมือเหล่านี้ได้ดี
TorchTPU ใช้งานร่วมกับ vLLM, SGLang และ Hugging Face ได้ Google ยังเปิดตัวชุดเครื่องมือเอเจนต์ TPU ที่ช่วยย้ายแอปไปยัง TPU และคลาวด์ รวมถึงแก้ไขข้อผิดพลาด
Amazon เปิดตัว TorchNeuron เมื่อวันที่ 19 เพื่อย้ายแอป AI ไปยังชิป Trainium และ AWS โดยไม่ต้องเขียนแอปใหม่ บริษัทระบุว่ากำลังส่งโค้ดที่แยกฟังก์ชันซึ่งผูกติดกับชิป Nvidia ออกจากกันเข้าไปในโครงการหลักของ PyTorch
PyTorch เป็นเครื่องมือโอเพนซอร์สที่ใช้สร้าง ฝึก และรันโมเดล AI TechCrunch รายงานว่าการย้ายแอป PyTorch เดิมไปยัง TPU หรือ Trainium ไม่จำเป็นต้องเขียนแอปใหม่ อย่างไรก็ตาม การเปิดตัวครั้งนี้เพียงอย่างเดียวยังไม่เพียงพอที่จะสรุปว่านักพัฒนาจะย้ายออกจาก GPU ของ Nvidia จำนวนมาก
ความคิดเห็น 0