Amazon Web Services prezantoi të hënën TorchNeuron, një mjet që u mundëson startup-eve të kalojnë aplikacionet e AI të ndërtuara me PyTorch te çipi Trainium i Amazon. Sipas kompanisë, mjafton ndryshimi i një rreshti konfigurimi, pa rishkruar kodin. Amazon thotë se rreth 85% e aplikacioneve të AI përdorin PyTorch.
Me këtë hap, Amazon synon avantazhin e Nvidia në softuer. Nvidia ka punuar prej vitesh që infrastruktura e saj CUDA të mbështesë pa pengesa aplikacionet PyTorch, duke e rrënjosur harduerin e saj në këtë ekosistem. PyTorch lejon tashmë kalimin e aplikacioneve edhe te GPU-të AMD ose çipat Apple përmes ndryshimeve të thjeshta në konfigurim.
AWS argumenton se Trainium ofron edhe qasje në infrastrukturën e plotë të shërbimeve të saj cloud, duke mbuluar trajnimin dhe ekzekutimin e modeleve. Kompania pretendon kursime në tërësinë e ngarkesës së punës, jo domosdoshmërisht çmimin më të ulët për token. Sipas AWS, ofruesi i aplikacioneve zanore Deepgram përpunon 70% më shumë audio për dollar pas kalimit në Trainium.
Amazon thotë se do të kontribuojë ndryshime në vetë projektin PyTorch për të hequr kodin që e lidh me çipa të caktuar. Synimi i deklaruar është më shumë liri në zgjedhjen e harduerit për të gjithë zhvilluesit, jo vetëm përdoruesit e Trainium.
Burimi: TechCrunch – AI — lexoni artikullin e plotë në anglisht.
