„Technický priemysel sa v roku 2024 posunie smerom k zníženej závislosti na GPU,“ tvrdí Greg Osuri, generálny riaditeľ Akash Network.
Stručne
Generálny riaditeľ Overclock Labs a Akash Network, Greg Osuri tvrdí, že prijatie menších GPU pretvorí technologické prostredie v roku 2024 a odomkne dominové efekty.
Ako hlavní hráči v technologickom priemysle naďalej dominujú na trhu s výkonné GPU, výrazný posun smerom k menej výkonné čipy sa očakáva v roku 2024. Očakáva sa, že tento krok, poháňaný potrebou alternatív, pretvorí prostredie a umožní menším spoločnostiam a startupom významne prispieť k prebiehajúcemu AI boom.
Dopyt po vysokovýkonnom výpočte, najmä na trénovanie veľkých jazykových modelov, prekonal možnosti tradičných poskytovateľov ako napr. AWS, Microsoft Azure a Google Cloud. Pre menšie podniky je náročné dovoliť a rezervovať si tieto vysokovýkonné zdroje, čo vedie k rastúcemu záujmu o distribuované siete a siete bez povolenia.
V rozhovore s používateľom Metaverse Post — Greg Osuri, generálny riaditeľ Overclock Labs a Sieť Akash, objasnila hnacie faktory a potenciálne dôsledky tohto transformačného trendu.
Decentralizovaná cloudová platforma Akash Network nedávno oznámila významný upgrade na cloud s Mainnet 8. Nová aktualizácia priniesla kľúčové vylepšenia, ktorých cieľom je zjednodušiť Prístup GPU a zlepšiť skúsenosti s nasadením.
Greg Osuri identifikuje optimalizáciu požiadaviek na súbor údajov ako kľúčový prvok pri využívaní menších GPU.
Adaptácia na nízke hodnotenie (LoRA) sa v tomto posune javí ako zásadná technika. Táto strategická úprava sa zameriava na kritické váhy, znižuje počet potrebných parametrov a zachováva pôvodné vopred natrénované znalosti v modeli.
„Tí, ktorí hľadajú alternatívy uprostred útlmu GPU, urobia pokrok používaním menej náročných požiadaviek na súbor údajov, nasadením efektívnejších techník, ako je Low-Rank Adaptation (LoRA) na trénovanie jazykových modelov, a paralelnou distribúciou pracovnej záťaže,“ povedal Greg Osuri z Akash Network. Metaverse Post. „To zahŕňa nasadenie klastrov čipov nižšej úrovne na splnenie úloh ekvivalentných menšiemu počtu A100 a H100s. Objaví sa nová éra cloud computingu, v ktorej je moc decentralizovaná a nie je v rukách len niekoľkých.“
Hovorí, že paralelizácia pracovných zaťažení prostredníctvom zhlukov menších čipov je ďalšou stratégiou. V porovnaní s tradičným využitím GPU ponúkajú klastre lepšiu škálovateľnosť, efektívnosť nákladov a možnosti distribuovaného pracovného zaťaženia. Výzvy však zahŕňajú oneskorenie prenosu údajov, problémy so synchronizáciou, limity škálovateľnosti a náklady na komunikáciu.
„Čím väčšie sú údaje, tým drahšie a náročnejšie sú náklady na komunikáciu medzi nezoskupenými strojmi, takže na prekonanie nákladných a náročných komunikačných bariér budú pravdepodobne potrebné efektívnejšie metódy/techniky. Na úspešnú implementáciu je potrebná kombinácia hardvéru a softvéru,“ povedal Greg Osuri.
Vzostup distribuovaných sietí a sietí bez povolení sa ukazuje ako rozhodujúci faktor, ktorý umožňuje organizáciám využiť potenciál menších GPU a zvýšiť celkové využitie čipov.
„Na dosiahnutie optimalizácie by organizácie mali zvážiť menšie veľkosti dávok, ktoré vyžadujú menej pamäte GPU, trénovať na podmnožine údajov na ladenie, využívať vopred natrénované modely, pretože vyžadujú menej výpočtových zdrojov, a distribuovať školenia na viacero GPU,“ vysvetlil Greg Osuri. „To umožňuje menším spoločnostiam a startupom inovovať a skutočne prispievať k rozmachu AI bez toho, aby sa úplne spoliehali na najvýkonnejšie GPU.“
Distribuované siete môžu posilniť technickú krajinu
Greg Osuri z Akash Network si predstavuje, že prijatie menších GPU podporí rozmanitejšie a konkurencieschopnejšie prostredie a zmierni obavy súvisiace s technologickými gigantmi, ktorí dominujú Krajina AI. Hovorí, že tento prístup poskytuje nákladovo efektívne riešenie pre vývojárov na prístup k širokej škále GPU, čo umožňuje menším hráčom súťažiť na rovnakej úrovni.
„Naďalej sa objavujú inovatívne, decentralizované riešenia, ktoré riešia prudký nárast dopytu, zaisťujú spravodlivý prístup k GPU a podporujú inovácie v oblasti cloud computingu a školenia modelov AI. Poskytnutím prístupu bez povolenia k výpočtovým zdrojom – vrátane Nvidia A100 a H100 – od rôznych poskytovateľov, od nezávislých až po hyperškálové, majú tieto výpočtové platformy jedinečnú pozíciu na zmiernenie neefektívnosti,“ povedal.
Od menších spoločností a začínajúcich podnikov sa očakáva, že využijú posun smerom k menším GPU, aby zmysluplne prispeli k doména AI. Príklady, ako napríklad využitie klastra 32 Nvidia A100 spoločnosťou Thumper.ai, zdôrazňujú optimalizáciu nedostatočne využívaného výpočtového výkonu pre rýchlejšie nasadenie.
„Ponúknutím nákladovo efektívneho prístupu určeného pre vývojárov k širokému spektru GPU, od vysokovýkonných čipov dátových centier až po spotrebiteľské modely, budú môcť menší hráči pristupovať k rovnakým výpočtom ako etablované spoločnosti, ktoré majú flexibilitu v prevádzke. výdavky,“ dodal Greg Osuri.
Pri pohľade na širšie dôsledky pán Osuri predpovedá potenciálnu zmenu paradigmy v technologickom priemysle. Posun smerom k menej výkonným GPU a decentralizovanej výpočtovej technike by mohol viesť k vývoju nových aplikácií a prípadov použitia, ktoré presahujú rámec AI do iných technologických oblastí.
„Inherentná flexibilita distribuovanej siete by mohla umožniť nezávislým vývojárom a výskumníkom experimentovať s úplne novými aplikáciami a odomknúť nové spôsoby vývoja radikálne otvorených architektúr aplikácií,“ povedal Greg Osuri z Akash Network. Metaverse Post. „Tento dominový efekt by mohol viesť k rozvoju decentralizovanejších aplikácií a služieb naprieč odvetviami, širšiemu zdieľaniu výpočtových zdrojov a znalostí, „návratu“ šifrovací a blockchaina integráciu s existujúcimi technológiami.“
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Victor je výkonným technickým redaktorom/spisovateľom v Metaverse Post a pokrýva umelú inteligenciu, krypto, dátovú vedu, metaverse a kybernetickú bezpečnosť v rámci podnikovej sféry. Môže sa pochváliť polročnými skúsenosťami s médiami a AI prácou v známych médiách, ako sú VentureBeat, DatatechVibe a Analytics India Magazine. Victor ako mediálny mentor na prestížnych univerzitách vrátane Oxfordu a USC a s magisterským titulom v oblasti dátovej vedy a analytiky je hlboko odhodlaný držať krok s novými trendmi. Čitateľom ponúka najnovšie a najpozoruhodnejšie príbehy z Tech a Web3 terén.
Ďalšie články
Victor je výkonným technickým redaktorom/spisovateľom v Metaverse Post a pokrýva umelú inteligenciu, krypto, dátovú vedu, metaverse a kybernetickú bezpečnosť v rámci podnikovej sféry. Môže sa pochváliť polročnými skúsenosťami s médiami a AI prácou v známych médiách, ako sú VentureBeat, DatatechVibe a Analytics India Magazine. Victor ako mediálny mentor na prestížnych univerzitách vrátane Oxfordu a USC a s magisterským titulom v oblasti dátovej vedy a analytiky je hlboko odhodlaný držať krok s novými trendmi. Čitateľom ponúka najnovšie a najpozoruhodnejšie príbehy z Tech a Web3 terén.
