'Tehnološka industrija krenut će prema smanjenom oslanjanju na GPU-ove 2024.', tvrdi Greg Osuri, izvršni direktor Akash Networka
Ukratko
Izvršni direktor Overclock Labsa i Akash Networka, Greg Osuri, tvrdi da će prihvaćanje slabijih GPU-ova preoblikovati tehnološki krajolik 2024. i otključati efekte mreškanja.
Kao glavni igrači u tehnološkoj industriji i dalje dominiraju tržištem snažni GPU-ovi, značajan pomak prema manje moćni čipovi očekuje se 2024. Očekuje se da će ovaj potez, vođen potrebom za alternativama, preoblikovati krajolik, omogućujući manjim tvrtkama i startupima da značajno pridonesu trenutnom AI bum.
Potražnja za računalstvom visokih performansi, posebno za obuku velikih jezičnih modela, nadmašila je mogućnosti tradicionalnih pružatelja usluga kao što su AWS, Microsoft Azure i Google Cloud. Manjim poduzećima teško je priuštiti i rezervirati ove resurse visokih performansi, što dovodi do rastućeg interesa za distribuirane mreže bez dopuštenja.
U razgovoru s Metaverse Post — Greg Osuri, izvršni direktor tvrtke Overclock Labs i Mreža Akash, rasvijetliti pokretačke čimbenike i moguće implikacije iza ovog transformativnog trenda.
Decentralizirana platforma u oblaku Akash Network nedavno je najavila značajnu nadogradnju na oblak s Mainnetom 8. Nova nadogradnja uvela je ključna poboljšanja koja imaju za cilj pojednostaviti GPU pristup i poboljšati iskustvo implementacije.
Greg Osuri identificira optimiziranje zahtjeva skupa podataka kao ključni element u prihvaćanju slabijih GPU-a.
Prilagodba niskog ranga (LoRA) pojavljuje se kao ključna tehnika u ovoj promjeni. Ova strateška izmjena usredotočuje se na kritične težine, smanjuje broj potrebnih parametara i čuva izvorno prethodno obučeno znanje u modelu.
"Oni koji traže alternative usred stiska GPU-a napredovat će korištenjem manje intenzivnih zahtjeva za skup podataka, uvođenjem učinkovitijih tehnika poput prilagodbe niskog ranga (LoRA) za obuku jezičnih modela i raspodjelom radnog opterećenja na paralelan način", rekao je Greg Osuri iz Akash Networka Metaverse Post. „Ovo uključuje postavljanje klastera čipova niže razine za obavljanje zadataka koji su ekvivalentni manjem broju A100 i H100s. Pojavit će se nova era računalstva u oblaku, u kojoj će moć biti decentralizirana, a ne u rukama nekolicine.”
Kaže da je paraleliziranje radnih opterećenja kroz klastere manjih čipova druga strategija. U usporedbi s tradicionalnim korištenjem GPU-a, klasteri nude bolju skalabilnost, ekonomičnost i mogućnosti raspodijeljenog radnog opterećenja. Međutim, izazovi uključuju kašnjenje prijenosa podataka, probleme sa sinkronizacijom, granice skalabilnosti i troškove komunikacije.
“Što su podaci veći, to su skuplji i teži komunikacijski troškovi između nekolociranih strojeva, pa će vjerojatno biti potrebne učinkovitije metode/tehnike za prevladavanje skupih i izazovnih komunikacijskih prepreka. Za uspješnu implementaciju potrebna je kombinacija hardvera i softvera,” rekao je Greg Osuri.
Porast distribuiranih mreža i mreža bez dopuštenja pojavljuje se kao ključni pokretač, osnažujući organizacije da iskoriste potencijal slabijih GPU-a i povećaju ukupnu iskorištenost čipova.
"Kako bi postigle optimizaciju, organizacije bi trebale razmotriti manje veličine serija koje zahtijevaju manje GPU memorije, trenirati na podskupu podataka za otklanjanje pogrešaka, koristiti unaprijed obučene modele jer zahtijevaju manje računalnih resursa i distribuirati obuku na više GPU-a", objasnio je Greg Osuri. "Ovo omogućuje manjim tvrtkama i startupima da inoviraju i daju stvarne doprinose razvoju umjetne inteligencije bez potpunog oslanjanja na najmoćnije GPU-ove."
Distribuirane mreže mogu ojačati tehnološki krajolik
Greg Osuri iz Akash Networka predviđa da će prihvaćanje slabijih GPU-ova potaknuti raznolikije i konkurentnije okruženje, umanjujući zabrinutost vezanu uz dominaciju tehnoloških divova. AI pejzaž. On kaže da ovaj pristup pruža troškovno učinkovito rješenje za pristup širokom rasponu GPU-a koje je prvenstveno namijenjeno programerima, što omogućuje manjim igračima da se natječu na ravnopravnoj osnovi.
“Inovativna, decentralizirana rješenja nastavljaju se pojavljivati, rješavajući porast potražnje, osiguravajući ravnopravan pristup GPU-u i potičući inovacije u računalstvu u oblaku i obuci modela umjetne inteligencije. Dajući pristup računalnim resursima bez dopuštenja – uključujući Nvidia A100s i H100s – od niza pružatelja usluga, od neovisnih do hiperrazmjernih, ove računalne platforme su jedinstveno pozicionirane za ublažavanje neučinkovitosti,” rekao je.
Očekuje se da će manje tvrtke i startupi iskoristiti prijelaz na manje GPU-ove kako bi značajno doprinijeli AI domena. Primjeri, kao što je Thumper.ai korištenje klastera od 32 Nvidia A100, ističu optimizaciju nedovoljno iskorištene računalne snage za brže stope implementacije.
„Ponudom ekonomičnog pristupa pristupu širokom rasponu GPU-a, od čipova za podatkovne centre visokih performansi do potrošačkih modela, manji će igrači moći pristupiti istom računalu kao i etabliranije tvrtke koje imaju fleksibilnost u svom radu. rashoda”, dodao je Greg Osuri.
Gledajući šire implikacije, g. Osuri predviđa potencijalnu promjenu paradigme u tehnološkoj industriji. Prelazak na manje moćne grafičke procesore i decentralizirano računalstvo mogao bi dovesti do razvoja novih aplikacija i slučajeva korištenja, šireći se izvan AI u druge tehnološke domene.
"Inherentna fleksibilnost distribuirane mreže mogla bi omogućiti neovisnim programerima i istraživačima da eksperimentiraju s potpuno novim aplikacijama i otključaju nove načine za razvoj radikalno otvorenih arhitektura aplikacija", rekao je Greg Osuri iz Akash Networka Metaverse Post. „Ovaj efekt mreškanja mogao bi dovesti do razvoja više decentraliziranih aplikacija i usluga u industrijama, šireg dijeljenja računalnih resursa i znanja, „povratka“ kripto a blockchain, te integracija s postojećim tehnologijama.”
Izjava o odricanju od odgovornosti
U skladu s Smjernice projekta povjerenja, imajte na umu da informacije navedene na ovoj stranici nemaju namjeru i ne smiju se tumačiti kao pravni, porezni, investicijski, financijski ili bilo koji drugi oblik savjeta. Važno je ulagati samo ono što si možete priuštiti izgubiti i potražiti neovisni financijski savjet ako imate bilo kakvih nedoumica. Za dodatne informacije predlažemo da pogledate odredbe i uvjete, kao i stranice za pomoć i podršku koje pruža izdavatelj ili oglašivač. MetaversePost je predan točnom, nepristranom izvješćivanju, ali tržišni uvjeti podložni su promjenama bez prethodne najave.
O autoru
Victor je glavni tehnički urednik/pisac u Metaverse Post i pokriva umjetnu inteligenciju, kripto, podatkovnu znanost, metaverzum i kibernetičku sigurnost unutar područja poduzeća. Može se pohvaliti pola desetljeća iskustva u medijima i umjetnoj inteligenciji radeći u poznatim medijskim kućama kao što su VentureBeat, DatatechVibe i Analytics India Magazine. Budući da je medijski mentor na prestižnim sveučilištima, uključujući Oxford i USC, te s magisterijem iz podatkovne znanosti i analitike, Victor je duboko predan tome da ostane u toku s novim trendovima. Čitateljima nudi najnovije i najpronicljivije priče iz Tech and Web3 krajolik.
Više članaka
Victor je glavni tehnički urednik/pisac u Metaverse Post i pokriva umjetnu inteligenciju, kripto, podatkovnu znanost, metaverzum i kibernetičku sigurnost unutar područja poduzeća. Može se pohvaliti pola desetljeća iskustva u medijima i umjetnoj inteligenciji radeći u poznatim medijskim kućama kao što su VentureBeat, DatatechVibe i Analytics India Magazine. Budući da je medijski mentor na prestižnim sveučilištima, uključujući Oxford i USC, te s magisterijem iz podatkovne znanosti i analitike, Victor je duboko predan tome da ostane u toku s novim trendovima. Čitateljima nudi najnovije i najpronicljivije priče iz Tech and Web3 krajolik.
