„Technologijos pramonė judės link mažesnės priklausomybės nuo GPU 2024 m.“, – tvirtina Gregas Osuri, „Akash Network“ generalinis direktorius.
Trumpai
„Overclock Labs“ ir „Akash Network“ generalinis direktorius Gregas Osuri teigia, kad naudojant mažesnius GPU, 2024 m. bus pakeista technologijų aplinka ir atrakinami bangavimo efektai.
Kadangi pagrindiniai technologijų pramonės dalyviai ir toliau dominuoja rinkoje galingi GPU, pastebimas poslinkis mažiau galingi lustai Tikimasi, kad šis žingsnis, kurį paskatins alternatyvų būtinybė, pakeis kraštovaizdį, leis mažesnėms įmonėms ir startuoliams reikšmingai prisidėti prie AI bumas.
Didelio našumo skaičiavimo paklausa, ypač mokant didelius kalbos modelius, pranoko tradicinių paslaugų teikėjų, tokių kaip AWS, Microsoft Azure ir "Google Cloud. Mažesnėms įmonėms sunku leisti sau ir rezervuoti šiuos didelio našumo išteklius, todėl didėja susidomėjimas paskirstytais ir neleistinais tinklais.
Pokalbyje su Metaverse Post – Gregas Osuri, „Overclock Labs“ generalinis direktorius ir Akašo tinklas, atskleidžia šios transformacinės tendencijos varomuosius veiksnius ir galimas pasekmes.
Decentralizuota debesų platforma Akash Network neseniai paskelbė apie reikšmingą debesies atnaujinimą su Mainnet 8. Naujasis atnaujinimas pristatė pagrindinius patobulinimus, kuriais siekiama supaprastinti GPU prieiga ir patobulinkite diegimo patirtį.
Gregas Osuri duomenų rinkinio reikalavimų optimizavimą įvardija kaip pagrindinį elementą, apimantį mažesnius GPU.
Žemo rango adaptacija (LoRA) iškyla kaip esminė šio poslinkio technika. Ši strateginė modifikacija sutelkia dėmesį į kritinius svorius, sumažina reikalingų parametrų skaičių ir išsaugo originalias iš anksto parengtas žinias modelyje.
„Tie, kurie ieško alternatyvų, kai spaudžiamas GPU, padarys pažangą taikydami ne tokius intensyvius duomenų rinkinių reikalavimus, diegdami veiksmingesnius metodus, pvz., žemo rango adaptaciją (LoRA), mokydami kalbų modelius ir paskirstydami darbo krūvius lygiagrečiai“, – sakė Akash tinklo atstovas Gregas Osuri. Metaverse Post. „Tai apima žemesnės pakopos lustų grupių diegimą, kad būtų galima atlikti užduotis, lygiavertes mažesniam skaičiui A100 ir H100s. Atsiras nauja debesų kompiuterijos era, kurioje galia bus decentralizuota, o ne tik kelių žmonių rankose.
Jis sako, kad darbo krūvių lygiagretinimas naudojant mažesnių lustų grupes yra kita strategija. Palyginti su tradiciniu GPU panaudojimu, klasteriai siūlo geresnį mastelį, ekonomiškumą ir paskirstyto darbo krūvio galimybes. Tačiau iššūkiai apima duomenų perdavimo delsą, sinchronizavimo problemas, mastelio ribos ir ryšio išlaidas.
„Kuo didesni duomenys, tuo brangesnės ir sudėtingesnės komunikacijos sąnaudos tarp nesutalpintų mašinų, todėl greičiausiai reikės efektyvesnių metodų/technikų, norint įveikti brangias ir sudėtingas komunikacijos kliūtis. Norint sėkmingai įgyvendinti, reikalingas techninės ir programinės įrangos derinys“, – sakė Gregas Osuri.
Paskirstytų ir leidimų neturinčių tinklų atsiradimas tampa itin svarbiu veiksniu, suteikiančiu organizacijoms galimybę panaudoti mažesnių GPU potencialą ir padidinti bendrą lustų panaudojimą.
„Norėdami optimizuoti, organizacijos turėtų apsvarstyti mažesnius paketų dydžius, kuriems reikia mažiau GPU atminties, treniruotis su duomenų pogrupiu derinti, naudoti iš anksto paruoštus modelius, nes jiems reikia mažiau skaičiavimo išteklių, ir paskirstyti mokymus keliuose GPU“, – paaiškino Gregas Osuri. „Tai leidžia mažesnėms įmonėms ir pradedantiesiems kurti naujoves ir realiai prisidėti prie AI bumo visiškai nepasikliaujant galingiausiais GPU.
Paskirstyti tinklai gali sustiprinti techninį kraštovaizdį
„Akash Network“ atstovas Gregas Osuri numato, kad mažesnių GPU naudojimas skatins įvairesnę ir konkurencingesnę aplinką ir sumažins susirūpinimą dėl technologijų milžinų, dominuojančių pasaulyje. AI peizažas. Jis teigia, kad šis metodas yra ekonomiškas, pirmiausia kūrėjams skirtas sprendimas, leidžiantis pasiekti įvairius GPU, leidžiančius mažesniems žaidėjams konkuruoti vienodomis sąlygomis.
„Ir toliau atsiranda naujoviškų, decentralizuotų sprendimų, kurie sprendžia didėjančią paklausą, užtikrina teisingą GPU prieigą ir skatina debesų kompiuterijos ir AI modelių mokymo naujoves. Suteikdamos neteisėtą prieigą prie įvairių tiekėjų skaičiavimo išteklių, įskaitant Nvidia A100 ir H100, nuo nepriklausomų iki didelio masto, šios skaičiavimo platformos yra unikalios padėties, kad sumažintų neefektyvumą“, – sakė jis.
Tikimasi, kad mažesnės įmonės ir pradedančios įmonės naudos perėjimą prie mažesnių GPU, kad reikšmingai prisidėtų prie AI domenas. Pavyzdžiai, tokie kaip Thumper.ai 32 Nvidia A100 klasterio panaudojimas, pabrėžia nepakankamai išnaudotos skaičiavimo galios optimizavimą, kad būtų galima greičiau įdiegti.
„Siūlant ekonomišką, pirmiausia kūrėjo požiūrį į prieigą prie plataus spektro GPU, nuo didelio našumo duomenų centro lustų iki vartotojų modelių, mažesni žaidėjai galės pasiekti tą patį skaičiavimą, kaip ir labiau įsitvirtinusios įmonės, turinčios lankstumo savo veikloje. išlaidų“, – pridūrė Gregas Osuri.
Žvelgdamas į platesnes pasekmes, J. Osuri numato galimą paradigmos pokytį technologijų pramonėje. Perėjimas prie mažiau galingų GPU ir decentralizuoto skaičiavimo gali paskatinti naujų programų kūrimą ir naudojimo atvejus, apimančius ne tik AI, bet ir kitas technologijų sritis.
„Paskirstytam tinklui būdingas lankstumas gali leisti nepriklausomiems kūrėjams ir tyrėjams eksperimentuoti su visiškai naujomis programomis ir atverti naujus būdus, kaip sukurti visiškai atviras programų architektūras“, – sakė Gregas Osuri iš Akash Network. Metaverse Post. „Šis bangavimo efektas gali paskatinti labiau decentralizuotų taikomųjų programų ir paslaugų kūrimą įvairiose pramonės šakose, platesnį dalijimąsi skaičiavimo ištekliais ir žiniomis, „sugrįžimą“ Crypto ir blockchainir integracija su esamomis technologijomis.
Atsakomybės neigimas
Remdamasi tuo, Pasitikėjimo projekto gairės, atkreipkite dėmesį, kad šiame puslapyje pateikta informacija nėra skirta ir neturėtų būti aiškinama kaip teisinė, mokesčių, investicinė, finansinė ar bet kokia kita konsultacija. Svarbu investuoti tik tai, ką galite sau leisti prarasti, ir, jei turite kokių nors abejonių, kreiptis į nepriklausomą finansinę konsultaciją. Norėdami gauti daugiau informacijos, siūlome peržiūrėti taisykles ir nuostatas bei pagalbos ir palaikymo puslapius, kuriuos pateikia išdavėjas arba reklamuotojas. MetaversePost yra įsipareigojusi teikti tikslias, nešališkas ataskaitas, tačiau rinkos sąlygos gali keistis be įspėjimo.
Apie autorių
Viktoras yra vadovaujantis technologijų redaktorius / rašytojas Metaverse Post ir apima dirbtinį intelektą, kriptografiją, duomenų mokslą, metaversą ir kibernetinį saugumą įmonės sferoje. Jis gali pasigirti pusės dešimtmečio žiniasklaidos ir AI patirtimi dirbdamas tokiose žinomose žiniasklaidos priemonėse kaip „VentureBeat“, „DatatechVibe“ ir „Analytics India Magazine“. Būdamas žiniasklaidos mentorius prestižiniuose universitetuose, įskaitant Oksfordą ir USC, ir turintis duomenų mokslo ir analizės magistro laipsnį, Viktoras yra labai įsipareigojęs neatsilikti nuo kylančių tendencijų. Jis siūlo skaitytojams naujausius ir įžvalgiausius pasakojimus iš Technologijos ir Web3 peizažas.
Daugiau straipsnių
Viktoras yra vadovaujantis technologijų redaktorius / rašytojas Metaverse Post ir apima dirbtinį intelektą, kriptografiją, duomenų mokslą, metaversą ir kibernetinį saugumą įmonės sferoje. Jis gali pasigirti pusės dešimtmečio žiniasklaidos ir AI patirtimi dirbdamas tokiose žinomose žiniasklaidos priemonėse kaip „VentureBeat“, „DatatechVibe“ ir „Analytics India Magazine“. Būdamas žiniasklaidos mentorius prestižiniuose universitetuose, įskaitant Oksfordą ir USC, ir turintis duomenų mokslo ir analizės magistro laipsnį, Viktoras yra labai įsipareigojęs neatsilikti nuo kylančių tendencijų. Jis siūlo skaitytojams naujausius ir įžvalgiausius pasakojimus iš Technologijos ir Web3 peizažas.
