"Tehnikatööstus liigub 2024. aastal väiksema sõltuvuse suunas GPU-dele," väidab Akash Networki tegevjuht Greg Osuri
Põgusalt
Overclock Labsi ja Akash Networki tegevjuht Greg Osuri kinnitab, et väiksemate GPU-de kasutuselevõtt kujundab 2024. aastal tehnoloogiamaastiku ümber ja avab pulsatsiooniefektid.
Kuna tehnoloogiatööstuse peamised tegijad jätkavad turul domineerimist võimsad GPU-d, märkimisväärne nihe vähema poole võimsad kiibid Eeldatakse, et 2024. aastal. Alternatiivide vajadusest tingitud samm kujundab eeldatavasti maastikku ümber, võimaldades väiksematel ettevõtetel ja idufirmadel käimasolevasse oluliselt panustada. AI buum.
Nõudlus suure jõudlusega arvutite järele, eriti suurte keelemudelite koolitamiseks, on ületanud traditsiooniliste pakkujate, näiteks AWS, Microsoft Azure ja Google Cloud. Väiksematel ettevõtetel on nende suure jõudlusega ressursside lubamine ja reserveerimine keeruline, mis toob kaasa kasvava huvi hajutatud ja loata võrkude vastu.
Vestluses Metaverse Post — Greg Osuri, Overclock Labsi tegevjuht ja Akaši võrk, heidab valgust selle ümberkujundava trendi tõuketeguritele ja võimalikele tagajärgedele.
Detsentraliseeritud pilveplatvorm Akash Network teatas hiljuti olulisest pilve versiooniuuendusest Mainnet 8-ga. Uus täiendus tõi kaasa peamised täiustused, mille eesmärk on lihtsustada GPU juurdepääs ja täiustage juurutamiskogemust.
Greg Osuri peab andmekogumi nõuete optimeerimist väiksemate GPU-de kasutuselevõtu võtmeelemendiks.
Madala taseme kohanemine (LoRA) on selles nihkes ülioluline tehnika. See strateegiline muudatus keskendub kriitilistele kaaludele, vähendab vajalike parameetrite arvu ja säilitab mudelis esialgsed eelkoolitatud teadmised.
"Need, kes otsivad alternatiive keset GPU kokkusurumist, teevad edusamme, kasutades vähem intensiivseid andmekogumi nõudeid, rakendades keelemudelite koolitamiseks tõhusamaid tehnikaid, nagu madala asetusega kohandus (LoRA) ja jaotades töökoormust paralleelselt," ütles Akash Networki Greg Osuri. Metaverse Post. "See hõlmab madalama astme kiipide klastrite kasutuselevõttu, et täita ülesandeid, mis on samaväärsed väiksema arvu A100 ja H100s. Tekib uus pilvandmetöötluse ajastu, kus võim on detsentraliseeritud ja mitte ainult väheste kätes.
Ta ütleb, et töökoormuse paralleelstamine väiksemate kiipide klastrite kaudu on veel üks strateegia. Võrreldes traditsioonilise GPU kasutusega, pakuvad klastrid paremat mastaapsust, kulutõhusust ja hajutatud töökoormuse võimalusi. Väljakutsed hõlmavad aga andmeedastuse latentsust, sünkroonimisprobleeme, skaleeritavuse piirid ja sidekulud.
„Mida suuremad on andmed, seda kallimad ja keerulisemad on sidekulud mittekollokeeritud masinate vahel, mistõttu kulukate ja väljakutseid pakkuvate sidetõkete ületamiseks on tõenäoliselt vaja tõhusamaid meetodeid/tehnikaid. Edukaks rakendamiseks on vaja riist- ja tarkvara kombinatsiooni,“ ütles Greg Osuri.
Hajutatud ja lubadeta võrkude kasv on kujunemas oluliseks võimaldajaks, mis annab organisatsioonidele võimaluse kasutada väiksemate GPU-de potentsiaali ja suurendada üldist kiibi kasutust.
"Optimeerimise saavutamiseks peaksid organisatsioonid kaaluma väiksemaid partii suurusi, mis nõuavad vähem GPU mälu, treenima andmete alamhulka silumiseks, kasutama eelkoolitatud mudeleid, kuna need nõuavad vähem arvutusressursse, ja jaotama koolitust mitme GPU vahel," selgitas Greg Osuri. "See võimaldab väiksematel ettevõtetel ja idufirmadel uuendusi teha ja tehisintellekti buumi tõelise panuse anda ilma kõige võimsamatele GPU-dele täielikult tuginemata."
Hajutatud võrgud võivad toetada tehnilist maastikku
Akash Networki Greg Osuri näeb ette, et väiksemate GPU-de kasutuselevõtt soodustab mitmekesisemat ja konkurentsivõimelisemat keskkonda, leevendades muret, mis on seotud tehnoloogiahiiglastega, kes domineerivad. AI maastik. Ta ütleb, et see lähenemisviis pakub kulutõhusat, arendajakeskset lahendust paljudele GPU-dele juurdepääsuks, võimaldades väiksematel mängijatel konkureerida võrdsetel alustel.
„Jätkuvalt ilmuvad välja uuenduslikud detsentraliseeritud lahendused, mis tegelevad nõudluse kasvuga, tagavad õiglase GPU-juurdepääsu ning soodustavad innovatsiooni pilvandmetöötluses ja tehisintellekti mudelite väljaõppes. Andes loata juurdepääsu arvutusressurssidele – sealhulgas Nvidia A100s ja H100s – erinevatelt pakkujatelt sõltumatutest kuni hüperskaaladeni, on need arvutusplatvormid ainulaadses positsioonis, et leevendada ebatõhusust, ”ütles ta.
Väiksemad ettevõtted ja idufirmad peaksid suurendama üleminekut väiksemate GPU-de poole, et anda sisukas panus AI domeen. Näited, nagu Thumper.ai 32 Nvidia A100 klastri kasutamine, tõstavad esile alakasutatud arvutusvõimsuse optimeerimist kiirema kasutuselevõtu kiiruse saavutamiseks.
"Pakkudes kulutõhusat, arendajakeskset lähenemisviisi paljudele GPU-dele, alates suure jõudlusega andmekeskuse kiipidest kuni tarbijamudeliteni, saavad väiksemad mängijad juurdepääsu samale arvutussüsteemile, mis on juba väljakujunenud ettevõtetel, kellel on oma toimimises paindlikkus. kulutused,” lisas Greg Osuri.
Vaadates laiemaid tagajärgi, näeb hr Osuri ette potentsiaalset paradigma muutust tehnoloogiatööstuses. Üleminek vähem võimsatele GPU-dele ja detsentraliseeritud andmetöötlusele võib viia uute rakenduste ja kasutusjuhtude väljatöötamiseni, mis ulatuvad tehisintellektist kaugemale ka muudesse tehnoloogilistesse valdkondadesse.
"Hajutatud võrgu loomupärane paindlikkus võib võimaldada sõltumatutel arendajatel ja teadlastel katsetada täiesti uusi rakendusi ja avada uusi viise radikaalselt avatud rakendusarhitektuuride arendamiseks," ütles Akash Networki Greg Osuri. Metaverse Post. "See laineefekt võib viia detsentraliseeritumate rakenduste ja teenuste väljatöötamiseni erinevates tööstusharudes, arvutusressursside ja teadmiste laiema jagamiseni, krüpto ja blockchainja integreerimine olemasolevate tehnoloogiatega.
Kaebused
Vastavalt Usaldusprojekti juhised, pange tähele, et sellel lehel esitatud teave ei ole mõeldud ega tohiks tõlgendada kui juriidilist, maksu-, investeerimis-, finants- või muud nõuannet. Oluline on investeerida ainult seda, mida saate endale lubada kaotada, ja kahtluste korral küsida sõltumatut finantsnõu. Lisateabe saamiseks soovitame vaadata nõudeid ja tingimusi ning väljaandja või reklaamija pakutavaid abi- ja tugilehti. MetaversePost on pühendunud täpsele ja erapooletule aruandlusele, kuid turutingimusi võidakse ette teatamata muuta.
Umbes Autor
Victor on ettevõtte juhtiv tehniline toimetaja/kirjutaja Metaverse Post ning hõlmab tehisintellekti, krüpto-, andmeteadust, metaversumit ja küberjulgeolekut ettevõttes. Tal on poole kümne aasta pikkune meedia- ja AI-kogemus, töötades sellistes tuntud meediaväljaannetes nagu VentureBeat, DatatechVibe ja Analytics India Magazine. Olles meediamentor mainekates ülikoolides, sealhulgas Oxford ja USC, ning omades magistrikraadi andmeteaduse ja -analüütika alal, on Victor sügavalt pühendunud esilekerkivate trendidega kursis hoidmisele. Ta pakub lugejatele tehnika ja tehnika uusimaid ja põhjalikumaid narratiive Web3 maastik.
Veel artikleid
Victor on ettevõtte juhtiv tehniline toimetaja/kirjutaja Metaverse Post ning hõlmab tehisintellekti, krüpto-, andmeteadust, metaversumit ja küberjulgeolekut ettevõttes. Tal on poole kümne aasta pikkune meedia- ja AI-kogemus, töötades sellistes tuntud meediaväljaannetes nagu VentureBeat, DatatechVibe ja Analytics India Magazine. Olles meediamentor mainekates ülikoolides, sealhulgas Oxford ja USC, ning omades magistrikraadi andmeteaduse ja -analüütika alal, on Victor sügavalt pühendunud esilekerkivate trendidega kursis hoidmisele. Ta pakub lugejatele tehnika ja tehnika uusimaid ja põhjalikumaid narratiive Web3 maastik.
