"La indústria tecnològica avançarà cap a una dependència reduïda de les GPU el 2024", afirma Greg Osuri, director general d'Akash Network
En breu
Greg Osuri, director general d'Overclock Labs i Akash Network, afirma que l'adopció de GPU menors remodelarà el panorama tecnològic el 2024 i desbloquejarà efectes ondulatoris.
Com a principals actors de la indústria tecnològica, continuen dominant el mercat potents GPU, un notable canvi cap a menys xips potents es preveu el 2024. S'espera que el moviment, impulsat per la necessitat d'alternatives, remodeli el paisatge, permetent que les empreses més petites i les startups contribueixin de manera significativa al desenvolupament en curs. Auge de la IA.
La demanda de càlcul d'alt rendiment, especialment per a la formació de grans models lingüístics, ha superat les capacitats dels proveïdors tradicionals com ara AWS, Microsoft Azure i Google Cloud. A les empreses més petites els costa permetre's i reservar aquests recursos d'alt rendiment, cosa que genera un interès creixent per les xarxes distribuïdes i sense permís.
En una conversa amb Metaverse Post — Greg Osuri, director general d'Overclock Labs i Xarxa Akash, aclareixen els factors impulsors i les possibles implicacions darrere d'aquesta tendència transformadora.
La plataforma de núvol descentralitzada Akash Network havia anunciat recentment una actualització significativa al núvol amb Mainnet 8. La nova actualització va introduir millores clau que pretenen simplificar Accés a la GPU i millora l'experiència de desplegament.
Greg Osuri identifica l'optimització dels requisits del conjunt de dades com un element clau per adoptar les GPU menors.
L'adaptació de baix rang (LoRA) sorgeix com una tècnica crucial en aquest canvi. Aquesta modificació estratègica se centra en els pesos crítics, redueix el nombre de paràmetres necessaris i preserva els coneixements pre-entrenats originals en el model.
"Aquells que busquen alternatives enmig de l'estrenyiment de la GPU progressaran utilitzant requisits de conjunt de dades menys intensius, desplegant tècniques més eficients com l'adaptació de baix rang (LoRA) per entrenar models d'idioma i distribuir les càrregues de treball de manera paral·lela", va dir Greg Osuri d'Akash Network. Metaverse Post. "Això implica desplegar grups de xips de nivell inferior per realitzar tasques equivalents a un nombre menor d'A100 i H100s. Sorgirà una nova era de la computació en núvol, una en què el poder està descentralitzat i no en mans d'uns pocs".
Diu que paral·lelitzar les càrregues de treball a través de grups de xips menors és una altra estratègia. En comparació amb la utilització tradicional de la GPU, els clústers ofereixen una millor escalabilitat, rendibilitat i capacitats de càrrega de treball distribuïda. Els reptes, però, inclouen la latència de transferència de dades, problemes de sincronització, límits d'escalabilitat i costos de comunicació.
"Com més grans siguin les dades, més cars i difícils seran els costos de comunicació entre màquines no col·locades, de manera que probablement caldran mètodes/tècniques més eficients per superar les barreres de comunicació cares i desafiants. Es necessita una combinació de maquinari i programari per a una implementació exitosa", va dir Greg Osuri.
L'auge de les xarxes distribuïdes i sense permís està emergint com un facilitador crucial, que permet a les organitzacions aprofitar el potencial de les GPU menors i augmentar la utilització global dels xips.
"Per aconseguir l'optimització, les organitzacions haurien de considerar mides de lots més petites que requereixin menys memòria GPU, entrenar en un subconjunt de dades per depurar, utilitzar models pre-entrenats, ja que requereixen menys recursos computacionals i distribuir la formació entre diverses GPU", va explicar Greg Osuri. "Això permet a les empreses i startups més petites innovar i fer contribucions reals al boom de la IA sense dependre completament de les GPU més potents".
Les xarxes distribuïdes poden reforçar el panorama tecnològic
Greg Osuri d'Akash Network preveu que l'adopció de GPU menors fomentarà un entorn més divers i competitiu, mitigant les preocupacions relacionades amb els gegants tecnològics que dominen el Paisatge de l'IA. Diu que aquest enfocament proporciona una solució rendible, primer desenvolupador per accedir a una àmplia gamma de GPU, que permet als jugadors més petits competir en igualtat de condicions.
"Les solucions innovadores i descentralitzades continuen sorgint, abordant l'augment de la demanda, garantint un accés equitatiu a la GPU i fomentant la innovació en la informàtica en núvol i la formació de models d'IA. En donar accés sense permís als recursos informàtics, inclosos els Nvidia A100 i H100, d'una sèrie de proveïdors, des d'independents fins a hiperescala, aquestes plataformes informàtiques estan en una posició única per mitigar les ineficiències", va dir.
S'espera que les empreses i startups més petites aprofitin el canvi cap a GPU menors per fer contribucions significatives a la Domini d'IA. Exemples, com ara la utilització per part de Thumper.ai d'un clúster de 32 Nvidia A100, destaquen l'optimització de la potència informàtica infrautilitzada per a taxes de desplegament més ràpides.
"En oferir un enfocament rendible, primer desenvolupador per accedir a una àmplia gamma de GPU, des de xips de centres de dades d'alt rendiment fins a models de consum, els jugadors més petits podran accedir al mateix ordinador que les empreses més consolidades que tinguin flexibilitat en les seves operacions. despeses", va afegir Greg Osuri.
Tenint en compte les implicacions més àmplies, el Sr. Osuri preveu un potencial canvi de paradigma en la indústria tecnològica. El canvi cap a GPU menys potents i informàtica descentralitzada podria conduir al desenvolupament de noves aplicacions i casos d'ús, estenent-se més enllà de la IA a altres dominis tecnològics.
"La flexibilitat inherent d'una xarxa distribuïda podria permetre als desenvolupadors i investigadors independents experimentar amb aplicacions completament noves i desbloquejar noves maneres de desenvolupar arquitectures d'aplicacions radicalment obertes", va dir Greg Osuri d'Akash Network. Metaverse Post. "Aquest efecte dominó podria conduir al desenvolupament d'aplicacions i serveis més descentralitzats entre les indústries, un intercanvi més ampli de recursos i coneixements computacionals, el "retorn" de cripto i la blockchain, i la integració amb les tecnologies existents".
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Víctor és un editor/escriptor tècnic de gestió a Metaverse Post i cobreix la intel·ligència artificial, la criptografia, la ciència de dades, el metavers i la ciberseguretat dins de l'àmbit empresarial. Compta amb mitja dècada d'experiència en mitjans i intel·ligència artificial treballant a mitjans de comunicació coneguts com VentureBeat, DatatechVibe i Analytics India Magazine. Com a mentor de mitjans a prestigioses universitats com Oxford i la USC i amb un màster en ciència de dades i anàlisi, Victor està profundament compromès a mantenir-se al dia de les tendències emergents. Ofereix als lectors les narracions més recents i perspicaces de la tecnologia i Web3 paisatge.
més articles
Víctor és un editor/escriptor tècnic de gestió a Metaverse Post i cobreix la intel·ligència artificial, la criptografia, la ciència de dades, el metavers i la ciberseguretat dins de l'àmbit empresarial. Compta amb mitja dècada d'experiència en mitjans i intel·ligència artificial treballant a mitjans de comunicació coneguts com VentureBeat, DatatechVibe i Analytics India Magazine. Com a mentor de mitjans a prestigioses universitats com Oxford i la USC i amb un màster en ciència de dades i anàlisi, Victor està profundament compromès a mantenir-se al dia de les tendències emergents. Ofereix als lectors les narracions més recents i perspicaces de la tecnologia i Web3 paisatge.
