„Industria tehnologică se va îndrepta către o dependență redusă de GPU-uri în 2024”, susține Greg Osuri, CEO al Akash Network
Pe scurt
Directorul general al Overclock Labs și Akash Network, Greg Osuri afirmă că adoptarea GPU-urilor mai mici va remodela peisajul tehnologic în 2024 și va debloca efectele undă.
Ca jucători importanți din industria tehnologiei, continuă să domine piața cu GPU-uri puternice, o schimbare notabilă către mai puțin cipuri puternice este anticipată în 2024. Mișcarea, determinată de necesitatea de alternative, este de așteptat să remodeleze peisajul, permițând companiilor mai mici și startup-urilor să contribuie în mod semnificativ la AI boom.
Cererea de calcul de înaltă performanță, în special pentru formarea modelelor de limbaj mari, a depășit capacitățile furnizorilor tradiționali, cum ar fi AWS, Microsoft Azure și Google Cloud. Întreprinderile mai mici consideră că este dificil să-și permită și să rezerve aceste resurse de înaltă performanță, ceea ce duce la un interes din ce în ce mai mare pentru rețelele distribuite și fără permisiune.
Într-o conversație cu Metaverse Post — Greg Osuri, CEO al Overclock Labs și Rețeaua Akash, aruncă lumină asupra factorilor determinanți și a potențialelor implicații din spatele acestei tendințe de transformare.
Platforma de cloud descentralizată Akash Network a anunțat recent o actualizare semnificativă la cloud cu Mainnet 8. Noua actualizare a introdus îmbunătățiri cheie care urmăresc simplificarea Acces GPU și crește experiența de implementare.
Greg Osuri identifică optimizarea cerințelor setului de date ca un element cheie în adoptarea GPU-urilor mai mici.
Low-Rank Adaptation (LoRA) apare ca o tehnică crucială în această schimbare. Această modificare strategică se concentrează pe greutățile critice, reduce numărul de parametri necesari și păstrează cunoștințele inițiale pre-instruite în model.
„Cei care caută alternative pe fondul strângerii GPU-ului vor face progrese utilizând cerințe mai puțin intensive pentru setul de date, implementând tehnici mai eficiente, cum ar fi Low-Rank Adaptation (LoRA) pentru a antrena modele de limbaj și distribuirea sarcinilor de lucru într-o manieră paralelă”, a spus Greg Osuri de la Akash Network. Metaverse Post. „Acest lucru implică implementarea unor grupuri de cipuri de nivel inferior pentru a îndeplini sarcini echivalente cu un număr mai mic de A100 și H100s. Va apărea o nouă eră a cloud computingului, una în care puterea este descentralizată și nu în mâinile câtorva.”
El spune că paralelizarea sarcinilor de lucru prin grupuri de cipuri mai mici este o altă strategie. În comparație cu utilizarea tradițională a GPU-urilor, clusterele oferă o scalabilitate mai bună, eficiență a costurilor și capabilități de volum de lucru distribuit. Cu toate acestea, provocările includ latența transferului de date, problemele de sincronizare, limite de scalabilitate și costurile de comunicare.
„Cu cât datele sunt mai mari, cu atât costurile de comunicare sunt mai costisitoare și dificile între mașinile necolocate, așa că probabil că vor fi necesare metode/tehnici mai eficiente pentru a depăși barierele de comunicare costisitoare și provocatoare. Pentru implementarea cu succes este nevoie de o combinație de hardware și software”, a spus Greg Osuri.
Creșterea rețelelor distribuite și fără permisiune devine un factor crucial, dând putere organizațiilor să valorifice potențialul GPU-urilor mai mici și să crească utilizarea generală a cipurilor.
„Pentru a realiza optimizarea, organizațiile ar trebui să ia în considerare dimensiuni mai mici de loturi care necesită mai puțină memorie GPU, să se antreneze pe un subset de date pentru depanare, să utilizeze modele pre-antrenate, deoarece necesită mai puține resurse de calcul și să distribuie instruirea pe mai multe GPU-uri”, a explicat Greg Osuri. „Acest lucru permite companiilor mai mici și startup-urilor să inoveze și să aducă contribuții reale la boom-ul AI fără a se baza complet pe cele mai puternice GPU-uri.”
Rețelele distribuite pot consolida peisajul tehnologic
Greg Osuri de la Akash Network consideră că adoptarea GPU-urilor mai mici va stimula un mediu mai divers și mai competitiv, atenuând preocupările legate de giganții tehnologici care domină Peisajul AI. El spune că această abordare oferă o soluție rentabilă, destinată dezvoltatorului, pentru accesarea unei game largi de GPU-uri, permițând jucătorilor mai mici să concureze pe picior de egalitate.
„Soluțiile inovatoare, descentralizate continuă să apară, abordând creșterea cererii, asigurând acces echitabil la GPU și încurajând inovația în cloud computing și formarea modelelor AI. Oferind acces fără permisiune la resursele de calcul – inclusiv Nvidia A100s și H100s – de la o serie de furnizori, de la independenți la hiperscale, aceste platforme de calcul sunt poziționate în mod unic pentru a atenua ineficiența”, a spus el.
Se așteaptă ca companiile și startup-urile mai mici să profite de trecerea către GPU-uri mai mici pentru a aduce contribuții semnificative la domeniul AI. Exemple, cum ar fi utilizarea de către Thumper.ai a unui cluster de 32 de Nvidia A100, evidențiază optimizarea puterii de calcul subutilizate pentru rate de implementare mai rapide.
„Oferind o abordare rentabilă, orientată spre dezvoltatori, pentru a accesa o gamă largă de GPU-uri, de la cipuri de centre de date de înaltă performanță până la modele de consum, jucătorii mai mici vor putea accesa același calcul ca și companiile mai consacrate, care au flexibilitate în operațiunile lor. cheltuieli”, a adăugat Greg Osuri.
Privind implicațiile mai largi, domnul Osuri prevede o potențială schimbare de paradigmă în industria tehnologiei. Trecerea către GPU-uri mai puțin puternice și calcularea descentralizată ar putea duce la dezvoltarea de noi aplicații și cazuri de utilizare, extinzându-se dincolo de AI în alte domenii tehnologice.
„Flexibilitatea inerentă a unei rețele distribuite ar putea permite dezvoltatorilor și cercetătorilor independenți să experimenteze cu aplicații complet noi și să deblocheze noi modalități de a dezvolta arhitecturi de aplicații radical deschise”, a spus Greg Osuri de la Akash Network. Metaverse Post. „Acest efect de unda ar putea duce la dezvoltarea unor aplicații și servicii mai descentralizate în diverse industrii, o partajare mai largă a resurselor și cunoștințelor de calcul, „revenirea” cripto si blockchainși integrarea cu tehnologiile existente.”
Declinare a responsabilităţii
În conformitate cu Ghidurile proiectului Trust, vă rugăm să rețineți că informațiile furnizate pe această pagină nu sunt destinate și nu trebuie interpretate ca fiind consiliere juridică, fiscală, investițională, financiară sau orice altă formă de consiliere. Este important să investești doar ceea ce îți poți permite să pierzi și să cauți sfaturi financiare independente dacă ai îndoieli. Pentru informații suplimentare, vă sugerăm să consultați termenii și condițiile, precum și paginile de ajutor și asistență furnizate de emitent sau agent de publicitate. MetaversePost se angajează să raporteze corecte, imparțial, dar condițiile de piață pot fi modificate fără notificare.
Despre autor
Victor este editor/scriitor tehnic la Metaverse Post și acoperă inteligența artificială, cripto, știința datelor, metaversul și securitatea cibernetică în domeniul întreprinderilor. Se mândrește cu o jumătate de deceniu de experiență media și AI lucrând la instituții media cunoscute precum VentureBeat, DatatechVibe și Analytics India Magazine. Fiind mentor media la universități prestigioase, inclusiv Oxford și USC și cu o diplomă de master în știința datelor și analiză, Victor este profund angajat să rămână la curent cu tendințele emergente. El oferă cititorilor cele mai recente și mai perspicace narațiuni din Tech și Web3 peisaj.
Mai multe articole
Victor este editor/scriitor tehnic la Metaverse Post și acoperă inteligența artificială, cripto, știința datelor, metaversul și securitatea cibernetică în domeniul întreprinderilor. Se mândrește cu o jumătate de deceniu de experiență media și AI lucrând la instituții media cunoscute precum VentureBeat, DatatechVibe și Analytics India Magazine. Fiind mentor media la universități prestigioase, inclusiv Oxford și USC și cu o diplomă de master în știința datelor și analiză, Victor este profund angajat să rămână la curent cu tendințele emergente. El oferă cititorilor cele mai recente și mai perspicace narațiuni din Tech și Web3 peisaj.
