"L'industria tecnologica si muoverà verso una minore dipendenza dalle GPU nel 2024", afferma Greg Osuri, CEO di Akash Network
In Breve
Il CEO di Overclock Labs e Akash Network, Greg Osuri, afferma che l'adozione di GPU minori rimodellerà il panorama tecnologico nel 2024 e sbloccherà effetti a catena.
Poiché i principali attori del settore tecnologico continuano a dominare il mercato potenti GPU, un notevole spostamento verso meno chip potenti è previsto nel 2024. Si prevede che la mossa, guidata dalla necessità di alternative, rimodellerà il panorama, consentendo alle aziende più piccole e alle startup di contribuire in modo significativo al processo in corso. Boom dell'intelligenza artificiale.
La richiesta di elaborazione ad alte prestazioni, in particolare per l'addestramento di modelli linguistici di grandi dimensioni, ha superato le capacità dei fornitori tradizionali come AWS, Microsoft Azure e Google cloud. Le imprese più piccole trovano difficile permettersi e riservare queste risorse ad alte prestazioni, portando ad un crescente interesse per le reti distribuite e senza autorizzazione.
In una conversazione con Metaverse Post — Greg Osuri, CEO di Overclock Labs e Rete Akash, fanno luce sui fattori trainanti e sulle potenziali implicazioni alla base di questa tendenza trasformativa.
La piattaforma cloud decentralizzata Akash Network ha recentemente annunciato un significativo aggiornamento al cloud con Mainnet 8. Il nuovo aggiornamento ha introdotto miglioramenti chiave che mirano a semplificare Accesso alla GPU ed elevare l'esperienza di distribuzione.
Greg Osuri identifica l'ottimizzazione dei requisiti del set di dati come un elemento chiave nell'adozione di GPU minori.
L’adattamento di basso rango (LoRA) emerge come una tecnica cruciale in questo cambiamento. Questa modifica strategica si concentra sui pesi critici, riduce il numero di parametri necessari e preserva la conoscenza originale pre-addestrata nel modello.
“Chi cerca alternative in mezzo alla compressione della GPU farà progressi utilizzando requisiti di set di dati meno intensivi, implementando tecniche più efficienti come Low-Rank Adaptation (LoRA) per addestrare modelli linguistici e distribuendo i carichi di lavoro in modo parallelo”, ha detto Greg Osuri di Akash Network Metaverse Post. “Ciò comporta l’implementazione di cluster di chip di livello inferiore per svolgere attività equivalenti a un numero inferiore di A100 e H100S. Emergerà una nuova era del cloud computing, in cui il potere sarà decentralizzato e non nelle mani di pochi”.
Dice che parallelizzare i carichi di lavoro attraverso cluster di chip minori è un'altra strategia. Rispetto all'utilizzo tradizionale della GPU, i cluster offrono migliore scalabilità, convenienza e capacità di carico di lavoro distribuito. Le sfide, tuttavia, includono la latenza nel trasferimento dei dati, problemi di sincronizzazione, limiti di scalabilità e costi di comunicazione.
“Più grandi sono i dati, più costosi e difficili saranno i costi di comunicazione tra macchine non collocate, quindi saranno probabilmente necessari metodi e tecniche più efficienti per superare le barriere di comunicazione costose e impegnative. Per un’implementazione di successo è necessaria una combinazione di hardware e software”, ha affermato Greg Osuri.
L’ascesa delle reti distribuite e senza autorizzazione sta emergendo come un fattore abilitante cruciale, consentendo alle organizzazioni di sfruttare il potenziale di GPU minori e aumentare l’utilizzo complessivo dei chip.
"Per ottenere l'ottimizzazione, le organizzazioni dovrebbero prendere in considerazione batch di dimensioni più piccole che richiedono meno memoria della GPU, addestrarsi su un sottoinsieme di dati per il debug, utilizzare modelli preaddestrati poiché richiedono meno risorse computazionali e distribuire l'addestramento su più GPU", ha spiegato Greg Osuri. “Ciò consente alle aziende più piccole e alle startup di innovare e dare un contributo reale al boom dell’intelligenza artificiale senza fare affidamento completo sulle GPU più potenti”.
Le reti distribuite possono rafforzare il panorama tecnologico
Greg Osuri di Akash Network prevede che l’adozione di GPU minori favorirà un ambiente più diversificato e competitivo, mitigando le preoccupazioni legate ai giganti della tecnologia che dominano il mercato. Paesaggio dell'intelligenza artificiale. Afferma che questo approccio fornisce una soluzione conveniente, pensata per gli sviluppatori, per accedere a un'ampia gamma di GPU, consentendo ai player più piccoli di competere su un piano di parità.
“Continuano a emergere soluzioni innovative e decentralizzate, che affrontano l’aumento della domanda, garantiscono un accesso equo alle GPU e promuovono l’innovazione nel cloud computing e nella formazione dei modelli di intelligenza artificiale. Fornendo accesso senza autorizzazione alle risorse di elaborazione – tra cui Nvidia A100 e H100 – da una vasta gamma di fornitori, da quelli indipendenti a quelli iperscalabili, queste piattaforme informatiche sono posizionate in modo unico per mitigare le inefficienze”, ha affermato.
Si prevede che le aziende e le startup più piccole sfrutteranno lo spostamento verso GPU minori per fornire contributi significativi al Dominio dell'AI. Esempi, come l’utilizzo da parte di Thumper.ai di un cluster di 32 Nvidia A100, evidenziano l’ottimizzazione della potenza di calcolo sottoutilizzata per tassi di implementazione più rapidi.
“Offrendo un approccio conveniente e incentrato sugli sviluppatori per accedere a un’ampia gamma di GPU, dai chip per data center ad alte prestazioni ai modelli consumer, gli operatori più piccoli saranno in grado di accedere allo stesso calcolo delle aziende più affermate che hanno flessibilità nelle loro operazioni. spese”, ha aggiunto Greg Osuri.
Considerando le implicazioni più ampie, Osuri prevede un potenziale cambiamento di paradigma nel settore tecnologico. Lo spostamento verso GPU meno potenti e l’elaborazione decentralizzata potrebbe portare allo sviluppo di nuove applicazioni e casi d’uso, estendendosi oltre l’intelligenza artificiale ad altri domini tecnologici.
“La flessibilità intrinseca di una rete distribuita potrebbe consentire a sviluppatori e ricercatori indipendenti di sperimentare applicazioni completamente nuove e sbloccare nuovi modi per sviluppare architetture applicative radicalmente aperte”, ha dichiarato Greg Osuri di Akash Network Metaverse Post. “Questo effetto a catena potrebbe portare allo sviluppo di applicazioni e servizi più decentralizzati tra i settori, a una più ampia condivisione di risorse computazionali e conoscenze, al “ritorno” di crypto e la blockchaine l’integrazione con le tecnologie esistenti”.
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Victor è un redattore/scrittore tecnico responsabile presso Metaverse Post e copre l'intelligenza artificiale, la crittografia, la scienza dei dati, il metaverso e la sicurezza informatica nell'ambito aziendale. Vanta mezzo decennio di esperienza nel campo dei media e dell'intelligenza artificiale lavorando presso noti media come VentureBeat, DatatechVibe e Analytics India Magazine. Essendo un mentore multimediale presso prestigiose università tra cui Oxford e USC e con un master in scienza e analisi dei dati, Victor è profondamente impegnato a rimanere al passo con le tendenze emergenti. Offre ai lettori le narrazioni più recenti e più approfondite del Tech e Web3 paesaggio.
Altri articoli
Victor è un redattore/scrittore tecnico responsabile presso Metaverse Post e copre l'intelligenza artificiale, la crittografia, la scienza dei dati, il metaverso e la sicurezza informatica nell'ambito aziendale. Vanta mezzo decennio di esperienza nel campo dei media e dell'intelligenza artificiale lavorando presso noti media come VentureBeat, DatatechVibe e Analytics India Magazine. Essendo un mentore multimediale presso prestigiose università tra cui Oxford e USC e con un master in scienza e analisi dei dati, Victor è profondamente impegnato a rimanere al passo con le tendenze emergenti. Offre ai lettori le narrazioni più recenti e più approfondite del Tech e Web3 paesaggio.
