‘De technische industrie zal in 2024 richting een verminderde afhankelijkheid van GPU’s evolueren’, zegt Greg Osuri, CEO van Akash Network
In het kort
CEO van Overclock Labs en Akash Network, Greg Osuri, beweert dat het omarmen van kleinere GPU's het technische landschap in 2024 zal hervormen en rimpeleffecten zal ontgrendelen.
Terwijl grote spelers in de technologie-industrie de markt blijven domineren krachtige GPU's, een opmerkelijke verschuiving naar minder krachtige chips wordt verwacht in 2024. Deze stap, gedreven door de noodzaak voor alternatieven, zal naar verwachting het landschap opnieuw vormgeven, waardoor kleinere bedrijven en startups een aanzienlijke bijdrage kunnen leveren aan de voortdurende AI-boom.
De vraag naar krachtige rekenkracht, vooral voor het trainen van grote taalmodellen, heeft de mogelijkheden van traditionele providers zoals AWS, Microsoft Azure en Google Cloud. Kleinere ondernemingen vinden het een uitdaging om deze hoogwaardige bronnen te betalen en te reserveren, wat leidt tot een groeiende belangstelling voor gedistribueerde en toestemmingsloze netwerken.
In een gesprek met Metaverse Post – Greg Osuri, CEO van Overclock Labs en Akash-netwerkwerpen licht op de drijvende factoren en potentiële implicaties achter deze transformatieve trend.
Het gedecentraliseerde cloudplatform Akash Network heeft onlangs een aanzienlijke upgrade naar de cloud aangekondigd met Mainnet 8. De nieuwe upgrade introduceerde belangrijke verbeteringen die tot doel hebben de GPU-toegang en de implementatie-ervaring naar een hoger niveau tillen.
Greg Osuri identificeert het optimaliseren van de vereisten voor datasets als een sleutelelement bij het omarmen van kleinere GPU's.
Low-Rank Adaptation (LoRA) komt naar voren als een cruciale techniek in deze verschuiving. Deze strategische wijziging richt zich op kritische gewichten, vermindert het aantal benodigde parameters en behoudt de oorspronkelijke, vooraf getrainde kennis in het model.
“Degenen die op zoek zijn naar alternatieven te midden van de GPU-crisis zullen vooruitgang boeken door minder intensieve datasetvereisten te gebruiken, efficiëntere technieken zoals Low-Rank Adaptation (LoRA) in te zetten om taalmodellen te trainen en de werklast op een parallelle manier te verdelen”, vertelde Greg Osuri van Akash Network. Metaverse Post. “Dit omvat het inzetten van clusters van chips van een lager niveau om taken uit te voeren die gelijkwaardig zijn aan die van een kleiner aantal A100’s H100S. Er zal een nieuw tijdperk van cloud computing aanbreken, waarin de macht gedecentraliseerd is en niet in de handen van slechts enkelen.”
Hij zegt dat het parallelliseren van werklasten via clusters van kleinere chips een andere strategie is. Vergeleken met traditioneel GPU-gebruik bieden clusters betere schaalbaarheid, kosteneffectiviteit en gedistribueerde werklastmogelijkheden. Uitdagingen zijn echter onder meer de latentie van gegevensoverdracht, synchronisatieproblemen, schaalbaarheidslimieten en communicatiekosten.
“Hoe groter de data, hoe duurder en moeilijker de communicatiekosten tussen niet-gecollocaliseerde machines zijn, dus er zullen waarschijnlijk efficiëntere methoden/technieken nodig zijn om dure en uitdagende communicatiebarrières te overwinnen. Voor een succesvolle implementatie is een combinatie van hardware en software nodig”, aldus Greg Osuri.
De opkomst van gedistribueerde en toestemmingsloze netwerken ontpopt zich als een cruciale factor, die organisaties in staat stelt het potentieel van kleinere GPU's te benutten en het algehele chipgebruik te vergroten.
“Om optimalisatie te bereiken moeten organisaties kleinere batchgroottes overwegen die minder GPU-geheugen vereisen, trainen op een subset van gegevens om fouten te kunnen opsporen, vooraf getrainde modellen gebruiken omdat deze minder computerbronnen vereisen, en de training over meerdere GPU’s verdelen”, legt Greg Osuri uit. “Hierdoor kunnen kleinere bedrijven en startups innoveren en een echte bijdrage leveren aan de AI-boom zonder volledig afhankelijk te zijn van de krachtigste GPU’s.”
Gedistribueerde netwerken kunnen het technologielandschap versterken
Greg Osuri van Akash Network stelt zich voor dat het omarmen van kleinere GPU’s een meer diverse en competitieve omgeving zal bevorderen, waardoor de zorgen over technologiereuzen die de markt domineren zullen worden weggenomen. AI-landschap. Hij zegt dat deze aanpak een kosteneffectieve, op de ontwikkelaar gerichte oplossing biedt voor toegang tot een breed scala aan GPU's, waardoor kleinere spelers op gelijke voet kunnen concurreren.
“Er blijven innovatieve, gedecentraliseerde oplossingen opkomen die de stijgende vraag aanpakken, eerlijke GPU-toegang garanderen en innovatie op het gebied van cloud computing en AI-modeltraining bevorderen. Door toestemmingsloze toegang te geven tot computerbronnen – waaronder Nvidia A100s en H100s – van een reeks providers, van onafhankelijk tot hyperscale, bevinden deze computerplatforms zich in een unieke positie om inefficiënties te verminderen”, zegt hij.
Van kleinere bedrijven en startups wordt verwacht dat ze de verschuiving naar kleinere GPU’s zullen benutten om een betekenisvolle bijdrage te leveren aan de economie AI-domein. Voorbeelden, zoals Thumper.ai’s gebruik van een cluster van 32 Nvidia A100’s, benadrukken de optimalisatie van onderbenutte rekenkracht voor snellere implementatiesnelheden.
“Door een kosteneffectieve, ontwikkelaarsgerichte aanpak aan te bieden voor toegang tot een breed scala aan GPU’s, van krachtige datacenterchips tot consumentenmodellen, zullen kleinere spelers toegang kunnen krijgen tot dezelfde rekenkracht als meer gevestigde bedrijven die flexibiliteit hebben in hun operationele uitgaven,” voegde Greg Osuri eraan toe.
Kijkend naar de bredere implicaties, voorziet de heer Osuri een potentiële paradigmaverschuiving in de technologie-industrie. De verschuiving naar minder krachtige GPU's en gedecentraliseerd computergebruik zou kunnen leiden tot de ontwikkeling van nieuwe toepassingen en gebruiksscenario's, die verder reiken dan AI en ook andere technologische domeinen bestrijken.
“De inherente flexibiliteit van een gedistribueerd netwerk zou onafhankelijke ontwikkelaars en onderzoekers in staat kunnen stellen om met geheel nieuwe applicaties te experimenteren en nieuwe manieren te ontsluiten om radicaal open applicatie-architecturen te ontwikkelen”, vertelde Greg Osuri van Akash Network. Metaverse Post. “Dit rimpeleffect zou kunnen leiden tot de ontwikkeling van meer gedecentraliseerde toepassingen en diensten in verschillende sectoren, een bredere uitwisseling van computerbronnen en kennis, de ‘comeback’ van crypto en blockchainen integratie met bestaande technologieën.”
Disclaimer
In lijn met de Richtlijnen voor vertrouwensprojectenHoud er rekening mee dat de informatie op deze pagina niet bedoeld is en niet mag worden geïnterpreteerd als juridisch, fiscaal, beleggings-, financieel of enige andere vorm van advies. Het is belangrijk om alleen te beleggen wat u zich kunt veroorloven te verliezen en onafhankelijk financieel advies in te winnen als u twijfels heeft. Voor meer informatie raden wij u aan de algemene voorwaarden en de hulp- en ondersteuningspagina's van de uitgever of adverteerder te raadplegen. MetaversePost streeft naar nauwkeurige, onpartijdige berichtgeving, maar de marktomstandigheden kunnen zonder voorafgaande kennisgeving worden gewijzigd.
Over de auteur
Victor is Managing Tech Editor/Writer bij Metaverse Post en omvat kunstmatige intelligentie, crypto, datawetenschap, metaverse en cyberbeveiliging binnen het ondernemingsdomein. Hij kan bogen op een half decennium aan media- en AI-ervaring bij bekende mediakanalen zoals VentureBeat, DatatechVibe en Analytics India Magazine. Als mediamentor aan prestigieuze universiteiten, waaronder Oxford en USC, en met een masterdiploma in data science en analytics, is Victor zeer toegewijd om op de hoogte te blijven van opkomende trends. Hij biedt lezers de nieuwste en meest inzichtelijke verhalen uit de Tech- en Web3 landschap.
Meer artikelen
Victor is Managing Tech Editor/Writer bij Metaverse Post en omvat kunstmatige intelligentie, crypto, datawetenschap, metaverse en cyberbeveiliging binnen het ondernemingsdomein. Hij kan bogen op een half decennium aan media- en AI-ervaring bij bekende mediakanalen zoals VentureBeat, DatatechVibe en Analytics India Magazine. Als mediamentor aan prestigieuze universiteiten, waaronder Oxford en USC, en met een masterdiploma in data science en analytics, is Victor zeer toegewijd om op de hoogte te blijven van opkomende trends. Hij biedt lezers de nieuwste en meest inzichtelijke verhalen uit de Tech- en Web3 landschap.
