„Technický průmysl se v roce 2024 posune směrem k menší závislosti na GPU,“ tvrdí Greg Osuri, generální ředitel společnosti Akash Network.
Stručně
Generální ředitel Overclock Labs a Akash Network, Greg Osuri tvrdí, že přijetí menších GPU změní v roce 2024 technologické prostředí a odemkne dominové efekty.
Jako hlavní hráči v technologickém průmyslu nadále dominují trhu s výkonné GPU, výrazný posun směrem k méně výkonné čipy se očekává v roce 2024. Očekává se, že tento krok, vedený potřebou alternativ, přebuduje krajinu a umožní menším společnostem a startupům významně přispět k probíhající AI boom.
Poptávka po vysoce výkonných výpočtech, zejména pro trénování velkých jazykových modelů, překonala možnosti tradičních poskytovatelů, jako je např. AWS, Microsoft Azure a Google Cloud. Pro menší podniky je obtížné si dovolit a rezervovat tyto vysoce výkonné zdroje, což vede k rostoucímu zájmu o distribuované sítě bez povolení.
V rozhovoru s Metaverse Post — Greg Osuri, generální ředitel společnosti Overclock Labs and Síť Akash, osvětlily hnací faktory a potenciální důsledky tohoto transformačního trendu.
Decentralizovaná cloudová platforma Akash Network nedávno oznámila významný upgrade na cloud s Mainnet 8. Nový upgrade přinesl klíčová vylepšení, která mají za cíl zjednodušit Přístup GPU a zlepšit zážitek z nasazení.
Greg Osuri identifikuje optimalizaci požadavků na datové sady jako klíčový prvek při přijímání menších GPU.
Adaptace nízkého hodnocení (LoRA) se v tomto posunu ukazuje jako klíčová technika. Tato strategická úprava se zaměřuje na kritické váhy, snižuje počet potřebných parametrů a zachovává původní předtrénované znalosti v modelu.
„Ti, kteří hledají alternativy uprostřed útlumu GPU, udělají pokrok tím, že budou používat méně náročné požadavky na datové sady, nasadí efektivnější techniky, jako je Low-Rank Adaptation (LoRA) pro trénování jazykových modelů, a distribuují pracovní zátěž paralelním způsobem,“ řekl Greg Osuri z Akash Network. Metaverse Post. „To zahrnuje nasazení klastrů čipů nižších vrstev k plnění úkolů ekvivalentních menšímu počtu A100 a H100s. Objeví se nová éra cloud computingu, ve které bude moc decentralizována a nebude v rukou jen několika.“
Říká, že paralelizace pracovních zátěží prostřednictvím shluků menších čipů je další strategií. Ve srovnání s tradičním využitím GPU nabízejí clustery lepší škálovatelnost, nákladovou efektivitu a možnosti distribuované pracovní zátěže. Výzvy však zahrnují latenci přenosu dat, problémy se synchronizací, limity škálovatelnosti a náklady na komunikaci.
„Čím větší jsou data, tím dražší a obtížnější jsou náklady na komunikaci mezi nesouvisejícími stroji, takže k překonání nákladných a náročných komunikačních bariér bude pravděpodobně zapotřebí účinnějších metod/technik. K úspěšné implementaci je zapotřebí kombinace hardwaru a softwaru,“ řekl Greg Osuri.
Vzestup distribuovaných sítí a sítí bez povolení se ukazuje jako zásadní faktor umožňující organizacím využít potenciál menších GPU a zvýšit celkové využití čipů.
„Pro dosažení optimalizace by organizace měly zvážit menší velikosti dávek, které vyžadují méně paměti GPU, trénovat na podmnožinu dat k ladění, využívat předem trénované modely, protože vyžadují méně výpočetních zdrojů, a distribuovat školení na více GPU,“ vysvětlil Greg Osuri. "To umožňuje menším společnostem a startupům inovovat a skutečně přispívat k rozmachu umělé inteligence, aniž by se zcela spoléhaly na nejvýkonnější GPU."
Distribuované sítě mohou posílit technologickou krajinu
Greg Osuri z Akash Network si představuje, že přijetí menších GPU podpoří rozmanitější a konkurenceschopnější prostředí a zmírní obavy související s technologickými giganty, kteří dominují AI krajina. Říká, že tento přístup poskytuje nákladově efektivní, vývojářské řešení pro přístup k široké škále GPU, což umožňuje menším hráčům soutěžit na stejné úrovni.
„Inovativní, decentralizovaná řešení se neustále objevují, řeší nárůst poptávky, zajišťují spravedlivý přístup k GPU a podporují inovace v oblasti cloud computingu a školení modelů umělé inteligence. Poskytnutím přístupu bez oprávnění k výpočetním zdrojům – včetně Nvidia A100 a H100 – od řady poskytovatelů, od nezávislých až po hyperškálové, mají tyto výpočetní platformy jedinečnou pozici ke zmírnění neefektivity,“ řekl.
Očekává se, že menší společnosti a startupy využijí posun směrem k menším GPU, aby k tomu smysluplně přispěly doména AI. Příklady, jako je využití clusteru 32 Nvidia A100 společností Thumper.ai, zdůrazňují optimalizaci nevyužitého výpočetního výkonu pro rychlejší nasazení.
„Nabídkou cenově efektivního přístupu k přístupu k široké škále GPU, od vysoce výkonných čipů datových center až po spotřebitelské modely, primárně pro vývojáře, budou mít menší hráči přístup ke stejnému výpočetnímu výkonu jako zavedenější společnosti, které mají flexibilitu ve svém provozu. výdaje,“ dodal Greg Osuri.
Při pohledu na širší důsledky pan Osuri předvídá potenciální změnu paradigmatu v technologickém průmyslu. Posun směrem k méně výkonným GPU a decentralizovaným počítačům by mohl vést k vývoji nových aplikací a případů použití, které přesahují AI do jiných technologických oblastí.
„Inherentní flexibilita distribuované sítě by mohla umožnit nezávislým vývojářům a výzkumníkům experimentovat se zcela novými aplikacemi a odemknout nové způsoby vývoje radikálně otevřených architektur aplikací,“ řekl Greg Osuri z Akash Network. Metaverse Post. „Tento dominový efekt by mohl vést k rozvoji decentralizovanějších aplikací a služeb napříč průmyslovými odvětvími, širšímu sdílení výpočetních zdrojů a znalostí, „návratu“ Šifrovací a blockchaina integrace se stávajícími technologiemi.“
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Victor je vedoucím technickým redaktorem/spisovatelem ve společnosti Metaverse Post a pokrývá umělou inteligenci, krypto, datovou vědu, metaverse a kybernetickou bezpečnost v rámci podnikové sféry. Může se pochlubit půl desetiletími zkušeností s médii a umělou inteligencí ve známých médiích, jako jsou VentureBeat, DatatechVibe a Analytics India Magazine. Victor je mediálním mentorem na prestižních univerzitách včetně Oxfordu a USC a s magisterským titulem v oboru datové vědy a analytiky je hluboce odhodlán držet krok s novými trendy. Nabízí čtenářům nejnovější a nejpozoruhodnější příběhy z Tech and Web3 krajina.
Další články
Victor je vedoucím technickým redaktorem/spisovatelem ve společnosti Metaverse Post a pokrývá umělou inteligenci, krypto, datovou vědu, metaverse a kybernetickou bezpečnost v rámci podnikové sféry. Může se pochlubit půl desetiletími zkušeností s médii a umělou inteligencí ve známých médiích, jako jsou VentureBeat, DatatechVibe a Analytics India Magazine. Victor je mediálním mentorem na prestižních univerzitách včetně Oxfordu a USC a s magisterským titulem v oboru datové vědy a analytiky je hluboce odhodlán držet krok s novými trendy. Nabízí čtenářům nejnovější a nejpozoruhodnější příběhy z Tech and Web3 krajina.
