Greg Osuri, az Akash Network vezérigazgatója szerint a technológiai ipar 2024-ben a GPU-któl való csökkentett függőség felé fog elmozdulni.
Röviden
Az Overclock Labs és az Akash Network vezérigazgatója, Greg Osuri azt állítja, hogy a kisebb GPU-k alkalmazása 2024-ben átformálja a technológiai környezetet, és feloldja a hullámzási effektusokat.
Mivel a technológiai ipar jelentős szereplői továbbra is uralják a piacot erős GPU-k, jelentős elmozdulás a kevesebb felé erős chipek 2024-re várható. Az alternatívák iránti igény által vezérelt lépés várhatóan átformálja a tájat, lehetővé téve a kisebb cégek és startupok számára, hogy jelentősen hozzájáruljanak a folyamatban lévő AI boom.
A nagy teljesítményű számítástechnika iránti kereslet, különösen a nagy nyelvi modellek betanításához, meghaladta a hagyományos szolgáltatók képességeit, mint pl. AWS, Microsoft Azure és A Google Cloud. A kisebb vállalatok számára kihívást jelent ezeknek a nagy teljesítményű erőforrásoknak a megengedése és lefoglalása, ami az elosztott és engedély nélküli hálózatok iránti növekvő érdeklődéshez vezet.
Beszélgetés vele Metaverse Post - Greg Osuri, az Overclock Labs vezérigazgatója és Akash hálózat, rávilágít az átalakuló trend mögött meghúzódó mozgató tényezőkre és lehetséges következményekre.
Az Akash Network decentralizált felhőplatform a közelmúltban jelentős frissítést jelentett be a Mainnet 8-as felhőbe. Az új frissítés olyan kulcsfontosságú fejlesztéseket vezetett be, amelyek célja az egyszerűsítés. GPU hozzáférés és növelje a telepítési élményt.
Greg Osuri az adatkészlet-követelmények optimalizálását kulcsfontosságú elemnek tekinti a kisebb GPU-k alkalmazása során.
Az alacsony szintű adaptáció (LoRA) kulcsfontosságú technika ebben a váltásban. Ez a stratégiai módosítás a kritikus súlyokra összpontosít, csökkenti a szükséges paraméterek számát, és megőrzi az eredeti, előre betanított tudást a modellben.
„Azok, akik alternatívákat keresnek a GPU-szűkület közepette, előrelépést fognak elérni azáltal, hogy kevésbé intenzív adatkészlet-követelményeket alkalmaznak, olyan hatékonyabb technikákat alkalmaznak, mint a Low-Rank Adaptation (LoRA) a nyelvi modellek betanításához, és párhuzamosan osztják el a munkaterheléseket” – mondta Greg Osuri, az Akash Network munkatársa. Metaverse Post. „Ez magában foglalja az alacsonyabb szintű chipek klasztereinek telepítését, hogy olyan feladatokat hajtsanak végre, amelyek kisebb számú A100-nak és H100s. A felhőalapú számítástechnika új korszaka fog kialakulni, amelyben a hatalom decentralizált, és nem csak kevesek kezében van.”
Azt mondja, hogy a munkaterhelések párhuzamosítása kisebb chipek fürtjei révén egy másik stratégia. A hagyományos GPU-használathoz képest a fürtök jobb skálázhatóságot, költséghatékonyságot és elosztott munkaterhelési képességeket kínálnak. A kihívások közé tartozik azonban az adatátviteli késleltetés, a szinkronizálási problémák, skálázhatósági korlátok és kommunikációs költségek.
„Minél nagyobbak az adatok, annál drágábbak és bonyolultabbak a kommunikációs költségek a nem kolokált gépek között, így valószínűleg hatékonyabb módszerekre/technikákra lesz szükség a drága és kihívást jelentő kommunikációs akadályok leküzdéséhez. A sikeres megvalósításhoz hardver és szoftver kombinációjára van szükség” – mondta Greg Osuri.
Az elosztott és engedély nélküli hálózatok elterjedése kulcsfontosságú tényezővé válik, amely felhatalmazza a szervezeteket arra, hogy kihasználják a kisebb GPU-kban rejlő lehetőségeket és növeljék a chipek általános kihasználtságát.
„Az optimalizálás érdekében a szervezeteknek fontolóra kell venniük a kisebb kötegméreteket, amelyek kevesebb GPU-memóriát igényelnek, az adatok egy részhalmazán kell betanítaniuk a hibakeresést, előre betanított modelleket kell használniuk, mivel ezek kevesebb számítási erőforrást igényelnek, és a képzést több GPU között kell elosztani” – magyarázta Greg Osuri. „Ez lehetővé teszi a kisebb cégek és startupok számára, hogy újítanak, és valóban hozzájáruljanak a mesterséges intelligencia fellendüléséhez anélkül, hogy teljes mértékben a legerősebb GPU-kra támaszkodnának.”
Az elosztott hálózatok megerősíthetik a műszaki tájat
Az Akash Network tagja, Greg Osuri elképzelése szerint a kisebb méretű GPU-k alkalmazása sokszínűbb és versenyképesebb környezet kialakulását segíti elő, enyhítve a technológiai óriásokkal kapcsolatos aggodalmakat. AI táj. Azt mondja, hogy ez a megközelítés költséghatékony, a fejlesztők előtt álló megoldást kínál a GPU-k széles skálájának eléréséhez, lehetővé téve a kisebb szereplők számára, hogy egyenlő feltételek mellett versenyezzenek.
„Folyamatosan jelennek meg az innovatív, decentralizált megoldások, amelyek kezelik a megnövekedett keresletet, biztosítják a méltányos GPU-hozzáférést, valamint elősegítik az innovációt a felhőalapú számítástechnika és az AI modellképzés terén. Azáltal, hogy engedély nélküli hozzáférést biztosítanak a számítási erőforrásokhoz – köztük az Nvidia A100-hoz és a H100-hoz – számos szolgáltatótól, a függetlentől a hiperskálásig, ezek a számítási platformok egyedülállóan alkalmasak a hatékonyság hiányának csökkentésére” – mondta.
A kisebb cégektől és startupoktól azt várják, hogy kihasználják a kisebb GPU-k felé történő elmozdulást, hogy jelentős mértékben hozzájáruljanak a AI domain. Példák, mint például a Thumper.ai által használt 32 Nvidia A100-as fürt, kiemelik az alulkihasznált számítási teljesítmény optimalizálását a gyorsabb telepítési sebesség érdekében.
„Azáltal, hogy költséghatékony, fejlesztőközpontú megközelítést kínálunk a GPU-k széles skálájának eléréséhez, a nagy teljesítményű adatközponti chipektől a fogyasztói modellekig, a kisebb szereplők hozzáférhetnek majd ugyanahhoz a számítástechnikai adathoz, mint a régebbi vállalatok, amelyek rugalmasan működnek. kiadások” – tette hozzá Greg Osuri.
A tágabb vonatkozásokat tekintve Osuri úr potenciális paradigmaváltást lát előre a technológiai iparban. A kevésbé erős GPU-k és a decentralizált számítástechnika felé való elmozdulás új alkalmazások és használati esetek kifejlesztéséhez vezethet, amelyek az AI-n túlmenően más technológiai területekre is kiterjednek.
"Az elosztott hálózatok velejáró rugalmassága lehetővé teheti a független fejlesztők és kutatók számára, hogy teljesen új alkalmazásokkal kísérletezzenek, és új utakat tárjanak fel a radikálisan nyitott alkalmazásarchitektúrák fejlesztésére" - mondta Greg Osuri, az Akash Network munkatársa. Metaverse Post. „Ez a tovagyűrűző hatás decentralizáltabb alkalmazások és szolgáltatások kifejlesztéséhez vezethet az iparágakban, a számítási erőforrások és tudás szélesebb körű megosztásához, a „visszatéréshez” crypto és a blockchainés a meglévő technológiákkal való integráció.”
A felelősség megtagadása
Összhangban a A Trust Project irányelvei, kérjük, vegye figyelembe, hogy az ezen az oldalon közölt információk nem minősülnek jogi, adózási, befektetési, pénzügyi vagy bármilyen más formájú tanácsnak, és nem is értelmezhetők. Fontos, hogy csak annyit fektessen be, amennyit megengedhet magának, hogy elveszítsen, és kérjen független pénzügyi tanácsot, ha kétségei vannak. További információkért javasoljuk, hogy tekintse meg a szerződési feltételeket, valamint a kibocsátó vagy hirdető által biztosított súgó- és támogatási oldalakat. MetaversePost elkötelezett a pontos, elfogulatlan jelentéstétel mellett, de a piaci feltételek előzetes értesítés nélkül változhatnak.
A szerzőről
Victor vezető műszaki szerkesztő/író a cégnél Metaverse Post és a mesterséges intelligencia, a kriptográfia, az adattudomány, a metaverzum és a kiberbiztonság területére terjed ki a vállalati szférán belül. Fél évtizedes média és mesterséges intelligencia tapasztalattal büszkélkedhet olyan jól ismert médiáknál, mint a VentureBeat, a DatatechVibe és az Analytics India Magazine. Mint médiamentor rangos egyetemeken, köztük az Oxfordban és az USC-ben, valamint adattudományi és analitikai mesterfokozattal rendelkezik, Victor mélyen elkötelezett amellett, hogy lépést tartson a feltörekvő trendekkel. Az olvasóknak kínálja a Tech és a legfrissebb és legszembetűnőbb narratívákat Web3 tájkép.
További cikkek
Victor vezető műszaki szerkesztő/író a cégnél Metaverse Post és a mesterséges intelligencia, a kriptográfia, az adattudomány, a metaverzum és a kiberbiztonság területére terjed ki a vállalati szférán belül. Fél évtizedes média és mesterséges intelligencia tapasztalattal büszkélkedhet olyan jól ismert médiáknál, mint a VentureBeat, a DatatechVibe és az Analytics India Magazine. Mint médiamentor rangos egyetemeken, köztük az Oxfordban és az USC-ben, valamint adattudományi és analitikai mesterfokozattal rendelkezik, Victor mélyen elkötelezett amellett, hogy lépést tartson a feltörekvő trendekkel. Az olvasóknak kínálja a Tech és a legfrissebb és legszembetűnőbb narratívákat Web3 tájkép.
