„W 2024 r. branża technologiczna przejdzie w kierunku zmniejszonej zależności od procesorów graficznych” – twierdzi Greg Osuri, dyrektor generalny Akash Network
W skrócie
Dyrektor generalny Overclock Labs i Akash Network, Greg Osuri, twierdzi, że zastosowanie mniejszych procesorów graficznych zmieni krajobraz technologiczny w 2024 roku i odblokuje efekty fali.
Ponieważ główni gracze w branży technologicznej nadal dominują na rynku potężne procesory graficzne, zauważalna zmiana w kierunku mniej potężne chipy przewidywane jest na 2024 r. Oczekuje się, że to posunięcie, spowodowane koniecznością znalezienia alternatyw, zmieni krajobraz, umożliwiając mniejszym firmom i start-upom znaczący wkład w trwający Boom AI.
Zapotrzebowanie na wysokowydajne obliczenia, zwłaszcza do uczenia dużych modeli językowych, przekroczyło możliwości tradycyjnych dostawców, takich jak AWS, Microsoft Azure i Google Cloud. Mniejszym przedsiębiorstwom trudno jest pozwolić sobie na wykorzystanie tych wysokowydajnych zasobów i zarezerwować je, co prowadzi do rosnącego zainteresowania sieciami rozproszonymi i niewymagającymi zezwoleń.
W rozmowie z Metaverse Post — Greg Osuri, dyrektor generalny Overclock Labs i Sieć Akash, rzuciły światło na czynniki napędzające i potencjalne konsekwencje tego przekształceniowego trendu.
Zdecentralizowana platforma chmurowa Akash Network ogłosiła niedawno znaczącą aktualizację do chmury z Mainnet 8. Nowa aktualizacja wprowadziła kluczowe ulepszenia, które mają na celu uproszczenie Dostęp do GPU i podnieś jakość wdrażania.
Greg Osuri uważa optymalizację wymagań dotyczących zestawu danych za kluczowy element wykorzystania słabszych procesorów graficznych.
Adaptacja niskiej rangi (LoRA) jawi się jako kluczowa technika tej zmiany. Ta strategiczna modyfikacja koncentruje się na wagach krytycznych, zmniejsza liczbę potrzebnych parametrów i zachowuje w modelu oryginalną, wstępnie wytrenowaną wiedzę.
„Osoby poszukujące alternatyw w obliczu ograniczonego obciążenia procesora graficznego zrobią postęp, stosując mniej intensywne wymagania dotyczące zestawu danych, wdrażając bardziej wydajne techniki, takie jak adaptacja niskiej rangi (LoRA) do uczenia modeli językowych i dystrybuując obciążenia w sposób równoległy” – powiedział Greg Osuri z Akash Network Metaverse Post. „Wiąże się to z wdrażaniem klastrów chipów niższego poziomu w celu wykonywania zadań równoważnych mniejszej liczbie A100 i H100S. Nadejdzie nowa era przetwarzania w chmurze, w której władza będzie zdecentralizowana, a nie w rękach nielicznych”.
Mówi, że inną strategią jest zrównoleglanie obciążeń poprzez klastry mniejszych układów. W porównaniu z tradycyjnym wykorzystaniem procesora graficznego klastry oferują lepszą skalowalność, opłacalność i możliwości rozproszonego obciążenia. Wyzwania obejmują jednak opóźnienia w przesyłaniu danych, problemy z synchronizacją, granice skalowalności i koszty komunikacji.
„Im większe dane, tym droższe i trudniejsze są koszty komunikacji między niekolokowanymi maszynami, dlatego prawdopodobnie potrzebne będą bardziej wydajne metody/techniki, aby pokonać kosztowne i trudne bariery komunikacyjne. Do pomyślnego wdrożenia potrzebne jest połączenie sprzętu i oprogramowania” – powiedział Greg Osuri.
Rozwój sieci rozproszonych i niewymagających zezwoleń staje się kluczowym czynnikiem umożliwiającym organizacjom wykorzystanie potencjału słabszych procesorów graficznych i zwiększenie ogólnego wykorzystania chipów.
„Aby osiągnąć optymalizację, organizacje powinny rozważyć mniejsze partie, które wymagają mniej pamięci procesora graficznego, trenować na podzbiorze danych do debugowania, wykorzystywać wstępnie wytrenowane modele, ponieważ wymagają mniej zasobów obliczeniowych, oraz rozpowszechniać szkolenia na wielu procesorach graficznych” – wyjaśnił Greg Osuri. „Dzięki temu mniejsze firmy i start-upy mogą wprowadzać innowacje i wnosić realny wkład w rozwój sztucznej inteligencji bez całkowitego polegania na najpotężniejszych procesorach graficznych”.
Sieci rozproszone mogą wzmocnić krajobraz technologiczny
Greg Osuri z Akash Network przewiduje, że wykorzystanie mniejszych procesorów graficznych stworzy bardziej zróżnicowane i konkurencyjne środowisko, łagodząc obawy związane z dominacją gigantów technologicznych na rynku Krajobraz AI. Mówi, że takie podejście zapewnia opłacalne, przeznaczone przede wszystkim dla programistów rozwiązanie umożliwiające dostęp do szerokiej gamy procesorów graficznych, umożliwiając mniejszym graczom konkurowanie na równych zasadach.
„Ciągle pojawiają się innowacyjne, zdecentralizowane rozwiązania, które odpowiadają na wzrost popytu, zapewniają równy dostęp do procesorów graficznych i wspierają innowacje w zakresie przetwarzania w chmurze i szkoleń w zakresie modeli sztucznej inteligencji. Zapewniając bezpozwoleniowy dostęp do zasobów obliczeniowych – w tym Nvidia A100 i H100 – od różnych dostawców, od niezależnych po hiperskalowych, te platformy obliczeniowe mają wyjątkową możliwość łagodzenia nieefektywności” – powiedział.
Oczekuje się, że mniejsze firmy i start-upy wykorzystają przejście na mniejsze procesory graficzne, aby wnieść znaczący wkład w rozwój domena AI. Przykłady, takie jak wykorzystanie przez Thumper.ai klastra 32 procesorów Nvidia A100, podkreślają optymalizację niewykorzystanej mocy obliczeniowej w celu szybszego wdrażania.
„Oferując opłacalne, zorientowane na programistów podejście do dostępu do szerokiej gamy procesorów graficznych, od wysokowydajnych chipów do centrów danych po modele konsumenckie, mniejsi gracze będą mogli uzyskać dostęp do tej samej mocy obliczeniowej, co bardziej ugruntowane firmy, które mają elastyczność w zakresie swoich operacji wydatki” – dodał Greg Osuri.
Patrząc na szersze implikacje, Osuri przewiduje potencjalną zmianę paradygmatu w branży technologicznej. Przejście w kierunku mniej wydajnych procesorów graficznych i zdecentralizowanego przetwarzania może prowadzić do rozwoju nowych aplikacji i przypadków użycia, wykraczających poza sztuczną inteligencję i obejmując inne dziedziny technologiczne.
„Wrodzona elastyczność sieci rozproszonej może umożliwić niezależnym programistom i badaczom eksperymentowanie z zupełnie nowymi aplikacjami i odblokowanie nowych sposobów tworzenia radykalnie otwartych architektur aplikacji” – powiedział Greg Osuri z Akash Network Metaverse Post. „Ten efekt domina może prowadzić do rozwoju bardziej zdecentralizowanych aplikacji i usług w różnych branżach, szerszego udostępniania zasobów obliczeniowych i wiedzy, „powrotu” Crypto oraz blockchainoraz integrację z istniejącymi technologiami.”
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Victor jest redaktorem naczelnym/pisarzem technicznym w firmie Metaverse Post i obejmuje sztuczną inteligencję, kryptografię, analizę danych, metaświat i cyberbezpieczeństwo w sferze przedsiębiorstw. Może pochwalić się półdziesięcioletnim doświadczeniem w mediach i sztucznej inteligencji, pracując w znanych mediach, takich jak VentureBeat, DatatechVibe i Analytics India Magazine. Będąc mentorem ds. mediów na prestiżowych uniwersytetach, w tym w Oksfordzie i USC, oraz posiadając tytuł magistra w dziedzinie nauki o danych i analityki, Victor jest głęboko zaangażowany w bycie na bieżąco z pojawiającymi się trendami. Oferuje czytelnikom najnowsze i najbardziej wnikliwe narracje z branży technologicznej i Web3 krajobraz.
Więcej artykułów
Victor jest redaktorem naczelnym/pisarzem technicznym w firmie Metaverse Post i obejmuje sztuczną inteligencję, kryptografię, analizę danych, metaświat i cyberbezpieczeństwo w sferze przedsiębiorstw. Może pochwalić się półdziesięcioletnim doświadczeniem w mediach i sztucznej inteligencji, pracując w znanych mediach, takich jak VentureBeat, DatatechVibe i Analytics India Magazine. Będąc mentorem ds. mediów na prestiżowych uniwersytetach, w tym w Oksfordzie i USC, oraz posiadając tytuł magistra w dziedzinie nauki o danych i analityki, Victor jest głęboko zaangażowany w bycie na bieżąco z pojawiającymi się trendami. Oferuje czytelnikom najnowsze i najbardziej wnikliwe narracje z branży technologicznej i Web3 krajobraz.
