„Техничка индустрија ће се кретати ка смањеном ослањању на ГПУ 2024. године“, тврди Грег Осури, извршни директор Акасх Нетворк-а
Укратко
Извршни директор Оверцлоцк Лабс-а и Акасх Нетворк-а, Грег Осури тврди да ће прихватање мањих ГПУ-а преобликовати технолошки пејзаж 2024. године и откључати ефекте таласања.
Како главни играчи у технолошкој индустрији настављају да доминирају тржиштем моћни ГПУ-ови, приметан помак ка мањем моћни чипови очекује се 2024. Тај потез, вођен потребом за алтернативама, очекује се да ће преобликовати пејзаж, омогућавајући мањим компанијама и стартапима да значајно допринесу текућем АИ бум.
Потражња за рачунаром високих перформанси, посебно за обуку великих језичких модела, превазишла је могућности традиционалних провајдера као што су АВС, Мицрософт Азуре и Гоогле Цлоуд. Мањим предузећима је тешко приуштити и резервисати ове ресурсе високих перформанси, што доводи до све већег интересовања за дистрибуиране мреже без дозволе.
У разговору са Metaverse Post — Грег Осури, извршни директор Оверцлоцк Лабс и Акасх Нетворк, баци светло на покретачке факторе и потенцијалне импликације иза овог трансформативног тренда.
Децентрализована клауд платформа Акасх Нетворк је недавно најавила значајну надоградњу на облак са Маиннет 8. Нова надоградња је увела кључна побољшања која имају за циљ да поједноставе Приступ ГПУ-у и побољшати искуство примене.
Грег Осури идентификује оптимизацију захтева за скуп података као кључни елемент у прихватању мањих ГПУ-ова.
Адаптација ниског ранга (ЛоРА) се појављује као кључна техника у овој промени. Ова стратешка модификација се фокусира на критичне тежине, смањује број потребних параметара и чува оригинално претходно обучено знање у моделу.
„Они који траже алтернативе усред ГПУ-а ће напредовати коришћењем мање интензивних захтева за скупом података, применом ефикаснијих техника попут адаптације ниског ранга (ЛоРА) за обуку језичких модела и дистрибуције оптерећења на паралелан начин“, рекао је Грег Осури из Акасх Нетворк-а. Metaverse Post. „Ово укључује распоређивање кластера чипова нижег нивоа за постизање задатака који су еквивалентни мањем броју А100 и ХКСНУМКСс. Појавиће се нова ера рачунарства у облаку, у којој је моћ децентрализована, а не у рукама само неколицине.”
Он каже да је паралелна оптерећења кроз кластере мањих чипова друга стратегија. У поређењу са традиционалном употребом ГПУ-а, кластери нуде бољу скалабилност, економичност и могућности дистрибуираног радног оптерећења. Изазови, међутим, укључују кашњење преноса података, проблеме са синхронизацијом, границе скалабилности и трошкови комуникације.
„Што су подаци већи, то су скупљи и тежи трошкови комуникације између машина које нису колокиране, тако да ће вероватно бити потребне ефикасније методе/технике за превазилажење скупих и изазовних комуникацијских баријера. За успешну имплементацију потребна је комбинација хардвера и софтвера“, рекао је Грег Осури.
Пораст дистрибуираних мрежа без дозволе појављује се као кључни фактор који омогућава организацијама да искористе потенцијал мање ГПУ-а и повећају укупну искоришћеност чипова.
„Да би се постигла оптимизација, организације би требало да размотре мање величине серија које захтевају мање меморије ГПУ-а, тренирају подскуп података за отклањање грешака, користе унапред обучене моделе јер захтевају мање рачунарских ресурса и дистрибуирају обуку на више ГПУ-а“, објаснио је Грег Осури. „Ово омогућава мањим компанијама и стартапима да иновирају и дају стварни допринос буму вештачке интелигенције без потпуног ослањања на најмоћније ГПУ-ове.“
Дистрибуиране мреже могу ојачати технолошки пејзаж
Грег Осури из компаније Акасх Нетворк предвиђа да ће прихватање мањих ГПУ-а подстаћи разноврсније и конкурентније окружење, ублажавајући забринутост у вези са технолошким гигантима који доминирају АИ пејзаж. Он каже да овај приступ пружа исплативо решење које је прво за програмере за приступ широком спектру ГПУ-а, омогућавајући мањим играчима да се такмиче на равноправној основи.
„Иновативна, децентрализована решења настављају да се појављују, решавајући нагли пораст потражње, обезбеђујући једнак приступ ГПУ-у и подстичући иновације у рачунарству у облаку и обуци за АИ моделе. Дајући приступ рачунарским ресурсима без дозволе – укључујући Нвидиа А100с и Х100с – од низа провајдера, од независних до хиперскаларних, ове рачунарске платформе имају јединствену позицију да ублаже неефикасност“, рекао је он.
Очекује се да ће мање компаније и стартупи искористити прелазак на мање ГПУ-ове како би дали значајан допринос АИ домен. Примери, као што је Тхумпер.аи коришћење кластера од 32 Нвидиа А100, истичу оптимизацију недовољно искоришћене рачунарске снаге за бржу стопу примене.
„Нудећи исплатив приступ који је на првом месту за програмере приступу широком спектру ГПУ-а, од чипова центара података високих перформанси до потрошачких модела, мањи играчи ће моћи да приступе истом рачунару као и етаблираније компаније које имају флексибилност у свом оперативном раду. расходи“, додао је Грег Осури.
Гледајући шире импликације, г. Осури предвиђа потенцијалну промену парадигме у технолошкој индустрији. Померање ка мање моћним ГПУ-има и децентрализованом рачунарству могло би да доведе до развоја нових апликација и случајева коришћења, ширећи се изван АИ у друге технолошке домене.
„Инхерентна флексибилност дистрибуиране мреже могла би омогућити независним програмерима и истраживачима да експериментишу са потпуно новим апликацијама и откључају нове начине за развој радикално отворених архитектура апликација“, рекао је Грег Осури из Акасх Нетворк-а. Metaverse Post. „Овај таласни ефекат могао би да доведе до развоја децентрализованијих апликација и услуга у свим индустријама, шире размене рачунарских ресурса и знања, „повратка“ крипто и блоцкцхаини интеграцију са постојећим технологијама.”
Одрицање од одговорности
У складу са Смернице пројекта Труст, имајте на уму да информације дате на овој страници нису намењене и не треба да се тумаче као правни, порески, инвестициони, финансијски или било који други облик савета. Важно је да инвестирате само оно што можете приуштити да изгубите и да тражите независан финансијски савет ако сумњате. За додатне информације, предлажемо да погледате одредбе и услове, као и странице помоћи и подршке које пружа издавач или оглашивач. MetaversePost је посвећен тачном, непристрасном извештавању, али тржишни услови су подложни променама без претходне најаве.
О аутору
Виктор је главни технички уредник/писац у Metaverse Post и покрива вештачку интелигенцију, крипто, науку о подацима, метаверзум и сајбер безбедност у домену предузећа. Има пола деценије искуства у медијима и вештачкој интелигенцији радећи у познатим медијским кућама као што су ВентуреБеат, ДататецхВибе и Аналитицс Индиа Магазине. Будући да је медијски ментор на престижним универзитетима, укључујући Оксфорд и УСЦ, и са магистарском дипломом из науке о подацима и аналитике, Виктор је дубоко посвећен томе да буде у току са новим трендовима. Он читаоцима нуди најновије и најпроницљивије приче из Тецх анд Web3 пејзаж.
više чланака
Виктор је главни технички уредник/писац у Metaverse Post и покрива вештачку интелигенцију, крипто, науку о подацима, метаверзум и сајбер безбедност у домену предузећа. Има пола деценије искуства у медијима и вештачкој интелигенцији радећи у познатим медијским кућама као што су ВентуреБеат, ДататецхВибе и Аналитицс Индиа Магазине. Будући да је медијски ментор на престижним универзитетима, укључујући Оксфорд и УСЦ, и са магистарском дипломом из науке о подацима и аналитике, Виктор је дубоко посвећен томе да буде у току са новим трендовима. Он читаоцима нуди најновије и најпроницљивије приче из Тецх анд Web3 пејзаж.
