„Технологичната индустрия ще се насочи към намалена зависимост от GPU през 2024 г.“, твърди Грег Осури, главен изпълнителен директор на Akash Network
Накратко
Главният изпълнителен директор на Overclock Labs и Akash Network, Грег Осури твърди, че възприемането на по-малки графични процесори ще преоформи технологичния пейзаж през 2024 г. и ще отключи пулсационни ефекти.
Тъй като основните играчи в технологичната индустрия продължават да доминират на пазара с мощни графични процесори, забележимо преминаване към по-малко мощни чипове се очаква през 2024 г. Този ход, воден от необходимостта от алтернативи, се очаква да промени пейзажа, позволявайки на по-малките компании и стартиращи фирми да допринесат значително за продължаващото AI бум.
Търсенето на високопроизводителни изчисления, особено за обучение на големи езикови модели, надхвърли възможностите на традиционните доставчици като AWS, Microsoft Azure и Google Cloud. За по-малките предприятия е трудно да си позволят и резервират тези високопроизводителни ресурси, което води до нарастващ интерес към разпределени мрежи и мрежи без разрешения.
В разговор с Metaverse Post — Грег Осури, главен изпълнителен директор на Overclock Labs и Мрежа Akash, хвърлят светлина върху движещите фактори и потенциалните последици зад тази трансформираща тенденция.
Децентрализираната облачна платформа Akash Network наскоро обяви значителна надстройка до облака с Mainnet 8. Новата надстройка въведе ключови подобрения, които имат за цел да опростят GPU достъп и издигнете изживяването при внедряване.
Грег Осури определя оптимизирането на изискванията за набор от данни като ключов елемент при възприемането на по-малки GPU.
Адаптацията от нисък ранг (LoRA) се очертава като решаваща техника в тази промяна. Тази стратегическа модификация се фокусира върху критичните тегла, намалява броя на необходимите параметри и запазва първоначалните предварително обучени знания в модела.
„Тези, които търсят алтернативи сред свиването на графичния процесор, ще постигнат напредък, като използват по-малко интензивни изисквания за набор от данни, внедряват по-ефективни техники като адаптация от нисък ранг (LoRA) за обучение на езикови модели и разпределят натоварванията по паралелен начин“, каза Грег Осури от Akash Network Metaverse Post. „Това включва внедряване на клъстери от чипове от по-ниско ниво за изпълнение на задачи, еквивалентни на по-малък брой A100 и H100с. Ще се появи нова ера на облачните изчисления, в която властта е децентрализирана, а не в ръцете на малцина.“
Той казва, че паралелизиране на работните натоварвания чрез клъстери от по-малки чипове е друга стратегия. В сравнение с традиционното използване на GPU, клъстерите предлагат по-добра скалируемост, рентабилност и възможности за разпределено работно натоварване. Предизвикателствата обаче включват забавяне на трансфера на данни, проблеми със синхронизирането, граници на мащабируемост и разходи за комуникация.
„Колкото по-големи са данните, толкова по-скъпи и трудни са разходите за комуникация между неколокирани машини, така че вероятно ще са необходими по-ефективни методи/техники за преодоляване на скъпите и предизвикателни комуникационни бариери. Необходима е комбинация от хардуер и софтуер за успешно внедряване“, каза Грег Осури.
Възходът на разпределените мрежи без разрешения се очертава като решаващ фактор, който дава възможност на организациите да използват потенциала на по-малките графични процесори и да увеличат общото използване на чипове.
„За да постигнат оптимизация, организациите трябва да обмислят по-малки размери на партиди, които изискват по-малко GPU памет, да обучават върху подмножество от данни за отстраняване на грешки, да използват предварително обучени модели, тъй като те изискват по-малко изчислителни ресурси, и да разпределят обучение между множество GPU“, обясни Грег Осури. „Това позволява на по-малки компании и стартиращи фирми да правят иновации и да дават реален принос за бума на AI, без да разчитат изцяло на най-мощните графични процесори.“
Разпределените мрежи могат да подпомогнат технологичния пейзаж
Грег Осури от Akash Network предвижда, че възприемането на по-малко графични процесори ще насърчи по-разнообразна и конкурентна среда, смекчавайки опасенията, свързани с доминирането на технологичните гиганти AI пейзаж. Той казва, че този подход осигурява рентабилно, първо за разработчиците решение за достъп до широк набор от графични процесори, което позволява на по-малките играчи да се конкурират на равни начала.
„Продължават да се появяват иновативни, децентрализирани решения, които се справят с нарастващото търсене, осигуряват справедлив достъп до GPU и насърчават иновациите в облачните изчисления и обучението за AI модели. Предоставяйки достъп без разрешение до изчислителни ресурси – включително Nvidia A100s и H100s – от набор от доставчици, от независими до хипермащабни, тези изчислителни платформи са уникално позиционирани да смекчат неефективността“, каза той.
Очаква се по-малките компании и стартиращи фирми да се възползват от прехода към по-малко графични процесори, за да направят значим принос към AI домейн. Примери, като използването на клъстер от 32 Nvidia A100 от Thumper.ai, подчертават оптимизирането на недостатъчно използваната изчислителна мощност за по-бързи темпове на внедряване.
„Като предлага рентабилен, ориентиран към разработчиците подход за достъп до широк набор от графични процесори, от високопроизводителни чипове за центрове за данни до потребителски модели, по-малките играчи ще могат да имат достъп до същия компютър като по-утвърдените компании, които имат гъвкавост в своята работа разходи“, добави Грег Осури.
Разглеждайки по-широките последици, г-н Осури предвижда потенциална промяна на парадигмата в технологичната индустрия. Преминаването към по-малко мощни графични процесори и децентрализирано изчисление може да доведе до разработването на нови приложения и случаи на употреба, разширяващи се отвъд AI в други технологични области.
„Присъщата гъвкавост на разпределената мрежа може да позволи на независими разработчици и изследователи да експериментират с изцяло нови приложения и да отключат нови начини за разработване на радикално отворени архитектури на приложения“, каза Грег Осури от Akash Network Metaverse Post. „Този ефект на пулсации може да доведе до разработването на по-децентрализирани приложения и услуги в индустриите, по-широко споделяне на изчислителни ресурси и знания, „завръщането“ на крипто и blockchainи интеграция със съществуващи технологии.“
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Виктор е управляващ технически редактор/писател в Metaverse Post и обхваща изкуствен интелект, крипто, наука за данни, метавселена и киберсигурност в рамките на корпоративната сфера. Той може да се похвали с половин десетилетие опит в медиите и AI, работейки в известни медии като VentureBeat, DatatechVibe и Analytics India Magazine. Като медиен ментор в престижни университети, включително Оксфорд и USC, и с магистърска степен по наука за данни и анализи, Виктор е дълбоко ангажиран да бъде в крак с нововъзникващите тенденции. Той предлага на читателите най-новите и най-проницателни разкази от Tech and Web3 пейзаж.
Още статии
Виктор е управляващ технически редактор/писател в Metaverse Post и обхваща изкуствен интелект, крипто, наука за данни, метавселена и киберсигурност в рамките на корпоративната сфера. Той може да се похвали с половин десетилетие опит в медиите и AI, работейки в известни медии като VentureBeat, DatatechVibe и Analytics India Magazine. Като медиен ментор в престижни университети, включително Оксфорд и USC, и с магистърска степен по наука за данни и анализи, Виктор е дълбоко ангажиран да бъде в крак с нововъзникващите тенденции. Той предлага на читателите най-новите и най-проницателни разкази от Tech and Web3 пейзаж.
