Грег Осурі, генеральний директор Akash Network, стверджує, що у 2024 році технологічна індустрія буде рухатися до зменшення залежності від графічних процесорів.
Коротко
Генеральний директор Overclock Labs і Akash Network Грег Осурі стверджує, що використання менших графічних процесорів змінить технологічний ландшафт у 2024 році та розблокує ефект хвилі.
Оскільки основні гравці технологічної галузі продовжують домінувати на ринку потужні графічні процесори, помітний зсув у бік меншого потужні мікросхеми очікується в 2024 році. Очікується, що цей крок, зумовлений необхідністю альтернатив, змінить ландшафт, дозволяючи невеликим компаніям і стартапам робити значний внесок у поточну AI бум.
Попит на високопродуктивні обчислення, особливо для навчання великих мовних моделей, перевершив можливості традиційних постачальників, таких як AWS, Microsoft Azure і Google Cloud. Меншим підприємствам важко дозволити собі та зарезервувати ці високопродуктивні ресурси, що призводить до зростання інтересу до розподілених мереж без дозволу.
У розмові с Metaverse Post — Грег Осурі, генеральний директор Overclock Labs і Мережа Akash, проливають світло на рушійні фактори та потенційні наслідки цієї трансформаційної тенденції.
Децентралізована хмарна платформа Akash Network нещодавно оголосила про значне оновлення до хмари за допомогою Mainnet 8. Нове оновлення запровадило ключові вдосконалення, спрямовані на спрощення Доступ до GPU і покращити досвід розгортання.
Грег Осурі визначає оптимізацію вимог до набору даних як ключовий елемент у застосуванні менших GPU.
Адаптація низького рангу (LoRA) стає вирішальною технікою в цій зміні. Ця стратегічна модифікація зосереджена на критичних вагових коефіцієнтах, зменшує кількість необхідних параметрів і зберігає оригінальні попередньо навчені знання в моделі.
«Ті, хто шукає альтернативи в умовах обмеження графічного процесора, досягнуть прогресу, використовуючи менш інтенсивні вимоги до набору даних, розгортаючи більш ефективні методи, такі як адаптація низького рівня (LoRA) для навчання мовних моделей, і розподіляючи навантаження паралельно», — сказав Грег Осурі з Akash Network. Metaverse Post. «Це передбачає розгортання кластерів чіпів нижчого рівня для виконання завдань, еквівалентних меншій кількості A100 і H100с. Настане нова ера хмарних обчислень, у якій влада буде децентралізованою, а не в руках кількох людей».
Він каже, що розпаралелювання робочих навантажень через кластери менших чіпів є іншою стратегією. У порівнянні з традиційним використанням GPU, кластери пропонують кращу масштабованість, економічну ефективність і можливості розподіленого робочого навантаження. Проблеми, однак, включають затримку передавання даних, проблеми синхронізації, межі масштабованості і витрати на зв'язок.
«Чим більше даних, тим дорожчими та складнішими є витрати на зв’язок між нерозміщеними машинами, тому, ймовірно, знадобляться ефективніші методи/техніки, щоб подолати дорогі та складні комунікаційні бар’єри. Для успішного впровадження необхідна комбінація апаратного та програмного забезпечення», — сказав Грег Осурі.
Зростання розподілених мереж без дозволу стає вирішальним фактором, що дає можливість організаціям використовувати потенціал менших графічних процесорів і підвищувати загальне використання мікросхем.
«Щоб досягти оптимізації, організаціям слід розглянути менші розміри пакетів, які потребують менше пам’яті графічного процесора, навчатися на підмножині даних для налагодження, використовувати попередньо навчені моделі, оскільки вони вимагають менше обчислювальних ресурсів, і розподіляти навчання між кількома графічним процесором», — пояснив Грег Осурі. «Це дозволяє невеликим компаніям і стартапам впроваджувати інновації та робити реальний внесок у розвиток штучного інтелекту без повної залежності від найпотужніших графічних процесорів».
Розподілені мережі можуть зміцнити технологічний ландшафт
Грег Осурі з Akash Network передбачає, що застосування менших графічних процесорів сприятиме більш різноманітному та конкурентоспроможному середовищу, пом’якшуючи занепокоєння, пов’язані з домінуванням технологічних гігантів. AI пейзаж. Він каже, що цей підхід забезпечує економічно ефективне рішення для розробників для доступу до широкого спектру графічних процесорів, що дозволяє невеликим гравцям конкурувати на рівних.
«Продовжують з’являтися інноваційні децентралізовані рішення, які відповідають за різке зростання попиту, забезпечують справедливий доступ до графічного процесора та сприяють інноваціям у хмарних обчисленнях і моделях ШІ. Надаючи доступ без дозволу до обчислювальних ресурсів, включаючи Nvidia A100s і H100s, від низки постачальників, від незалежних до гіпермасштабованих, ці обчислювальні платформи мають унікальне положення для пом’якшення неефективності», – сказав він.
Очікується, що менші компанії та стартапи скористаються переходом на менші графічні процесори, щоб зробити вагомий внесок у Домен ШІ. Приклади, такі як використання Thumper.ai кластера з 32 Nvidia A100, підкреслюють оптимізацію недовикористаної обчислювальної потужності для швидшого розгортання.
«Пропонуючи економічно ефективний, орієнтований на розробника підхід до доступу до широкого діапазону графічних процесорів, від високопродуктивних чіпів для центрів обробки даних до споживчих моделей, невеликі гравці зможуть отримати доступ до тих самих обчислювальних ресурсів, що й більш відомі компанії, які мають гнучкість у своїй операційній діяльності. витрат», – додав Грег Осурі.
Розглядаючи ширші наслідки, пан Осурі передбачає потенційну зміну парадигми в індустрії технологій. Перехід до менш потужних графічних процесорів і децентралізованих обчислень може призвести до розробки нових додатків і варіантів використання, які виходять за межі ШІ в інші технологічні області.
«Внутрішня гнучкість розподіленої мережі може дозволити незалежним розробникам і дослідникам експериментувати з абсолютно новими програмами та відкривати нові способи розробки радикально відкритих архітектур програм», — сказав Грег Осурі з Akash Network. Metaverse Post. «Цей хвилевий ефект може призвести до розробки більш децентралізованих програм і послуг у різних галузях, ширшого обміну обчислювальними ресурсами та знаннями, «повернення» крипто і blockchainта інтеграція з існуючими технологіями».
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Віктор є керуючим технічним редактором/письменником у Metaverse Post і охоплює штучний інтелект, криптографію, науку про дані, метавсесвіт і кібербезпеку в корпоративній сфері. Він може похвалитися півдесятилітнім досвідом роботи в ЗМІ та штучному інтелекті у відомих ЗМІ, таких як VentureBeat, DatatechVibe та Analytics India Magazine. Будучи медіа-наставником у престижних університетах, включаючи Оксфорд і USC, і отримав ступінь магістра в галузі науки про дані та аналітики, Віктор глибоко відданий тому, щоб бути в курсі нових тенденцій. Він пропонує читачам найновіші та найпроникливіші оповіді від Tech and Web3 пейзаж.
інші статті
Віктор є керуючим технічним редактором/письменником у Metaverse Post і охоплює штучний інтелект, криптографію, науку про дані, метавсесвіт і кібербезпеку в корпоративній сфері. Він може похвалитися півдесятилітнім досвідом роботи в ЗМІ та штучному інтелекті у відомих ЗМІ, таких як VentureBeat, DatatechVibe та Analytics India Magazine. Будучи медіа-наставником у престижних університетах, включаючи Оксфорд і USC, і отримав ступінь магістра в галузі науки про дані та аналітики, Віктор глибоко відданий тому, щоб бути в курсі нових тенденцій. Він пропонує читачам найновіші та найпроникливіші оповіді від Tech and Web3 пейзаж.
