GPT-5 Навчання коштуватиме 2.5 мільярда доларів і розпочнеться наступного року
Про це сьогодні написав користувач Twitter Мартін Шкрелі з Нью-Йорка GPT-5 на навчання знадобиться приблизно 2.0-2.5 мільярда доларів США. Це навчання включатиме 500,000 100 графічних процесорів H90s Tensor Core протягом XNUMX днів або альтернативну конфігурацію. Навчання планують розпочати наступного року.
OpenAI активно працює над підвищення GPT-4 з різними можливостями, такі як втілення, діяльність, міркування Сократа, графи знань, моделі світу, мультимодальність, планування, семантична інтерпретативність, розум вулика, контроль і обмеженість, а також менші важливі завдання.
Викликає питання масштаб виробництва H100/A100. Чи буде достатньо цих графічних процесорів для такого значного підприємства? Очікується, що до кінця року буде виготовлено приблизно 1 мільйон H100, а наступного року може бути поставлено приблизно 5 мільйонів.
Що стосується вартості, є дійсний момент щодо GPU. Включення вартості цих графічних процесорів до витрат на навчання може ввести в оману, оскільки вони не застарівають після процесу навчання. Тільки ці графічні процесори можуть скласти 20 мільярдів доларів.
Варто зазначити, що максимальна виробнича потужність фірми з виробництва мікросхем Sustainable Metal Cloud (SMC) для H100 наразі становить 15,000 50,000 одиниць на місяць, але вони збільшили виробництво приблизно до XNUMX XNUMX одиниць на місяць.
З точки зору витрат на електроенергію, вони становлять відносно невелику частку загальних витрат на обчислення. У перспективі 6,000,000 1 XNUMX кВт-год становитимуть приблизно XNUMX мільйон доларів.
Придбання 500,000 100 HXNUMX до наступного року видається складним завданням, навіть за підтримки Microsoft. Крім того, виникають питання щодо вартість висновку якщо навчальний процес справді настільки інтенсивний, як пропонується.
У контексті Ринок Nvidia продуктивності у 2023 році, варто відзначити, що їхній успіх, як повідомляється, зріс утричі, перевищивши 1 трильйон доларів. Таке зростання можна пояснити значною мірою збільшенням використання чіпів Nvidia в додатках ШІ. Однак це важливо враховувати Експортні обмеження США обмежили продаж високоякісних мікросхем штучного інтелекту на китайському ринку, що може вплинути на витрати на виробництво та навчання.
Nvidia генерує майже тисячократний відсоток прибутку за кожен прискорювач GPU H100, який він продає, за словами старшого автора Barron Те Кіма. Це означає, що вулична ціна Nvidia приблизно від 25,000 30,000 до 3,320 100 доларів США за кожен HPC-прискорювач покриває приблизно 2024 доларів США за чіп і периферійні компоненти. Аналіз витрат неясний, але вважається, що це питання чисто виробничих витрат. Також слід враховувати витрати Nvidia на дослідження та розробки, оскільки розробка чіпів, таких як H150, потребує тисячі годин від спеціалістів. Проте продукти Nvidia зі штучним інтелектом вже продаються до 2027 року, а до XNUMX року очікується, що ринок штучного інтелекту становитиме близько XNUMX мільярдів доларів.
Компанія отримує вигоду від своєї інфраструктури та пакету продуктів, але бюджети та альтернативні витрати можуть обмежити інвестиції в інші сфери або обмежити ризики в місцях досліджень і розробок.
відмова
Відповідно до Правила проекту Trust, будь ласка, зверніть увагу, що інформація, надана на цій сторінці, не призначена і не повинна тлумачитися як юридична, податкова, інвестиційна, фінансова або будь-яка інша форма консультації. Важливо інвестувати лише те, що ви можете дозволити собі втратити, і звернутися за незалежною фінансовою порадою, якщо у вас виникнуть сумніви. Щоб отримати додаткову інформацію, ми пропонуємо звернутися до положень та умов, а також до сторінок довідки та підтримки, наданих емітентом або рекламодавцем. MetaversePost прагне до точного, неупередженого звітування, але ринкові умови можуть змінюватися без попередження.
про автора
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
інші статті
Дамір є керівником групи, менеджером із продуктів і редактором Metaverse Post, що охоплює такі теми, як AI/ML, AGI, LLMs, Metaverse тощо Web3- суміжні поля. Його статті щомісяця приваблюють величезну аудиторію понад мільйон користувачів. Здається, він є експертом із 10-річним досвідом роботи в SEO та цифровому маркетингу. Даміра згадували в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto та інші видання. Він подорожує між ОАЕ, Туреччиною, Росією та СНД як цифровий кочівник. Дамір отримав ступінь бакалавра з фізики, що, на його думку, дало йому навички критичного мислення, необхідні для досягнення успіху в Інтернеті, який постійно змінюється.
