GPT-5 Обучението ще струва 2.5 милиарда долара и ще започне следващата година
Потребителят на Twitter Мартин Шкрели от Ню Йорк публикува днес това GPT-5 ще изисква около 2.0-2.5 милиарда долара за обучение. Това обучение ще включва 500,000 100 H90s Tensor Core GPU за XNUMX дни или алтернативна конфигурация. Предвижда се обучението да започне догодина.
OpenAI работи активно върху повишаване на GPT-4 с различни възможности, като въплъщение, агенция, Сократово разсъждение, графики на знанието, световни модели, мултимодалност, планиране, семантична интерпретируемост, умове на кошера, контрол и ограниченост, както и по-малки задачи с висока стойност.
Мащабът на производството на H100/A100 повдига въпроси. Ще има ли достатъчно от тези графични процесори за такова значително начинание? Очаква се приблизително 1 милион H100 да бъдат произведени до края на годината, а около 5 милиона може да бъдат доставени през следващата година.
Що се отнася до цената, има валидна точка за графичните процесори. Включването на цената на тези графични процесори в разходите за обучение може да е подвеждащо, тъй като те не остаряват след процеса на обучение. Само тези графични процесори могат да достигнат 20 милиарда долара.
Струва си да се отбележи, че максималният производствен капацитет на фирмата за производство на чипове Sustainable Metal Cloud (SMC) за H100s в момента е 15,000 50,000 единици на месец, но те са увеличили производството до приблизително XNUMX XNUMX единици на месец.
По отношение на разходите за електроенергия, те представляват относително малка част от общите изчислителни разходи. За да го поставим в перспектива, 6,000,000 1 XNUMX kWh биха възлизали приблизително на XNUMX милион долара.
Придобиването на 500,000 100 HXNUMX до следващата година изглежда предизвикателна задача, дори с подкрепата на Microsoft. Освен това възникват въпроси относно цена на извода ако процесът на обучение наистина е толкова интензивен на изчисления, колкото се предлага.
В контекста на Пазарът на Nvidia представяне през 2023 г., заслужава да се отбележи, че успехът им се е утроил, надхвърляйки 1 трилион долара. Този ръст може да се дължи до голяма степен на увеличеното приемане на чипове на Nvidia в AI приложения. Въпреки това е важно да се вземе предвид това Ограничения на износа на САЩ ограничиха продажбата на AI чипове от висок клас на китайския пазар, което може да повлияе на разходите за производство и обучение.
Nvidia генерира близо хилядократен процент печалба за всеки H100 GPU ускорител, който продава, според главния писател на Barron Tae Kim. Това означава, че уличната цена на Nvidia от около $25,000 30,000 до $3,320 100 за всеки HPC ускорител покрива очакваните $2024 разходи за чип и периферни компоненти. Анализът на разходите е неясен, но се смята, че е въпрос на чисти производствени разходи. Разходите за научноизследователска и развойна дейност на Nvidia също трябва да се вземат предвид, тъй като разработването на чипове като H150 изисква хиляди часове от специализирани работници. Въпреки това продуктите на Nvidia за AI-ускоряване вече се продават до 2027 г., като пазарът на AI-акселераторы се очаква да струва около XNUMX милиарда долара до XNUMX г.
Компанията се възползва от своята инфраструктура и набор от продукти, но бюджетите и алтернативните разходи могат да ограничат инвестициите в други области или да ограничат рисковете в местата за изследване и развитие.
Отказ от отговорност
В съответствие с Доверете се насоките на проекта, моля, имайте предвид, че предоставената на тази страница информация не е предназначена да бъде и не трябва да се тълкува като правен, данъчен, инвестиционен, финансов или каквато и да е друга форма на съвет. Важно е да инвестирате само това, което можете да си позволите да загубите, и да потърсите независим финансов съвет, ако имате някакви съмнения. За допълнителна информация предлагаме да се обърнете към правилата и условията, както и към страниците за помощ и поддръжка, предоставени от издателя или рекламодателя. MetaversePost се ангажира с точно, безпристрастно отчитане, но пазарните условия подлежат на промяна без предизвестие.
За автора
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
Още статии
Дамир е ръководител на екип, продуктов мениджър и редактор в Metaverse Post, обхващащи теми като AI/ML, AGI, LLMs, Metaverse и Web3- свързани полета. Статиите му привличат огромна аудитория от над милион потребители всеки месец. Изглежда, че е експерт с 10 години опит в SEO и дигитален маркетинг. Дамир е споменат в Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto и други публикации. Той пътува между ОАЕ, Турция, Русия и ОНД като дигитален номад. Дамир получава бакалавърска степен по физика, която според него му е дала уменията за критично мислене, необходими за успех в непрекъснато променящия се пейзаж на интернет.
