GPT-5 Usposabljanje bo stalo 2.5 milijarde dolarjev in se bo začelo naslednje leto
Uporabnik Twitterja Martin Shkreli iz New Yorka je danes objavil, da GPT-5 bo za usposabljanje potreboval približno 2.0–2.5 milijarde USD. To usposabljanje bi vključevalo 500,000 H100s Tensor Core GPE v 90 dneh ali alternativno konfiguracijo. Usposabljanje naj bi se začelo naslednje leto.
OpenAI aktivno dela izboljšanje GPT-4 z različnimi zmogljivostmi, kot so utelešenje, delovanje, sokratsko razmišljanje, grafi znanja, modeli sveta, multimodalnost, načrtovanje, semantična interpretabilnost, panjski umi, nadzor in omejenost, pa tudi manjše naloge visoke vrednosti.
Obseg proizvodnje H100/A100 sproža vprašanja. Ali bo na voljo dovolj teh grafičnih procesorjev za tako velik podvig? Pričakuje se, da bo do konca leta proizvedenih približno 1 milijon H100, naslednje leto pa naj bi jih poslali približno 5 milijonov.
Kar zadeva stroške, obstaja veljavna točka o grafičnih procesorjih. Vključitev stroškov teh grafičnih procesorjev v stroške usposabljanja je lahko zavajajoča, saj po procesu usposabljanja ne zastarajo. Samo ti grafični procesorji bi lahko znašali 20 milijard dolarjev.
Omeniti velja, da je največja proizvodna zmogljivost podjetja za proizvodnjo čipov Sustainable Metal Cloud (SMC) za H100 trenutno 15,000 enot na mesec, vendar so proizvodnjo povečali na približno 50,000 enot na mesec.
Kar zadeva stroške električne energije, predstavljajo razmeroma majhen del skupnih stroškov računanja. Če pogledamo v perspektivo, bi 6,000,000 kWh znašalo približno 1 milijon dolarjev.
| Podobni: Potencial industrije umetne inteligence za tekmovanje z nacionalno porabo električne energije |
Zdi se, da je pridobitev 500,000 H100 do naslednjega leta zahtevna naloga, tudi s podporo Microsofta. Poleg tega se pojavljajo vprašanja o stroški sklepanja če je proces usposabljanja res tako računalniško intenziven, kot je predlagano.
V kontekstu Nvidijin trg uspešnosti leta 2023, je treba omeniti, da se je njihov uspeh domnevno potrojil in presegel 1 bilijon dolarjev. To rast je mogoče v veliki meri pripisati povečanemu sprejemanju čipov Nvidia v aplikacijah AI. Vendar je to pomembno upoštevati izvozne omejitve ZDA so omejili prodajo vrhunskih čipov AI na kitajskem trgu, kar bi lahko vplivalo na stroške proizvodnje in usposabljanja.
Nvidia ustvarja skoraj tisočkratni odstotek dobička za vsak pospeševalnik GPU H100, ki ga proda, pravi Barronov višji pisatelj Tae Kim. To pomeni, da Nvidijina ulična cena okoli 25,000 do 30,000 $ za vsak pospeševalnik HPC pokriva ocenjeno ceno 3,320 $ na čip in periferne komponente. Analiza stroškov je nejasna, vendar se domneva, da gre za čiste proizvodne stroške. Upoštevati je treba tudi Nvidijine stroške raziskav in razvoja, saj razvoj čipov, kot je H100, zahteva na tisoče ur specializiranih delavcev. Vendar se Nvidijini izdelki za pospeševanje umetne inteligence že prodajajo do leta 2024, pri čemer se pričakuje, da bo trg pospeševalnikov umetne inteligence do leta 150 vreden približno 2027 milijard dolarjev.
Podjetje ima koristi od svoje infrastrukture in nabora izdelkov, vendar lahko proračuni in oportunitetni stroški omejijo naložbe na drugih področjih ali omejijo tveganja na mestih raziskav in razvoja.
Zavrnitev odgovornosti
V skladu z Smernice projekta Trust, upoštevajte, da informacije na tej strani niso namenjene in se jih ne sme razlagati kot pravni, davčni, naložbeni, finančni ali kakršen koli drug nasvet. Pomembno je, da vlagate samo tisto, kar si lahko privoščite izgubiti, in da poiščete neodvisen finančni nasvet, če imate kakršne koli dvome. Za dodatne informacije predlagamo, da si ogledate določila in pogoje ter strani s pomočjo in podporo, ki jih nudi izdajatelj ali oglaševalec. MetaversePost se zavzema za natančno in nepristransko poročanje, vendar se tržni pogoji lahko spremenijo brez predhodnega obvestila.
O avtorju
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
več člankov
Damir je vodja ekipe, produktni vodja in urednik pri Metaverse Post, ki pokriva teme, kot so AI/ML, AGI, LLMs, Metaverse in Web3- sorodna področja. Njegovi članki vsak mesec pritegnejo množično občinstvo več kot milijon uporabnikov. Zdi se, da je strokovnjak z 10-letnimi izkušnjami na področju SEO in digitalnega trženja. Damir je bil omenjen v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto in druge publikacije. Kot digitalni nomad potuje med ZAE, Turčijo, Rusijo in SND. Damir je diplomiral iz fizike, kar mu je po njegovem mnenju dalo sposobnosti kritičnega razmišljanja, potrebne za uspeh v nenehno spreminjajočem se okolju interneta.
