GPT-5 Apmācība maksās 2.5 miljardus USD un sāksies nākamgad
Twitter lietotājs Martin Shkreli no NY to šodien publicēja GPT-5 apmācībai būs nepieciešami 2.0–2.5 miljardi USD. Šajā apmācībā būtu jāiekļauj 500,000 100 H90s Tensor Core GPU XNUMX dienu laikā vai alternatīva konfigurācija. Apmācības plānots sākt nākamgad.
OpenAI aktīvi strādā pie uzlabošana GPT-4 ar dažādām iespējām, piemēram, iemiesojums, aģentūra, Sokrātiskā spriešana, zināšanu grafiki, pasaules modeļi, multimodalitāte, plānošana, semantiskā interpretācija, stropu prāti, kontrole un ierobežotība, kā arī mazāki augstvērtīgi uzdevumi.
H100/A100 ražošanas apjoms rada jautājumus. Vai būs pietiekami daudz šo GPU, kas pieejams tik nozīmīgam uzņēmumam? Paredzams, ka līdz gada beigām tiks saražots aptuveni 1 miljons H100, un nākamajā gadā var tikt nosūtīti aptuveni 5 miljoni.
Runājot par izmaksām, GPU ir derīgs punkts. Šo GPU izmaksu iekļaušana apmācību izdevumos var būt maldinoša, jo pēc apmācības procesa tie nekļūst novecojuši. Šie GPU vien varētu sasniegt 20 miljardus USD.
Ir vērts atzīmēt, ka Chip Manufacturing uzņēmuma Sustainable Metal Cloud (SMC) maksimālā H100 ražošanas jauda pašlaik ir 15,000 50,000 vienību mēnesī, taču tie ir palielinājuši ražošanu līdz aptuveni XNUMX XNUMX vienībām mēnesī.
Runājot par elektroenerģijas izmaksām, tās veido salīdzinoši nelielu daļu no kopējām aprēķina izmaksām. Raugoties perspektīvā, 6,000,000 1 XNUMX kWh būtu aptuveni XNUMX miljons ASV dolāru.
500,000 100 HXNUMX iegāde līdz nākamajam gadam šķiet sarežģīts uzdevums pat ar Microsoft atbalstu. Turklāt rodas jautājumi par secinājumu izmaksas ja apmācības process patiešām ir tik daudz skaitļošanas ietilpīgs, kā ieteikts.
Kontekstā Nvidia tirgus sniegumu 2023. gadā, ir ievērības cienīgi, ka viņu panākumi, kā ziņots, ir trīskāršojušies, pārsniedzot 1 triljonu dolāru. Šo pieaugumu lielā mērā var saistīt ar Nvidia mikroshēmu pieaugošo ieviešanu AI lietojumprogrammās. Tomēr ir svarīgi to ņemt vērā ASV eksporta ierobežojumi ir ierobežojuši augstākās klases AI mikroshēmu pārdošanu Ķīnas tirgū, kas varētu ietekmēt ražošanas un apmācības izmaksas.
Nvidia gūst gandrīz tūkstoškārtīgu peļņas procentu par katru H100 GPU paātrinātāju, ko tas pārdod, saskaņā ar Barron's vecākais rakstnieks Tae Kim. Tas nozīmē, ka Nvidia ielas cena no aptuveni 25,000 30,000 līdz 3,320 100 USD par katru HPC paātrinātāju sedz aplēstās USD 2024 izmaksas par mikroshēmu un perifērijas komponentiem. Izmaksu analīze ir neskaidra, taču tiek uzskatīts, ka tas ir tikai ražošanas izmaksu jautājums. Jāņem vērā arī Nvidia pētniecības un izstrādes izmaksas, jo tādu mikroshēmu kā H150 izstrāde prasa tūkstošiem stundu no specializētiem darbiniekiem. Tomēr Nvidia mākslīgā intelekta paātrināšanas produkti jau tiek pārdoti līdz 2027. gadam, un paredzams, ka AI paātrinātāju tirgus vērtība līdz XNUMX. gadam būs aptuveni XNUMX miljardi USD.
Uzņēmums gūst labumu no savas infrastruktūras un produktu kopas, taču budžeti un alternatīvās izmaksas var ierobežot ieguldījumus citās jomās vai ierobežot riskus pētniecības un attīstības vietās.
Atbildības noraidīšana
Atbilstīgi Uzticības projekta vadlīnijas, lūdzu, ņemiet vērā, ka šajā lapā sniegtā informācija nav paredzēta un to nedrīkst interpretēt kā juridisku, nodokļu, ieguldījumu, finanšu vai jebkāda cita veida padomu. Ir svarīgi ieguldīt tikai to, ko varat atļauties zaudēt, un meklēt neatkarīgu finanšu padomu, ja jums ir šaubas. Lai iegūtu papildinformāciju, iesakām skatīt pakalpojumu sniegšanas noteikumus, kā arī palīdzības un atbalsta lapas, ko nodrošina izdevējs vai reklāmdevējs. MetaversePost ir apņēmies sniegt precīzus, objektīvus pārskatus, taču tirgus apstākļi var tikt mainīti bez iepriekšēja brīdinājuma.
Par Autors
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
Vairāk rakstus
Damirs ir komandas vadītājs, produktu vadītājs un redaktors Metaverse Post, kas aptver tādas tēmas kā AI/ML, AGI, LLM, Metaverse un Web3- saistītie lauki. Viņa raksti katru mēnesi piesaista lielu auditoriju, kas pārsniedz miljonu lietotāju. Šķiet, ka viņš ir eksperts ar 10 gadu pieredzi SEO un digitālā mārketinga jomā. Damirs ir minēts Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto un citas publikācijas. Viņš ceļo starp AAE, Turciju, Krieviju un NVS kā digitālais nomads. Damirs ir ieguvis bakalaura grādu fizikā, kas, viņaprāt, ir devis viņam kritiskās domāšanas prasmes, kas nepieciešamas, lai gūtu panākumus nepārtraukti mainīgajā interneta vidē.
