GPT-5 Školenie bude stáť 2.5 miliardy dolárov a začne sa budúci rok
Používateľ Twitteru Martin Shkreli z New Yorku to dnes zverejnil GPT-5 bude vyžadovať odhadom 2.0 až 2.5 miliardy dolárov na školenie. Toto školenie by zahŕňalo 500,000 100 GPU Tensor Core H90 počas XNUMX dní alebo alternatívnu konfiguráciu. Začiatok školenia je naplánovaný na budúci rok.
OpenAI aktívne pracuje zvyšujúce GPT-4 s rôznymi schopnosťami, ako je stelesnenie, agentúra, sokratovské uvažovanie, vedomostné grafy, modely sveta, multimodalita, plánovanie, sémantická interpretovateľnosť, mysle úľa, kontrola a ohraničenosť, ako aj menšie úlohy s vysokou hodnotou.
Rozsah výroby H100/A100 vyvoláva otázky. Bude k dispozícii dostatok týchto GPU pre taký významný podnik? Očakáva sa, že do konca roka bude vyrobených približne 1 milión H100 a odhadom 5 miliónov môže byť dodaných v nasledujúcom roku.
Pokiaľ ide o náklady, je tu platný bod o GPU. Zahrnutie nákladov na tieto GPU do nákladov na školenie môže byť zavádzajúce, pretože sa po tréningovom procese nestanú zastarané. Len tieto GPU by mohli predstavovať 20 miliárd dolárov.
Stojí za zmienku, že maximálna výrobná kapacita spoločnosti na výrobu čipov Sustainable Metal Cloud (SMC) pre H100 je v súčasnosti 15,000 50,000 jednotiek za mesiac, ale zvýšila produkciu na približne XNUMX XNUMX jednotiek za mesiac.
Z hľadiska nákladov na elektrickú energiu predstavujú relatívne malý zlomok celkových výpočtových nákladov. Pre predstavu, 6,000,000 1 XNUMX kWh by predstavovalo zhruba XNUMX milión dolárov.
Získať 500,000 100 HXNUMX do budúceho roka sa zdá byť náročná úloha, a to aj s podporou Microsoftu. Okrem toho vyvstávajú otázky týkajúce sa náklady na odvodenie ak je tréningový proces skutočne taký náročný na výpočtovú techniku, ako sa navrhuje.
V súvislosti Trh Nvidie výkon v roku 2023, je pozoruhodné, že ich úspech sa údajne strojnásobil a presiahol 1 bilión dolárov. Tento rast možno vo veľkej miere pripísať zvýšenému prijímaniu čipov Nvidia v aplikáciách AI. Je však dôležité to zvážiť exportné obmedzenia USA obmedzili predaj špičkových čipov AI na čínskom trhu, čo by mohlo ovplyvniť výrobné náklady a náklady na školenie.
Nvidia generuje takmer tisícnásobné percento zisku za každý urýchľovač GPU H100, ktorý predáva, podľa Barronovho hlavného spisovateľa Tae Kima. To znamená, že pouličná cena Nvidie okolo 25,000 30,000 až 3,320 100 USD za každý HPC akcelerátor pokrýva odhadované náklady na čip a periférne komponenty vo výške 2024 150 USD. Analýza nákladov je nejasná, ale predpokladá sa, že ide o čisto výrobné náklady. Je potrebné zvážiť aj náklady na výskum a vývoj spoločnosti Nvidia, pretože vývoj čipov ako H2027 si vyžaduje tisíce hodín od špecializovaných pracovníkov. Produkty Nvidia urýchľujúce AI sa však už predávajú do roku XNUMX, pričom sa očakáva, že trh s akcelerátormi AI bude mať do roku XNUMX hodnotu približne XNUMX miliárd dolárov.
Spoločnosť ťaží zo svojej infraštruktúry a balíka produktov, ale rozpočty a alternatívne náklady môžu obmedziť investície do iných oblastí alebo obmedziť riziká v miestach výskumu a vývoja.
Vylúčenie zodpovednosti
V súlade s Pokyny k projektu Trust, uvedomte si, že informácie uvedené na tejto stránke nie sú zamýšľané a nemali by byť interpretované ako právne, daňové, investičné, finančné alebo iné formy poradenstva. Je dôležité investovať len toľko, koľko si môžete dovoliť stratiť a v prípade akýchkoľvek pochybností vyhľadať nezávislé finančné poradenstvo. Ak chcete získať ďalšie informácie, odporúčame vám pozrieť si zmluvné podmienky, ako aj stránky pomoci a podpory poskytnuté vydavateľom alebo inzerentom. MetaversePost sa zaviazala poskytovať presné a nezaujaté správy, ale podmienky na trhu sa môžu zmeniť bez upozornenia.
O autorovi
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
Ďalšie články
Damir je vedúci tímu, produktový manažér a redaktor v Metaverse Post, pokrývajúce témy ako AI/ML, AGI, LLM, Metaverse a Web3- súvisiace oblasti. Jeho články priťahujú každý mesiac obrovské publikum s viac ako miliónom používateľov. Zdá sa, že je odborníkom s 10-ročnými skúsenosťami v oblasti SEO a digitálneho marketingu. Damir bol spomenutý v Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto a ďalšie publikácie. Ako digitálny nomád cestuje medzi SAE, Tureckom, Ruskom a SNŠ. Damir získal bakalársky titul z fyziky, o ktorom sa domnieva, že mu dal schopnosti kritického myslenia potrebné na to, aby bol úspešný v neustále sa meniacom prostredí internetu.
