GPT-5 La formació costarà 2.5 milions de dòlars i començarà l'any vinent
L'usuari de Twitter Martin Shkreli de Nova York ho ha publicat avui GPT-5 requerirà entre 2.0 i 2.5 milions de dòlars per a la formació. Aquesta formació implicaria 500,000 GPU H100s Tensor Core durant 90 dies o una configuració alternativa. La formació està previst que comenci l'any vinent.
OpenAI està treballant activament millorant GPT-4 amb diverses capacitats, com ara l'encarnació, l'agència, el raonament socràtic, els gràfics de coneixement, els models del món, la multimodalitat, la planificació, la interpretabilitat semàntica, les ments de rusc, el control i la limitació, així com tasques més petites d'alt valor.
L'escala de la producció H100/A100 planteja preguntes. Hi haurà prou d'aquestes GPU disponibles per a una empresa tan important? S'espera que es produeixin aproximadament 1 milió d'H100 a finals d'any i s'estima que 5 milions es poden enviar l'any següent.
Pel que fa al cost, hi ha un punt vàlid sobre les GPU. Incloure el cost d'aquestes GPU en les despeses de formació pot ser enganyós, ja que no queden obsolets després del procés de formació. Només aquestes GPU podrien ascendir a 20 milions de dòlars.
Val la pena assenyalar que la capacitat de producció màxima de l'empresa de fabricació de xips Sustainable Metal Cloud (SMC) per als H100 és actualment de 15,000 unitats al mes, però han augmentat la producció a aproximadament 50,000 unitats al mes.
Pel que fa als costos d'electricitat, representen una fracció relativament petita del cost informàtic global. Per posar-ho en perspectiva, 6,000,000 kWh suposarien aproximadament un milió de dòlars.
Adquirir 500,000 H100 l'any vinent sembla ser una tasca difícil, fins i tot amb el suport de Microsoft. A més, sorgeixen preguntes sobre el cost de la inferència si el procés d'entrenament és realment tan intensiu en càlcul com es suggeria.
En el context de El mercat de Nvidia rendiment el 2023, cal destacar que el seu èxit s'ha triplicat, superant el bilió de dòlars. Aquest creixement es pot atribuir en gran mesura a la major adopció de xips Nvidia a les aplicacions d'IA. Tanmateix, és important tenir-ho en compte restriccions d'exportació dels EUA han limitat la venda de xips d'IA de gamma alta al mercat xinès, cosa que podria afectar els costos de fabricació i formació.
Nvidia està generant gairebé un percentatge de beneficis mil vegades superior per cada accelerador de GPU H100 que ven, segons l'escriptor sènior de Barron, Tae Kim. Això significa que el preu al carrer de Nvidia d'uns 25,000 a 30,000 dòlars per a cada accelerador HPC cobreix el cost estimat de 3,320 dòlars per xip i components perifèrics. L'anàlisi de costos no està clara, però es creu que és una qüestió de costos de fabricació. També cal tenir en compte els costos de R+D de Nvidia, ja que el desenvolupament de xips com l'H100 requereix milers d'hores de treballadors especialitzats. Tanmateix, els productes d'acceleració d'IA de Nvidia ja es venen fins al 2024, i s'espera que el mercat de l'accelerador d'IA valgui uns 150 milions de dòlars el 2027.
L'empresa s'està beneficiant de la seva infraestructura i la seva pila de productes, però els pressupostos i els costos d'oportunitat poden limitar les inversions en altres àrees o limitar els riscos en llocs de recerca i desenvolupament.
| connex: La revolució de la IA tot just comença: Will GPT-5 Aconseguir la intel·ligència general artificial? |
renúncia
En línia amb la Directrius del projecte Trust, si us plau, tingueu en compte que la informació proporcionada en aquesta pàgina no pretén ni s'ha d'interpretar com a assessorament legal, fiscal, d'inversió, financer o de cap altra forma. És important invertir només el que et pots permetre perdre i buscar assessorament financer independent si tens dubtes. Per obtenir més informació, us suggerim que feu referència als termes i condicions, així com a les pàgines d'ajuda i assistència proporcionades per l'emissor o l'anunciant. MetaversePost es compromet a fer informes precisos i imparcials, però les condicions del mercat estan subjectes a canvis sense previ avís.
About The Autor
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
més articles
Damir és el líder d'equip, cap de producte i editor de Metaverse Post, que cobreix temes com AI/ML, AGI, LLMs, Metaverse i Web3-camps relacionats. Els seus articles atrauen una audiència massiva de més d'un milió d'usuaris cada mes. Sembla ser un expert amb 10 anys d'experiència en SEO i màrqueting digital. Damir ha estat esmentat a Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i altres publicacions. Viatja entre els Emirats Àrabs Units, Turquia, Rússia i la CEI com a nòmada digital. Damir va obtenir una llicenciatura en física, que creu que li ha donat les habilitats de pensament crític necessàries per tenir èxit en el paisatge en constant canvi d'Internet.
