GPT-5 La formation coûtera 2.5 milliards de dollars et débutera l'année prochaine
L'utilisateur de Twitter Martin Shkreli de New York a publié aujourd'hui que GPT-5 il faudra environ 2.0 à 2.5 milliards de dollars pour la formation. Cette formation impliquerait 500,000 100 GPU Tensor Core H90 sur XNUMX jours ou une configuration alternative. La formation devrait débuter l’année prochaine.
OpenAI travaille activement sur améliorer GPT-4 avec diverses capacités, tels que l'incarnation, l'agence, le raisonnement socratique, les graphiques de connaissances, les modèles du monde, la multimodalité, la planification, l'interprétabilité sémantique, les esprits-ruches, le contrôle et les limites, ainsi que les petites tâches de grande valeur.
L’ampleur de la production des H100/A100 soulève des questions. Y aura-t-il suffisamment de ces GPU disponibles pour une entreprise aussi importante ? Environ 1 million de H100 devraient être produits d’ici la fin de l’année, et environ 5 millions pourraient être expédiés l’année suivante.
Concernant le coût, il y a un argument valable concernant les GPU. Inclure le coût de ces GPU dans les dépenses de formation pourrait être trompeur car ils ne deviennent pas obsolètes après le processus de formation. Ces GPU à eux seuls pourraient représenter 20 milliards de dollars.
Il convient de noter que la capacité de production maximale de H100 de la société de fabrication de puces Sustainable Metal Cloud (SMC) est actuellement de 15,000 50,000 unités par mois, mais elle a augmenté sa production à environ XNUMX XNUMX unités par mois.
En termes de coûts d’électricité, ils représentent une fraction relativement faible du coût global de calcul. Pour mettre les choses en perspective, 6,000,000 1 XNUMX kWh équivaudraient à environ XNUMX million de dollars.
| Services Connexes: Le potentiel de l’industrie de l’IA pour rivaliser avec la consommation nationale d’électricité |
L'acquisition de 500,000 100 HXNUMX d'ici l'année prochaine semble être une tâche difficile, même avec le soutien de Microsoft. De plus, des questions se posent sur coût de l'inférence si le processus de formation est effectivement aussi gourmand en calcul que suggéré.
Dans le contexte de Le marché de Nvidia performance en 2023, il convient de noter que leur succès aurait triplé, dépassant les 1 XNUMX milliards de dollars. Cette croissance peut être largement attribuée à l’adoption croissante des puces Nvidia dans les applications d’IA. Cependant, il est important de considérer que Contraintes américaines à l’exportation ont limité la vente de puces d’IA haut de gamme sur le marché chinois, ce qui pourrait avoir un impact sur les coûts de fabrication et de formation.
Nvidia génère un pourcentage de profit près de mille fois supérieur pour chaque accélérateur GPU H100 vendu, selon Tae Kim, rédacteur principal de Barron. Cela signifie que le prix public de Nvidia, d'environ 25,000 30,000 à 3,320 100 dollars pour chaque accélérateur HPC, couvre le coût estimé de 2024 150 dollars par puce et composants périphériques. L’analyse des coûts n’est pas claire, mais on pense qu’il s’agit uniquement d’une question de coût de fabrication. Les coûts de R&D de Nvidia doivent également être pris en compte, car le développement de puces comme la H2027 nécessite des milliers d'heures de la part de travailleurs spécialisés. Cependant, les produits d'accélération de l'IA de Nvidia sont déjà vendus jusqu'en XNUMX, et le marché des accélérateurs d'IA devrait valoir environ XNUMX milliards de dollars d'ici XNUMX.
L'entreprise bénéficie de son infrastructure et de sa gamme de produits, mais les budgets et les coûts d'opportunité peuvent limiter les investissements dans d'autres domaines ou limiter les risques dans les domaines de la recherche et du développement.
| Services Connexes: La révolution de l’IA ne fait que commencer : Will GPT-5 Parvenir à l’intelligence générale artificielle ? |
Clause de non-responsabilité
En ligne avec la Lignes directrices du projet de confiance, veuillez noter que les informations fournies sur cette page ne sont pas destinées à être et ne doivent pas être interprétées comme des conseils juridiques, fiscaux, d'investissement, financiers ou toute autre forme de conseil. Il est important d’investir uniquement ce que vous pouvez vous permettre de perdre et de demander des conseils financiers indépendants en cas de doute. Pour plus d'informations, nous vous suggérons de vous référer aux conditions générales ainsi qu'aux pages d'aide et de support mises à disposition par l'émetteur ou l'annonceur. MetaversePost s'engage à fournir des rapports précis et impartiaux, mais les conditions du marché sont susceptibles de changer sans préavis.
A propos de l'auteur
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
Plus d'articles
Damir est chef d'équipe, chef de produit et rédacteur en chef chez Metaverse Post, couvrant des sujets tels que l'IA/ML, l'AGI, les LLM, le métaverse et Web3-domaines connexes. Ses articles attirent une audience massive de plus d'un million d'utilisateurs chaque mois. Il semble être un expert avec 10 ans d'expérience dans le référencement et le marketing numérique. Damir a été mentionné dans Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto et d'autres publications. Il voyage entre les Émirats arabes unis, la Turquie, la Russie et la CEI en tant que nomade numérique. Damir a obtenu un baccalauréat en physique, ce qui, selon lui, lui a donné les compétences de pensée critique nécessaires pour réussir dans le paysage en constante évolution d'Internet.
