GPT-5 La formación costará 2.5 millones de dólares y comenzará el próximo año
El usuario de Twitter Martin Shkreli de Nueva York publicó hoy que GPT-5 requerirá entre 2.0 y 2.5 millones de dólares para capacitación. Esta capacitación implicaría 500,000 GPU Tensor Core H100 durante 90 días o una configuración alternativa. La formación comenzará el próximo año.
OpenAI está trabajando activamente en mejorar GPT-4 con varias capacidades, como encarnación, agencia, razonamiento socrático, gráficos de conocimiento, modelos mundiales, multimodalidad, planificación, interpretabilidad semántica, mentes colmena, control y limitación, así como tareas más pequeñas de alto valor.
La escala de producción del H100/A100 plantea interrogantes. ¿Habrá suficientes GPU de este tipo disponibles para una empresa tan importante? Se espera que se produzcan aproximadamente 1 millón de H100 para finales de año y se estima que se enviarán 5 millones el año siguiente.
En cuanto al coste, hay un punto válido sobre las GPU. Incluir el coste de estas GPU en los gastos de formación puede resultar engañoso ya que no quedan obsoletas tras el proceso de formación. Sólo esas GPU podrían ascender a 20 mil millones de dólares.
Vale la pena señalar que la capacidad máxima de producción de H100 de la empresa de fabricación de chips Sustainable Metal Cloud (SMC) es actualmente de 15,000 unidades por mes, pero han aumentado la producción a aproximadamente 50,000 unidades por mes.
En términos de costos de electricidad, representan una fracción relativamente pequeña del costo total de computación. Para ponerlo en perspectiva, 6,000,000 de kWh equivaldrían aproximadamente a 1 millón de dólares.
| Relacionado:: El potencial de la industria de la IA para rivalizar con el consumo de electricidad nacional |
Adquirir 500,000 H100 para el próximo año parece ser una tarea desafiante, incluso con el apoyo de Microsoft. Además, surgen preguntas sobre la costo de inferencia si el proceso de capacitación es realmente tan intensivo en computación como se sugiere.
En el contexto de los El mercado de Nvidia desempeño en 2023, es digno de mención que su éxito se ha triplicado, superando el billón de dólares. Este crecimiento se puede atribuir en gran medida a la mayor adopción de chips Nvidia en aplicaciones de inteligencia artificial. Sin embargo, es importante considerar que Limitaciones de las exportaciones estadounidenses han limitado la venta de chips de IA de alta gama en el mercado chino, lo que podría afectar los costos de fabricación y capacitación.
Nvidia está generando un porcentaje de beneficios casi mil veces mayor por cada acelerador de GPU H100 que vende, según Tae Kim, redactor principal de Barron. Esto significa que el precio de venta al público de Nvidia, de entre 25,000 y 30,000 dólares por cada acelerador HPC, cubre el coste estimado de 3,320 dólares por chip y componentes periféricos. El análisis de costos no está claro, pero se cree que es una cuestión puramente de costos de fabricación. También hay que tener en cuenta los costes de I+D de Nvidia, ya que el desarrollo de chips como el H100 requiere miles de horas de trabajo de trabajadores especializados. Sin embargo, los productos de aceleración de IA de Nvidia ya se venden hasta 2024, y se espera que el mercado de aceleradores de IA valga alrededor de 150 mil millones de dólares para 2027.
La empresa se está beneficiando de su infraestructura y conjunto de productos, pero los presupuestos y el costo de oportunidad pueden limitar las inversiones en otras áreas o limitar los riesgos en los lugares de investigación y desarrollo.
| Relacionado:: La revolución de la IA apenas comienza: Will GPT-5 ¿Lograr la Inteligencia General Artificial? |
Observación
En línea con la Directrices del Proyecto Confianza, tenga en cuenta que la información proporcionada en esta página no pretende ser ni debe interpretarse como asesoramiento legal, fiscal, de inversión, financiero o de cualquier otro tipo. Es importante invertir sólo lo que pueda permitirse perder y buscar asesoramiento financiero independiente si tiene alguna duda. Para mayor información sugerimos consultar los términos y condiciones así como las páginas de ayuda y soporte proporcionadas por el emisor o anunciante. MetaversePost se compromete a brindar informes precisos e imparciales, pero las condiciones del mercado están sujetas a cambios sin previo aviso.
Sobre el Autor
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
Más artículos
Damir es el líder del equipo, gerente de producto y editor en Metaverse Post, que cubre temas como AI/ML, AGI, LLM, Metaverse y Web3-campos relacionados. Sus artículos atraen una audiencia masiva de más de un millón de usuarios cada mes. Parece ser un experto con 10 años de experiencia en SEO y marketing digital. Damir ha sido mencionado en Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto y otras publicaciones. Viaja entre los Emiratos Árabes Unidos, Turquía, Rusia y la CEI como nómada digital. Damir obtuvo una licenciatura en física, que él cree que le ha dado las habilidades de pensamiento crítico necesarias para tener éxito en el panorama siempre cambiante de Internet.
