GPT-5 La formazione costerà 2.5 miliardi di dollari e inizierà il prossimo anno
L'utente Twitter Martin Shkreli di New York lo ha postato oggi GPT-5 richiederà circa 2.0-2.5 miliardi di dollari per la formazione. Questa formazione coinvolgerebbe 500,000 GPU Tensor Core H100 nell'arco di 90 giorni o una configurazione alternativa. La formazione inizierà il prossimo anno.
OpenAI sta lavorando attivamente migliorando GPT-4 con varie capacità, come l'incarnazione, l'azione, il ragionamento socratico, i grafi della conoscenza, i modelli del mondo, la multimodalità, la pianificazione, l'interpretabilità semantica, le menti alveare, il controllo e la delimitazione, nonché compiti più piccoli di alto valore.
La portata della produzione dell’H100/A100 solleva interrogativi. Ci saranno abbastanza GPU disponibili per un'impresa così importante? Si prevede che entro la fine dell’anno verranno prodotti circa 1 milione di H100 e si stima che 5 milioni potrebbero essere spediti l’anno successivo.
Per quanto riguarda il costo, c'è un punto valido riguardo alle GPU. Includere il costo di queste GPU nelle spese di formazione potrebbe essere fuorviante poiché non diventano obsolete dopo il processo di formazione. Quelle GPU da sole potrebbero ammontare a 20 miliardi di dollari.
Vale la pena notare che la capacità di produzione massima per gli H100 della società di produzione di chip Sustainable Metal Cloud (SMC) è attualmente di 15,000 unità al mese, ma hanno aumentato la produzione a circa 50,000 unità al mese.
In termini di costi dell’elettricità, rappresentano una frazione relativamente piccola del costo di elaborazione complessivo. Per dirla in prospettiva, 6,000,000 di kWh ammonterebbero a circa 1 milione di dollari.
| Leggi Anche: Il potenziale del settore dell’intelligenza artificiale di rivaleggiare con il consumo di elettricità nazionale |
Acquisire 500,000 H100 entro il prossimo anno sembra essere un compito impegnativo, anche con il supporto di Microsoft. Inoltre, sorgono domande sulla costo dell'inferenza se il processo di formazione è effettivamente ad alta intensità di calcolo come suggerito.
Nel contesto di Il mercato di Nvidia performance nel 2023, è interessante notare che il loro successo sarebbe triplicato, superando i mille miliardi di dollari. Questa crescita può essere attribuita in gran parte alla maggiore adozione dei chip Nvidia nelle applicazioni AI. Tuttavia, è importante considerarlo Vincoli alle esportazioni statunitensi hanno limitato la vendita di chip AI di fascia alta nel mercato cinese, il che potrebbe incidere sui costi di produzione e formazione.
Nvidia sta generando una percentuale di profitto quasi mille volte superiore per ogni acceleratore GPU H100 venduto, secondo lo scrittore senior di Barron Tae Kim. Ciò significa che il prezzo al pubblico di Nvidia compreso tra circa $ 25,000 e $ 30,000 per ciascun acceleratore HPC copre il costo stimato di $ 3,320 per chip e componenti periferici. L'analisi dei costi non è chiara, ma si ritiene che sia una questione di puro costo di produzione. Bisogna considerare anche i costi di ricerca e sviluppo di Nvidia, poiché lo sviluppo di chip come l'H100 richiede migliaia di ore da parte di lavoratori specializzati. Tuttavia, i prodotti di accelerazione dell’intelligenza artificiale di Nvidia sono già venduti fino al 2024, con un mercato degli acceleratori di intelligenza artificiale che dovrebbe valere circa 150 miliardi di dollari entro il 2027.
L’azienda sta beneficiando della sua infrastruttura e del suo stack di prodotti, ma i budget e i costi opportunità possono limitare gli investimenti in altre aree o limitare i rischi nelle sedi di ricerca e sviluppo.
Negazione di responsabilità
In linea con la Linee guida del progetto Trust, si prega di notare che le informazioni fornite in questa pagina non intendono essere e non devono essere interpretate come consulenza legale, fiscale, di investimento, finanziaria o di qualsiasi altra forma. È importante investire solo ciò che puoi permetterti di perdere e chiedere una consulenza finanziaria indipendente in caso di dubbi. Per ulteriori informazioni, suggeriamo di fare riferimento ai termini e alle condizioni nonché alle pagine di aiuto e supporto fornite dall'emittente o dall'inserzionista. MetaversePost si impegna a fornire report accurati e imparziali, ma le condizioni di mercato sono soggette a modifiche senza preavviso.
Circa l'autore
Damir è il team leader, il product manager e l'editore di Metaverse Post, che copre argomenti come AI/ML, AGI, LLM, Metaverse e Web3campi correlati. I suoi articoli attirano un vasto pubblico di oltre un milione di utenti ogni mese. Sembra essere un esperto con 10 anni di esperienza in SEO e marketing digitale. Damir è stato menzionato in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e altre pubblicazioni. Viaggia tra Emirati Arabi Uniti, Turchia, Russia e CSI come nomade digitale. Damir ha conseguito una laurea in fisica, che secondo lui gli ha fornito le capacità di pensiero critico necessarie per avere successo nel panorama in continua evoluzione di Internet.
Altri articoli
Damir è il team leader, il product manager e l'editore di Metaverse Post, che copre argomenti come AI/ML, AGI, LLM, Metaverse e Web3campi correlati. I suoi articoli attirano un vasto pubblico di oltre un milione di utenti ogni mese. Sembra essere un esperto con 10 anni di esperienza in SEO e marketing digitale. Damir è stato menzionato in Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto e altre pubblicazioni. Viaggia tra Emirati Arabi Uniti, Turchia, Russia e CSI come nomade digitale. Damir ha conseguito una laurea in fisica, che secondo lui gli ha fornito le capacità di pensiero critico necessarie per avere successo nel panorama in continua evoluzione di Internet.
