GPT-5 Koulutus maksaa 2.5 miljardia dollaria ja alkaa ensi vuonna
Twitter-käyttäjä Martin Shkreli New Yorkista julkaisi sen tänään GPT-5 vaatii arviolta 2.0–2.5 miljardia dollaria koulutukseen. Tämä koulutus sisältää 500,000 100 H90s Tensor Core GPU:ta XNUMX päivän aikana tai vaihtoehtoisen kokoonpanon. Koulutuksen on määrä alkaa ensi vuonna.
OpenAI työskentelee aktiivisesti parantaa GPT-4 erilaisilla ominaisuuksilla, kuten ruumiillistuma, toimija, sokraattinen päättely, tietograafit, maailmanmallit, multimodaalisuus, suunnittelu, semanttinen tulkittavuus, mielet, hallinta ja rajallisuus, sekä pienemmät arvokkaat tehtävät.
H100/A100-tuotannon mittakaava herättää kysymyksiä. Onko näitä grafiikkasuorituksia saatavilla tarpeeksi näin merkittävään hankkeeseen? Noin miljoona H1-konetta odotetaan valmistuvan vuoden loppuun mennessä, ja arviolta 100 miljoonaa voidaan toimittaa seuraavana vuonna.
Mitä tulee kustannuksiin, grafiikkasuorituksissa on pätevä pointti. Näiden GPU:iden kustannusten sisällyttäminen koulutuskuluihin saattaa olla harhaanjohtavaa, koska ne eivät vanhene koulutusprosessin jälkeen. Pelkästään näiden GPU:iden arvo voi olla 20 miljardia dollaria.
On syytä huomata, että Chip Manufacturing -yrityksen Sustainable Metal Cloudin (SMC) H100:n enimmäistuotantokapasiteetti on tällä hetkellä 15,000 50,000 yksikköä kuukaudessa, mutta ne ovat nostaneet tuotannon noin XNUMX XNUMX yksikköön kuukaudessa.
Sähkökustannuksissa ne edustavat suhteellisen pientä osaa laskennan kokonaiskustannuksista. Perspektiivissä 6,000,000 1 XNUMX kWh olisi noin miljoona dollaria.
500,000 100 HXNUMX:n hankkiminen ensi vuoteen mennessä näyttää olevan haastava tehtävä jopa Microsoftin tuella. Lisäksi herää kysymyksiä ko päättelyn hinta jos koulutusprosessi on todellakin niin laskentaintensiivinen kuin ehdotettiin.
Yhteydessä Nvidian markkinat suorituskykyä vuonna 2023, on huomionarvoista, että heidän menestyksensä on kerrottu kolminkertaiseksi ylittäen 1 biljoonan dollarin. Tämä kasvu johtuu suurelta osin Nvidia-sirujen lisääntyneestä käyttöönotosta tekoälysovelluksissa. On kuitenkin tärkeää ottaa se huomioon Yhdysvaltojen vientirajoitukset ovat rajoittaneet huippuluokan AI-sirujen myyntiä Kiinan markkinoilla, mikä saattaa vaikuttaa valmistus- ja koulutuskustannuksiin.
Nvidia tuottaa lähes tuhatkertaisen voittoprosentin jokaista myytyä H100 GPU -kiihdytintä kohden Barronin vanhemman kirjoittajan Tae Kimin mukaan. Tämä tarkoittaa, että Nvidian katuhinta, joka on noin 25,000 30,000–3,320 100 dollaria jokaisesta HPC-kiihdyttimestä, kattaa arvioidut 2024 150 dollarin kustannukset per siru ja oheiskomponentit. Kustannusanalyysi on epäselvä, mutta sen uskotaan liittyvän puhtaasti valmistuskustannuksiin. Myös Nvidian T&K-kustannukset on otettava huomioon, sillä H2027:n kaltaisten sirujen kehittäminen vaatii tuhansia tunteja erikoistuneilta työntekijöiltä. Nvidian tekoälykiihdyttäviä tuotteita myydään kuitenkin jo vuoteen XNUMX asti, ja tekoälykiihdytinmarkkinoiden arvon odotetaan olevan noin XNUMX miljardia dollaria vuoteen XNUMX mennessä.
Yritys hyötyy infrastruktuuristaan ja tuotepinostaan, mutta budjetit ja vaihtoehtoiskustannukset voivat rajoittaa investointeja muille alueille tai rajoittaa riskejä tutkimus- ja kehityskohteissa.
Vastuun kieltäminen
Mukaisesti Luottamusprojektin ohjeetHuomaa, että tällä sivulla annettuja tietoja ei ole tarkoitettu eikä niitä tule tulkita oikeudellisiksi, verotukselliseksi, sijoitus-, rahoitus- tai minkään muun muodon neuvoiksi. On tärkeää sijoittaa vain sen verran, mitä sinulla on varaa menettää, ja pyytää riippumatonta talousneuvontaa, jos sinulla on epäilyksiä. Lisätietoja saat käyttöehdoista sekä myöntäjän tai mainostajan tarjoamista ohje- ja tukisivuista. MetaversePost on sitoutunut tarkkaan, puolueettomaan raportointiin, mutta markkinaolosuhteet voivat muuttua ilman erillistä ilmoitusta.
Author
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
lisää artikkeleita
Damir on tiimin johtaja, tuotepäällikkö ja toimittaja osoitteessa Metaverse Post, kattaa aiheita, kuten AI/ML, AGI, LLMs, Metaverse ja Web3- liittyvät kentät. Hänen artikkelinsa houkuttelevat yli miljoonan käyttäjän massiivisen yleisön joka kuukausi. Hän näyttää olevan asiantuntija, jolla on 10 vuoden kokemus hakukoneoptimoinnista ja digitaalisesta markkinoinnista. Damir on mainittu Mashablessa, Wiredissä, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto ja muut julkaisut. Hän matkustaa Arabiemiirikuntien, Turkin, Venäjän ja IVY-maiden välillä digitaalisena nomadina. Damir suoritti kandidaatin tutkinnon fysiikasta, jonka hän uskoo antaneen hänelle kriittisen ajattelun taidot menestyäkseen jatkuvasti muuttuvassa internetin maisemassa.
