GPT-5 Szkolenia będą kosztować 2.5 miliarda dolarów i rozpoczną się w przyszłym roku
Użytkownik Twittera Martin Shkreli z Nowego Jorku opublikował dzisiaj tę informację GPT-5 będzie wymagać szacunkowo 2.0–2.5 miliarda dolarów na szkolenia. Szkolenie to obejmowałoby 500,000 100 procesorów graficznych H90s Tensor Core przez XNUMX dni lub w alternatywnej konfiguracji. Szkolenie ma się rozpocząć w przyszłym roku.
OpenAI aktywnie pracuje wzmocnienie GPT-4 z różnymi możliwościami, takie jak ucieleśnienie, sprawczość, rozumowanie sokratejskie, wykresy wiedzy, modele świata, multimodalność, planowanie, interpretowalność semantyczna, umysły rojowe, kontrola i ograniczenia, a także mniejsze zadania o wysokiej wartości.
Skala produkcji H100/A100 rodzi pytania. Czy będzie dostępna wystarczająca ilość tych procesorów graficznych dla tak dużego przedsięwzięcia? Oczekuje się, że do końca roku wyprodukowanych zostanie około 1 miliona samolotów H100, a szacunkowo 5 milionów może zostać wysłanych w roku następnym.
Jeśli chodzi o koszt, słuszna uwaga dotyczy procesorów graficznych. Wliczanie kosztów tych procesorów graficznych do wydatków szkoleniowych może być mylące, ponieważ po procesie szkoleniowym nie stają się one przestarzałe. Same procesory graficzne mogą kosztować 20 miliardów dolarów.
Warto zauważyć, że maksymalna zdolność produkcyjna firmy Chip Manufacturing Sustainable Metal Cloud (SMC) dla H100 wynosi obecnie 15,000 50,000 sztuk miesięcznie, ale firma zwiększyła produkcję do około XNUMX XNUMX sztuk miesięcznie.
Pod względem kosztów energii elektrycznej stanowią one stosunkowo niewielką część całkowitych kosztów obliczeniowych. Dla porównania, 6,000,000 1 XNUMX kWh oznaczałoby około XNUMX milion dolarów.
| Związane z: Potencjał przemysłu sztucznej inteligencji w zakresie konkurencyjnego krajowego zużycia energii elektrycznej |
Zakup 500,000 100 HXNUMX do przyszłego roku wydaje się trudnym zadaniem, nawet przy wsparciu Microsoftu. Dodatkowo pojawiają się pytania dot koszt wnioskowania jeśli proces uczenia jest rzeczywiście tak intensywny obliczeniowo, jak sugerowano.
W kontekście Rynek Nvidii wyniki w 2023 r., warto zauważyć, że według doniesień ich sukces potroił się, przekraczając 1 bilion dolarów. Wzrost ten można w dużej mierze przypisać zwiększonemu zastosowaniu chipów Nvidia w aplikacjach AI. Jednak ważne jest, aby to wziąć pod uwagę Ograniczenia eksportowe USA ograniczyły sprzedaż wysokiej klasy chipów AI na rynku chińskim, co może mieć wpływ na koszty produkcji i szkoleń.
Nvidia generuje niemal tysiąckrotny procent zysku Według starszego pisarza Barrona, Tae Kima, za każdy sprzedany akcelerator graficzny H100. Oznacza to, że rynkowa cena Nvidii wynosząca od 25,000 30,000 do 3,320 100 dolarów za każdy akcelerator HPC pokrywa szacunkowy koszt 2024 dolarów na chip i komponenty peryferyjne. Analiza kosztów jest niejasna, ale uważa się, że jest to kwestia czystych kosztów produkcji. Należy również wziąć pod uwagę koszty badań i rozwoju Nvidii, ponieważ rozwój chipów takich jak H150 wymaga tysięcy godzin pracy wyspecjalizowanych pracowników. Jednak produkty Nvidii przyspieszające sztuczną inteligencję są już sprzedawane do 2027 r., a wartość rynku akceleratorów sztucznej inteligencji do XNUMX r. szacuje się na około XNUMX miliardów dolarów.
Firma czerpie korzyści ze swojej infrastruktury i pakietu produktów, ale budżety i koszty alternatywne mogą ograniczać inwestycje w innych obszarach lub ograniczać ryzyko w ośrodkach badawczo-rozwojowych.
| Związane z: Rewolucja sztucznej inteligencji dopiero się zaczyna: Will GPT-5 Osiągnąć sztuczną inteligencję ogólną? |
Odpowiedzialność
Zgodnie z Zaufaj wytycznym projektu, należy pamiętać, że informacje zawarte na tej stronie nie mają na celu i nie powinny być interpretowane jako porady prawne, podatkowe, inwestycyjne, finansowe lub jakiekolwiek inne formy porad. Ważne jest, aby inwestować tylko tyle, na utratę czego możesz sobie pozwolić, a w przypadku jakichkolwiek wątpliwości zasięgnąć niezależnej porady finansowej. Aby uzyskać więcej informacji, sugerujemy zapoznać się z warunkami oraz stronami pomocy i wsparcia udostępnianymi przez wydawcę lub reklamodawcę. MetaversePost zobowiązuje się do sporządzania dokładnych i bezstronnych raportów, jednakże warunki rynkowe mogą ulec zmianie bez powiadomienia.
O autorze
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
Więcej artykułów
Damir jest liderem zespołu, menedżerem produktu i redaktorem w Metaverse Post, obejmujący takie tematy, jak AI/ML, AGI, LLM, Metaverse i Web3-pokrewne pola. Jego artykuły przyciągają każdego miesiąca ogromną publiczność, liczącą ponad milion użytkowników. Wydaje się być ekspertem z 10-letnim doświadczeniem w SEO i marketingu cyfrowym. Damir został wspomniany w Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto i inne publikacje. Jako cyfrowy koczownik podróżuje między ZEA, Turcją, Rosją i WNP. Damir uzyskał tytuł licencjata z fizyki, co jego zdaniem dało mu umiejętności krytycznego myślenia potrzebne do odniesienia sukcesu w ciągle zmieniającym się środowisku internetowym.
