AMD představuje novou čipovou sadu pro generativní AI pro konkurenční Nvidii
Stručně
AMD v úterý na premiéře Data Center a AI Technology Premier představila svá řešení CPU a AI akcelerátorů.
Polovodičová společnost představila akcelerátor AMD Instinct MI300X, který je podle ní „nejpokročilejší akcelerátor na světě pro generativní AI“.
Společnost Hugging Face oznámila, že bude optimalizovat tisíce svých modelů na platformách AMD.
Na „Datovém centru a premiéře technologií AI“ v úterý americká polovodičová společnost Advanced Micro Devices (AMD) odhalen jeho řešení CPU a AI akcelerátorů, protože se snaží konkurovat Nvidii na trhu výroby čipů.
To přichází v době, kdy společnosti AI čelí omezenému přístupu k GPU uprostřed generativního šílenství AI. Během akce společnost AMD učinila řadu oznámení, která představila svou strategii platformy AI.
Společnost odhalila nové podrobnosti o řadě akcelerátorů AMD Instinct™ MI300, včetně představení akcelerátoru AMD Instinct MI300X, o kterém tvrdí, že je „nejpokročilejším akcelerátorem na světě pro generativní AI“. MI300 by mohl potenciálně konkurovat čipové sadě Nvidia H100 a dokonce i Superčip GH200 Grace Hopper který je v současné době ve výrobě.
AMD Instinct MI300X vs Nvidia H100
V současné době Nvidia dominuje trhu GPU s více než 80% podílem na trhu. H100 je nejrychlejší GPU pro AI, HPC a analýzu dat:
- H100 je první GPU s čtvrtou generací Tensor Cores společnosti Nvidia, která jsou navržena tak, aby urychlila trénink a vyvozování AI. Tensor Cores H100 jsou až 7x rychlejší než předchozí generace GPT-3 modely.
- H100 je také vybavena novou Hopper Memory od Nvidie, což je paměťový systém s vysokou šířkou pásma a nízkou latencí navržený pro urychlení datově náročného pracovního zatížení. Paměť Hopper Memory je až 2x rychlejší než předchozí generace, což z ní dělá nejrychlejší dostupný paměťový systém GPU.
- H100 je první GPU, který podporuje novou architekturu CPU Grace od Nvidie, která je navržena tak, aby urychlila výpočty exascale. H100 a Grace CPU mohou spolupracovat a poskytovat až 10x vyšší výkon než systémy předchozí generace.
- GPU Nvidia H100 má kapacitu paměti 188 GB, což je nejvyšší kapacita paměti ze všech GPU, které jsou v současnosti na trhu.
Pokud jde o ceny, čipová sada Nvidia obvykle nese cenovku přibližně 10,000 XNUMX $. Nicméně, čipset byl uvedené na eBay až za 40,000 XNUMX $. Na druhou stranu, AMD na své nové čipy ještě nenalepilo cenovku.
S nadcházejícím vydáním AMD Instinct MI300X plánovaným na konec tohoto roku by nový akcelerátor paměti mohl potenciálně svrhnout dominanci čipové sady Nvidia H100 na trhu. Podle a Reuters zpráva, cloudová jednotka AWS zvažuje použití nových čipů AMD.
MI300X se může pochlubit slibnými specifikacemi, jako jsou:
- 192 GB paměti HBM3 poskytuje výpočetní a paměťovou efektivitu potřebnou pro trénování velkých jazykových modelů a odvození pro generativní pracovní zátěže AI.
- Velká paměť pojme velké jazykové modely, jako je Falcon-40, model s parametry 40B na jediném akcelerátoru MI300X
"AI je defitechnologie utvářející další generaci výpočetní techniky a největší příležitost pro strategický růst pro AMD. Laserově se zaměřujeme na urychlení zavádění platforem AMD AI ve velkém v datovém centru, v čele se spuštěním našich akcelerátorů Instinct MI300 plánovaným na konec tohoto roku a rostoucím ekosystémem podnikového softwaru AI optimalizovaného pro náš hardware,“ AMD Předsedkyně a generální ředitelka Dr. Lisa Su uvedla v prohlášení.
Softwarová platforma AI společnosti AMD
Spolu s odhalením nového čipsetu AMD také představilo softwarový ekosystém ROCm – kolekci softwarových nástrojů a zdrojů – navržených pro akcelerátory datových center. Společnost zdůraznila spolupráci s lídry v oboru, kteří se připojili k AMD na pódiu k diskusi.
PyTorch, populární framework pro umělou inteligenci, se spojil s AMD a PyTorch Foundation za účelem integrace sady softwaru ROCm. Tato integrace zajišťuje, že PyTorch 2.0 je okamžitě podporován na všech akcelerátorech AMD Instinct, což vývojářům umožňuje používat širokou škálu modelů AI poháněných PyTorchem na akcelerátorech AMD.
Hugging Face, otevřená platforma pro tvůrce AI, také oznámila plány na optimalizaci tisíců svých modelů speciálně pro platformy AMD.
V květnu společnost AMD vykázala tržby ve výši 5.4 miliardy dolarů za první čtvrtletí roku 2023, což je meziroční pokles o 9 %. Po oznámení strategie AI se jeho akcie od dnešního otevření trhu zvýšily o více než 2 % a aktuálně se v době psaní tohoto článku obchodují za 127 USD. Barclays, Jefferies a Wells Fargo zvýšily cílovou cenu AMD na 140–150 USD.
Čtěte více:
Odmítnutí odpovědnosti
V souladu s Pokyny k projektu Trust, prosím vezměte na vědomí, že informace uvedené na této stránce nejsou určeny a neměly by být vykládány jako právní, daňové, investiční, finanční nebo jakékoli jiné formy poradenství. Je důležité investovat jen to, co si můžete dovolit ztratit, a v případě pochybností vyhledat nezávislé finanční poradenství. Pro další informace doporučujeme nahlédnout do smluvních podmínek a také na stránky nápovědy a podpory poskytnuté vydavatelem nebo inzerentem. MetaversePost se zavázala poskytovat přesné a nezaujaté zprávy, ale podmínky na trhu se mohou bez upozornění změnit.
O autorovi
Cindy je novinářka v Metaverse Post, pokrývající témata související s web3, NFT, metaverse a AI, se zaměřením na rozhovory s Web3 hráči v oboru. Mluvila s více než 30 manažery na úrovni C a počítání a přinesla jejich cenné poznatky čtenářům. Cindy pochází ze Singapuru a nyní sídlí v Tbilisi v Gruzii. Je držitelkou bakalářského titulu v oboru komunikačních a mediálních studií na University of South Australia a má desetileté zkušenosti v žurnalistice a psaní. Spojte se s ní přes [chráněno e-mailem] s tiskovými nabídkami, oznámeními a příležitostmi k rozhovorům.
Další články
Cindy je novinářka v Metaverse Post, pokrývající témata související s web3, NFT, metaverse a AI, se zaměřením na rozhovory s Web3 hráči v oboru. Mluvila s více než 30 manažery na úrovni C a počítání a přinesla jejich cenné poznatky čtenářům. Cindy pochází ze Singapuru a nyní sídlí v Tbilisi v Gruzii. Je držitelkou bakalářského titulu v oboru komunikačních a mediálních studií na University of South Australia a má desetileté zkušenosti v žurnalistice a psaní. Spojte se s ní přes [chráněno e-mailem] s tiskovými nabídkami, oznámeními a příležitostmi k rozhovorům.
