Společnost AMD oznámila dostupnost svých akcelerátorů a procesorů MI300, které pomohou podpořit pokrok v generativní umělé inteligenci.
Společnost uvádí, že AMD Instinct MI300X a AMD Instinct MI300A mají lepší kapacitu paměti a jsou energeticky účinnější než jejich předchůdci.
Řada MI300 byla navržena tak, aby trénovala a provozovala velké jazykové modely (LLM), přičemž AMD prohlašuje, že jde o nejvýkonnější akcelerátory pro generativní AI na světě.
Během svého hlavního projevu na akci společnosti Advancing AI v Kalifornii generální ředitelka AMD Dr. Lisa Su řekla: „Předchozí rok nám ukázal, že AI není jen skvělá nová věc, je to budoucnost výpočetní techniky. V AMD, když o tom přemýšlíme, ve skutečnosti považujeme AI za nejtransformovanější technologii za posledních 50 let.“
AMD Instinct MI300A akcelerovaná procesorová jednotka (APU) kombinuje CDNA 3 GPU s nejnovějším CPU AMD Zen 4 x86 a 128GB HBM3 paměti. AMD uvedlo, že architektura datového centra CDNA 3 byla optimalizována pro výkon a energetickou účinnost a poskytuje více než třikrát vyšší výkon pro klíčové datové typy AI.
Společnost uvedla, že poskytuje přibližně 1,9× vyšší výkon na watt u pracovních zátěží FP32 HPC a AI a 30krát vyšší energetickou účinnost než jeho předchůdce. Ve srovnání s Nvidia H100 AMD uvedla, že MI300A má 1,6× větší kapacitu paměti, 128 GB. Má tepelný výkon procesoru (TDP) 760 W, nad 700 W u H100 SXM.
GPU MI300X je také postavena na architektuře CDNA 3 a má 1,5× větší kapacitu paměti (192 GB) a 1,7× větší špičkovou teoretickou šířku pásma paměti (5,3 TB/s) než předchozí verze M1250X, čímž poskytuje téměř o 40 procent více výpočetních jednotek. AMD také tvrdí, že její nová GPU MI300X překračují rychlost čipů Nvidia H100 a nabízejí 1,3 petaflopů FP16 a 2,6 petaflopů výkonu FP8.
Má TDP 750W.
„Je to skutečně nejpokročilejší produkt, jaký jsme kdy postavili, a je to nejpokročilejší akcelerátor AI v oboru,“ řekla Su.
Su dodala, že AMD již muselo revidovat své loňské předpovědi o růstu na trhu s akcelerátory datových center, přičemž společnost nyní očekává, že sektor v příštích čtyřech letech poroste o více než 40 procent a v roce 2027 dosáhne 400 miliard dolarů.
„Dostupnost a schopnost GPU compute je nejdůležitější hnací silou přijetí AI,“ řekla.
Nvidia plánuje uvedení H200 příští rok se 141 GB HBM3e a šířkou pásma paměti 4,8 TB/s.
Zdroj: datacenterdynamics.com
