Nvidia odhalila svou další rodinu GPU – Blackwell. Společnost tvrdí, že nová architektura GPU umožní zákazníkům budovat a provozovat generativní AI v reálném čase na velkých jazykových modelech s biliony parametrů při 25x nižších nákladech a spotřebě energie než její předchůdce, řada Hopper.
Amazon, Google, Meta, Microsoft, Oracle Cloud a OpenAI patří mezi společnosti, které potvrdily, že koncem tohoto roku nasadí GPU Blackwell.
Blackwell je pojmenován na počest Davida Harolda Blackwella, matematika, který se specializoval na teorii her a statistiky, a prvního černošského učence uvedeného do Národní akademie věd.
„Po tři desetiletí jsme se snažili o zrychlené výpočty s cílem umožnit transformační průlomy, jako je hluboké učení a AI,“ řekl Jensen Huang, zakladatel a generální ředitel společnosti Nvidia.
„Generativní umělá inteligence je určující technologií naší doby. GPU Blackwell jsou motorem, který pohání tuto novou průmyslovou revoluci. Ve spolupráci s nejdynamičtějšími společnostmi na světě naplníme příslib umělé inteligence pro každé odvětví.“
GPU architektury Blackwell jsou vyráběny na zakázku vytvořeným procesem 4NP TSMC s limitem dvou nitkových křížů s GPU matricemi propojenými 10TBps spojením čip-čip do jediného, sjednoceného GPU.
GPU má 208 miliard tranzistorů, což je nárůst oproti 80 miliardám v sérii Hopper. Je dvakrát větší než Hopper.
Blackwell obsahuje druhou generaci transformátorového enginu a nové 4bitové schopnosti AI inference s plovoucí desetinnou čárkou.
Obsahuje také nový vyhrazený engine pro spolehlivost, dostupnost a servisovatelnost s preventivní údržbou založenou na umělé inteligenci pro spouštění diagnostiky a předpovídání problémů se spolehlivostí.
Blackwell má vyhrazený dekompresní engine pro urychlení databázových dotazů a nezveřejněné „pokročilé důvěrné výpočetní schopnosti“.
Stejně jako u řady Hopper bude Blackwell k dispozici jako „Superchip“ – dvě GPU B200 a CPU Nvidia Grace přes 900GBps propojení mezi čipy.
GB200 Superchip poskytuje až 30násobný nárůst výkonu ve srovnání s GPU Nvidia H100 pro pracovní zátěže LLM inference a snižuje náklady a spotřebu energie až 25x, uvedla Nvidia. Neporovnává to se Superchipem GH200.
„Blackwell nabízí obrovské výkonnostní skoky a urychlí naši schopnost dodávat špičkové modely. Jsme nadšeni, že můžeme pokračovat ve spolupráci s Nvidií na vylepšení výpočtů AI,“ řekl Sam Altman, generální ředitel OpenAI.
Elon Musk, generální ředitel společnosti Tesla a xAI, dodal: „V současné době neexistuje nic lepšího než hardware Nvidia pro AI.“
Podle Nvidie B100, B200 a GB200 pracují mezi 700W a 1200W, v závislosti na SKU a typu použitého chlazení.
Zdroj: datacenterdynamics.com
