Microsoft vyvíjí AI čip „Athena“ pro velké jazykové modely

25 dubna, 2023 Radek Vyškovský

Microsoft tajně vyvíjí svůj vlastní interní čip umělé inteligence s kódovým označením Athena.

The Information uvádí, že na polovodiči se pracuje od roku 2019 a je k dispozici pro testování malé skupině zaměstnanců společností Microsoft a OpenAI.

5nm procesní uzel Athena je vytvořen pro trénovací software, jako jsou velké jazykové modely (LLM), které jsou jádrem generativního nárůstu umělé inteligence zaznamenaného v posledních měsících. Růst těchto modelů byl ale brzděn nedostatkem GPU ve společnosti Nvidia, která je lídrem na trhu s cvičnými čipy AI.

The Information dříve informovalo, že tento nedostatek vedl Microsoft k tomu, že přiděloval své GPU některým interním týmům.

Procesory Nvidia se také prodávají s vysokou přirážkou, takže interní čipy by mohly být levnějším způsobem, jak provozovat stejnou zátěž. Čipy společnosti Nvidia však mají mimo pouhé koňské síly významnou softwarovou výhodu, většina pracovních zátěží AI je pro ně navržena a vývojářské dědictví zahrnuje desítky let.

Microsoft by mohl příští rok nasadit Athenu pro širší použití v rámci Microsoftu a OpenAI, ale údajně se diskutuje o tom, zda je také zpřístupnit zákazníkům Azure v širším měřítku.

Cloudový rival Google vyvinul vlastní rodinu AI čipů, TPU, které jsou široce považovány za jediný současný konkurenční čip pro vývoj LLM. Amazon má svou vlastní alternativní produktovou řadu Trainium.

Oba jsou k dispozici pouze přes příslušné cloudy a našly si zákazníky. Kromě jejich vlastního použití se také věří, že pomáhají společnostem vyjednávat lepší obchody s Nvidií.

Zdroj: datacenterdynamics.com

Související články

• 

  25 března, 2024 Radek Vyškovský 0

  Výpočetní systémy v NASA Advanced Supercomputing obsahují pouze 48 GPU

  Zvláštní zpráva vypracovaná Úřadem generálního inspektora NASA (OIG) zjistila, že mise vesmírné agentury jsou omezovány nedostatečnými...

  Architektura Datacenter Infrastruktura 

• 

  21 března, 2024 Radek Vyškovský 0

  Blackwell: Nvidia oznamuje další generaci GPU

  Nvidia odhalila svou další rodinu GPU – Blackwell. Společnost tvrdí, že nová architektura GPU umožní zákazníkům...

  Architektura Datacenter HCI Infrastruktura 

• 

  15 února, 2024 Radek Vyškovský 0

  Faraday oznamuje plány na vývoj 64jádrového SoC na bázi Arm na technologii Intel 18A

  Faraday Technology Corporation, lídr v oblasti návrhových služeb ASIC a IP řešení, oznamuje svou spolupráci se...

  Architektura