FuriosaAI představuje server NXT RNGD pro energeticky úspornou AI inferenci

FuriosaAI představuje server NXT RNGD pro energeticky úspornou AI inferenci

Jihokorejský startup FuriosaAI uvedl server NXT RNGD určený pro nasazení v datových centrech, soukromých cloudech i on-premise prostředích. Novinka reaguje na rostoucí poptávku po výpočetním výkonu pro AI inference a zároveň na problémy spojené s vysokou spotřebou energie a náklady na chlazení. Server NXT RNGD je vybaven osmi akceleračními kartami RNGD a ve standardním 4U provedení nabízí výkon až čtyři petaflopy v režimu FP8. K dispozici má 384 GB paměti HBM3 s propustností 12 Tb/s. Každý čip RNGD, vyráběný 5nm technologií TSMC, dosahuje výkonu 512 teraflopů FP8 při TDP 150…

Číst dále...