"Pretty much you can take any LLM you...

"Pretty much you can take any LLM you like and put into this [HG200] and it will inference like CRAZY" - Д. Хуанг.

А вот и короткая выжимка с презентации CEO NVIDIA, Дженсена Хуанга, где он рассказывает про GH200 и про то, как эти суперчипы хорошо стакаются вместе в очень компактные, но очень мощные супер-компьютеры.

Сервачок с 210 x GH200 можно купить за 8$ млн (выходит ~40k$ за штуку). Думаю для небольшого стартапа в GenAI пойдет 🌚.

@ai_newz