The Information, надёжный источник с инсайдерами в OpenAI,...

The Information, надёжный источник с инсайдерами в OpenAI, опубликовали интересную статью: Microsoft and OpenAI Plot $100 Billion Stargate AI Supercomputer

Как понятно из названия, речь пойдет о суперважной теме в контексте AI: вычислительные мощности. По словам трех человек, участвовавших в приватных обсуждениях предложения о создании нового кластера, руководители из Microsoft и OpenAI обсуждают суперкомпьютер с миллионами чипов. Цифра в $100B звучала у двух источников — один якобы говорил с Sam Altman, другой видел это в документах по оценке цены от Microsoft.

По плану, суперкомпьютер будет называться Stargate. Он должен быть запущен в 2028-м и разрастись к 2030-му. Для того, чтобы проект состоялся, инженеры пытаются придумать, как в одну серверную стойку поместить больше чипов (чтобы в одно здание в рамках одной подсети больше мощностей влезло). Основная проблема — отвод тепла, выделяемого при работе.

Но вообще это — пятая часть совместного плана OpenAI x Microsoft. А сейчас они находятся на третьем этапе. Что же нас ждёт в будущем? Чётвертый этап 🤨

Сейчас Microsoft работает над меньшим суперкомпьютером, который планирует запустить примерно в 2026 году. Он уже заложен в штате Висконсин как расширение существующего датацентра, и стоимость расширения оценивается в (всего!) $1B, но потенциально может стать $10B (видимо, будут докидывать ещё мощности в ожидании Stargate).

Итого планируется потратить ~$115B. Много это или мало? Если верить цифрам, это в три раза больше, чем CAPEX Microsoft в части серверов, ДЦ и оборудовния за 2023-й. Так что на горизонте 6 лет звучит +- окей.

=====
Отдельная рубрика «два инсайда»:
1. OpenAI планирует выпустить следующую флагманскую LLM в начале следующего года. По словам источника, до этого времени компания может выпустить несколько промежуточных дополнительных улучшений.
2. В приватной беседе Altman якобы заявил, что Google в ближайшем будущем будет обладать большей вычислительной мощностью, чем OpenAI. (отсюда и желание экзекьютить план на $7T, ага 😀)
=====

Короче, модели, которые нас ждут к 2030-му — это п*здец

😨... LLMки сегодняшего дня будут казаться игрушками.