Несмотря на то, что модели доступны с контекстом...

Несмотря на то, что модели доступны с контекстом 200k токенов, уже существуют версии на 1M (как у Google), и в будущем они могут стать доступны и публике.

Из официальной статьи: pdf