NeurIPS — это крупнейшая конференция по машинному обучению, обычно...

NeurIPS — это крупнейшая конференция по машинному обучению, обычно проходящая под конец года, в декабре. И каждый год где-то летом начинают проводить соревнования, приуроченные к конференции — а авторов лучших решений приглашают поделиться методами, рассказать, чего они придумали. Я уже писал, что мне не нравятся классические соревнования по ML (и там же указывал причину). Так вот, в рамках этой секции соревнования обычно очень новаторские, экспериментальные...просто fit-predict не заведется!

Я посмотрел список соревнований этого года и подготовил для вас описание интереснейших, с моей точки зрения, задач:

— Machine Unlearning Competition, где нужно заставить модель "забыть" какие-то данные, которые она видела во время тренировки;
— Privacy Preserving Federated Learning Document VQA, где требуется предложить способы распределенного обучения модели, которая отвечает на вопросы по фотографиям документов. То есть нужно сделать такой метод тренировки, что какие-то приватные данные не покидают сервер компании, и при этом модель "узнает" что-то новое (и, собственно, учится). Таким образом можно будет агрегировать данные частных компаний, и переиспользовать их без рисков раскрытия каких-либо данных;
— Large Language Model Efficiency Challenge: 1 LLM + 1GPU + 1Day. Как ясно из названия, нужно на одной видеокарте за 1 сутки обучить лучшую языковую модель. Методы ускорения тренировки и увеличения доступности - это очень важно для опенсорс сообщества. Сейчас очень малое количество людей может позволить себе тренировки моделей на 10B+ параметров.
— The CityLearn Challenge (ссылки нет). Участники должны разработать систему управления энергопотреблением для контроля заряда и разряда аккумуляторов в каждом здании с целью минимизации спроса на электроэнергию из сети, счетов за электроэнергию и выбросов парниковых газов.
— Neural MMO Challenge: Multi-Task Reinforcement Learning and Curriculum Generation, уже четвертое соревнование по обучению агентов игре в мультиплеерные игры. В данном случае необходимо разработать стратегию для управления 8 "игроками", чтобы выполнять различные задачи, связанные с поиском пищи, боем, приобретением и использованием инструментов, а также торговлей предметами. А вокруг вас есть еще 127 таких же команд-восьмерок, которые борются за те же ресурсы! Заход организаторов очень серьезный - выделены гранты на "200,000 A100 hours of GPU time for training and evaluating participants' submissions" 👍

А какие необычные соревнования нравятся вам?