Завсегдатаи lesswrong и борцы за alignment в шоке...

Завсегдатаи lesswrong и борцы за alignment в шоке — самая важная команда OpenAI потеряла двух сотрудников.

Причина увольнения: утечка информации (какой - не сообщается). Кому сказали, что сказали — 

🤷‍♂️

Если источники The Information верны, то Pavel Izmailov и Leopold Aschenbrenner были уволены. Они оба были частью команды Superalignment (возглавляемую Sutskever'ом), целью которой был (и есть?) контроль и управление сильным искусственным интеллектом (сверхинтеллектом), который, к примеру, мог бы двигать научный прогресс человечества.

Вероятно, было проведено какое-то внутреннее расследование, которое закончилось совсем недавно (или же само событие произошло вот только-только), ибо Pavel буквально месяц назад презентовал свою статью на OpenAI Forum (я смотрел live-трансляцию) и был полноценным сотрудником (не сидел в сторонке, как Ilya сейчас).

Статус Sutskever'а пока не ясен. С одной стороны его не уволили в этот же заход, с другой — от него всё ещё нуль новостей, и надежды на возвращение меньше с каждым днём 🙁 моя, к сожалению, пессимистичная ставка — возвращения не будет 😅

В целом очень жалко — людей, которые хотели бы делать Alignment, очень мало, а тех, кто мог бы — ещё меньше. На момент последней статьи от Superalignment Team в авторах числилось 12 авторов, включая Ilya 🫡 а Jan Leike, второй руководитель команды, часто в подкастах сокрушался, что людей мало, и он готов хайрить почти всех (если скиллсет подходит).

---

Могло ли быть так, что эти двое были источниками The Information, и больше надёжных сливов мы не увидим?

😰(но кто тогда слил новости про увольнение сливальщиков? кек)