The mission of OpenAI is to ensure AGI benefits all of humanity, which means both building safe and beneficial AGI and helping create broadly distributed benefits — так начинается свежий блогпост OpenAI под названием «OpenAI и Elon Musk»
Это — публичный ответ на иск последнего в адрес компании. OpenAI намерены убедить суд отклонить иск (если вы не в курсе, о чём речь — начало тут).
1️⃣В OpenAI давно (в 2017) поняли, что создание AGI потребует куда большего количества ресурсов, чем предполагалось изначально
Компания потратила много времени, пытаясь представить вероятный путь к AGI. В начале 2017 года они пришли к выводу, что создание AGI потребует огромных вычислительных ресурсов. Начались прикидки, сколько вычислительных ресурсов может потребоваться для AGI. В тот момент пришло осознание, что для успеха нашей миссии понадобится гораздо больше капитала — миллиарды долларов в год, что было гораздо больше, чем любой из тогдашних инвесторов, особенно Elon, мог бы собрать как некоммерческая организация.
2️⃣OpenAI и Elon признали, что для привлечения этих ресурсов потребуется создание коммерческой организации
Когда началось обсуждение коммерческой структуры, Elon хотел, чтобы OpenAI объединились с Tesla, или он хотел получить полный контроль. После обсуждений Elon покинул OpenAI, заявив, что у Google/DeepMind должен появиться достойный конкурент [а не вот это].
Оба предложения Elon противоречат духу миссии компании. После отказа Elon сказал, что пойдет делать конкурента с Tesla, но будет помогать OpenAI. В декабре 2018-го он написал письмо, в котором указал, что считает нужным привлечение нескольких миллиардов долларов в год. [моё примечание: странно, что он это писал и предлагал, а теперь подаёт в суд, что мол они действительно поднимают деньги!]
3️⃣OpenAI продвигается к своей миссии через создание широкодоступных и полезных инструментов
Компания предоставляет доступ к самому мощному на сегодняшний день ИИ, включая бесплатную версию, которой ежедневно пользуются сотни миллионов людей. Например, Албания использует инструменты OpenAI, чтобы ускорить свое вступление в ЕС (по оценкам — на целых 5 лет. Тут и далее — без ссылок на источники). Digital Green помогает увеличить доходы фермеров в Кении и Индии, снижая стоимость услуг по распространению сельскохозяйственных знаний в 100 раз за счет использования технологии. Lifespan, крупнейший поставщик медицинских услуг в Род-Айленде, использует GPT-4, чтобы упростить формулировки в формах согласия на хирургическое вмешательство (с уровня чтения в колледже до уровня 6-го класса — так, что даже бабушка поймёт). Исландия использует GPT-4 для сохранения исландского языка.
Elon понимал (а многие подписчики у нас тут — нет), что миссия не подразумевает открытие кода AGI или всех связанных с этим наработок. Musk ответил «Yup» на письмо Ilya Sutskever от 2016-го года следующего содержания: «По мере того, как мы приближаемся к созданию ИИ, имеет смысл стать менее открытыми. Открытость OpenAI означает, что каждый должен иметь возможность извлечь выгоду из плодов AGI после его создания, но совершенно нормально не делиться наукой...». Само утверждение не спорное для меня, может быть спорным для вас, но Elon на него согласился, так что критика в иске выглядит странной.
(fun fact: нашёлся Ilya Sutskever, он значится одним из авторов этого блогпоста)
Примечание 1: ко всем пунктам приложены тексты писем, там всё однозначно. Примечание 2: по мне так эти письма очень глубоко закапывают иск, и он не должен дойти до суда.