Я как-то пропустил, а оказывается в прошлый вторник,...

Я как-то пропустил, а оказывается в прошлый вторник, 25го июля, в Сенат снова ходили большие фигуры мира машинного обучения (или "Искусственного Интеллекта", как это сейчас модно).

Были приглашены:
— Dario Amodei, CEO Anthropic
— Yoshua Bengio, один из крёстных отцов глубокого обучения, съевший на этом собаку (серьёзно, его h-index в Computer Science — второй среди всех исследователей, то есть это буквально один из самых цитируемых учёных). Вот его Google Scholar
— Stuart J. Russell, про него ничего не знаю, эксперты приглашаются в комментарии. Вот на всякий случай его wiki-странчика

Запись слушания: https://youtu.be/hm1zexCjELo

Я её послушаю, саммари скорее всего не будет (хотя прошло 6 дней, наверняка уже где-то написали?), но вот за что у меня зацепилось ухо в показаниях Dario Amodei (таймкод). Я как раз на неделе писал о том, что Anthropic занимаются анализом навыков больших языковых моделей в области биологического оружия.


Так вот, ниже вольный перевод слов Dario:

Я хочу сфокусироваться на среднесрочных рисках <...>. Последние 6 месяцев мы в коллаборации с учеными мирового уровня в области биозащиты занимались анализом навыков и роли AI в биологии в контексте неправильного использования [речь про биологическое оружие].
Сегодня некоторые шаги (и необходимые для их осуществления знания) в процессе производства биооружия не могут быть обнаружены в поисковиках и не описаны в учебниках, и требуют очень высокого уровня экспертизы. Это является вещью, которая до сих пор спасает нас от масштабных атак.
Мы обнаружили, что современные большие языковые модели могут предоставить сведения касательно некоторых из этих шагов, хоть и не полностью и не со стопроцентной уверенностью и надёжностью [то есть всё еще совершают ошибки].
<...> Однако простая экстраполяция навыков этих систем на те, что мы ожидаем увидеть на горизонте 2-3 лет, указывает на то, что AI сможет описывать все необходимые промежуточные шаги, упрощая доступ всё большему количеству злоумышленников к масштабным биологическим атакам.

В комментарии приглашаются эксперты по геополитике, которые расскажут, что к чему.

UPD: в комментарии подписчик скинул ссылку на пост с кратким обзором позиций других спикеров: https://t.me/howtocomply_AI/243