Ночью вышла новая (2044ая

Ночью вышла новая (2044ая 😰) серия подкаста The Joe Rogan Experience, гостем которой был Sam Altman. Я обычно этот подкаст не слушаю/не смотрю, но для вас постарался выписать самое интересное.

В целом, было куда меньше разговоров вокруг AI/AGI/дальнейшего развития, и больше про AI-политиков, психоделический опыт, аналогии с ядерным оружием и так далее. Всего, как мне показалось, есть 3 интересных новых тезиса, достойных внимания:

19ая минута — OpenAI исследуют направления считывания мыслей без инвазивных методов (подключения проводков в мозг). Пока про это не было новостей или анонсов, и я не видел вакансий у OpenAI под данное направление. Sam описывает ситуацию, что будет некоторый внешний девайс вроде очков или гарнитуры, и хочется понять, как далеко можно уйти на этом.

39ая минута — если бы Sam мог нажать на кнопку, чтобы убрать все конфликты и вместе с тем
стремления у людей, то он бы на неё не нажал, так как они являются очень важными частями переживаемого опыта и всей истории. Также, скорее всего, с приходом AGI и суперинтеллекта эти вещи не уйдут, по крайней мере не за одно поколение людей.

80ая минута — Sam говорит что сейчас у них наконец-то есть идеи по AI Alignment, и что они могут что-то пробовать и двигаться вперёд. До этого обычно использовался аналог метафоры "мы с фонариком за каждый угол заглянем, но не знаем, что сработает".

Послушать подкаст на Spotify: https://open.spotify.com/episode/66edV3LAbUXa26HG1ZQaKB
Посмотреть видео (неофициальное) можно тут: https://www.dailymotion.com/video/x8on42y


В целом, если пропустили, то куда интереснее посмотреть подкаст у Lex Fridman или прочитать моё саммари выше в канале: https://t.me/seeallochnaya/225 и https://t.me/seeallochnaya/226