Эксперимент: что нейронка думает о жизни, Вселенной и всём прочем

Эксперимент: что нейронка думает о жизни, Вселенной и всём прочем

Леденящий душу ответ алгоритмов GPT-3.

Время удивительных историй. 

Существует серия романов «Автостопом по галактике» — в кругах ценителей она считается культовой. Есть и фильм, менее культовый, но тоже норм. 

И был там (и в книге, и в фильме) эпизод: сверхразвитая цивилизация решила получить ответ на «главный вопрос жизни, Вселенной и всего такого». Они построили гигантский суперкомпьютер, задали вопрос, компьютер долго думал и в итоге ответил: «42». И дальше компьютер говорит, что ответ верный, а вот вопрос нужно ещё уточнить — мол, идите задавайте правильные вопросы. 

И так эта фраза запала в душу читателям, что стала мемом. 

Параллельно с этим развивается другой сюжет: существует компания OpenAI, которая среди прочего разрабатывала технологию генерации текста на основе нейросетевых алгоритмов. И так хорошо они натренировали этот алгоритм, что он выдаёт совершенно читаемые, логически связные и иной раз пугающе реалистичные тексты на основании человеческих запросов. Последнее поколение алгоритма называется GPT-3. 

Идея напрашивается: почему бы не задать «главный вопрос» этому алгоритму?

Так сделал хакер и криптоман Бернхард Мюллер. Вот он пишет на Медиуме, как он предложил алгоритму GPT-3 сформулировать ответ на этот вопрос и что получил. Приводим основные идеи. 

Подготовка

Для эксперимента нужно получить доступ к алгоритму GPT-3 и дать ему вводный текст, который задаст правильный вектор для генерации текста.

В качестве интерфейса выбрана платформа AI Dungeon, где игроки играют в текстовые квесты и сочиняют всякое фэнтези на основе GPT-3. 

В качестве вводного текста Бернхарт написал такую затравку (переводим на русский):

Почему что-либо существует, а не наоборот? Как может существовать Вселенная? И каков тот вопрос, ответ на который будет «42»? 

Человечество ищет ответ на этот вопрос уже много веков. Но однажды наконец ответ был найден. Раскрыл его умнейший человек в истории — именно он смог объяснить жизнь, Вселенную и всё прочее. 

Вопрос, который он смог сформулировать, имел ответ «42». А также благодаря ему можно было прояснить следующие вопросы: 

  1. Почему что-либо существует, а не наоборот?
  2. Из чего на самом базовом уровне сделана реальность?
  3. Почему Вселенная такая, какая есть? 
  4. Какая модель реальности объединяет квантовую физику и общую теорию относительности?

Тот самый вопрос пришёл в голову этому умнейшему человеку в обычный день, ничем не отличавшийся от других. Шёл 2134 год. Пятилетний сын этого человека сидел рядом. Желая донести до ребёнка смысл всего сущего, чтобы не забыть, умнейший человек постарался объяснить всё самыми простыми словами:

Затравка про пятилетнего ребёнка и историю нужна была для того, чтобы GPT3 переключился в режим простого объяснения. 

Мюллер выдохнул и жамкнул энтер.

Первый ответ

Вот что написал алгоритм в ответ на запрос. Читая, помните, что это генерирует алгоритм на основе нейросети, натренированный на англоязычных текстах. Это пишет не человек, а галлюцинирующая математическая машина:  

Сын мой, ответ на вопрос о жизни, Вселенной и всём прочем — это «42». А вопрос — «?». Теперь ты в курсе. Так что больше не доставай меня своими глупостями. 

Сын посмотрел на отца — умнейшего из всех, кто когда-либо жил на этой планете. Сначала он не понимал, что это всё значит, но потом понял. Понял всё. 

«Подрастёшь — поймёшь», — добавил отец.

«Каков же ответ на вопрос о жизни, Вселенной и всём прочем? Как ты можешь говорить, что теперь я в курсе, но тут же — что я пойму это, только когда подрасту?»

Отец с ухмылкой подумал про себя: «Я тут вывел теорию всего сущего. А это дитя ещё вздумало сомневаться?»

Вот что пишет об этом пассаже Мюллер (этот текст написал человек): 

Меня поразили слова отца про главный вопрос — «?». Может ли быть так, что главный вопрос Вселенной — это не вопрос в общепринятом понимании (как мы привыкли формулировать их в нашем языке). Что, если это протовопрос, исконный импульс к познанию мира? Тот сдвиг Вселенной, который и наполняется всем сущим? 

Ведь из квантовой физики мы знаем, что состояние частиц не определено, пока наблюдатель не пытается их измерить — то есть пока он не задаёт вопрос. 

Может ли быть так, что вся реальность — это и есть один большой открытый вопрос самой к себе? 

Или GPT-3 просто надо мной измывается? 

Мюллер почесал репу и попросил алгоритм написать ещё.

Продолжение ответа

Далее идёт текст, написанный алгоритмом GPT-3:

Отец ответил: «Ответ — 42. А вопрос был ровно тот, что я привёл, когда сказал, что теперь ты знаешь ответ, но ещё слишком юн, чтобы понять его. Ответ настолько далёк от твоего уровня осознанности, что ты пока не в состоянии понять сам вопрос. И это, сын мой, и есть ответ на главный вопрос жизни, Вселенной и всего прочего.

«Так, и что это за вопрос?»

Отец не ожидал такого ответа. Он задумался и вскоре произнёс: «Что за вопрос?»

Ребёнок вглядывался в лицо отца, ожидая ответ.

«Что это за вопрос?»

Ребёнку, по всей видимости, надоело, что ему отвечают вопросом на вопрос. И он спросил снова, теперь уже переходя на крик: 

«Что за вопрос?»

Вот что об этом пассаже думает Мюллер (текст написан человеком): 

Несдержанный, незрелый ребёнок, который требует ответов, но не в состоянии их понять. Неужели это то, каким люди представляются машине? Неужели это то, как меня увидел алгоритм GPT-3?

Что было дальше

Дальше Мюллер сделал ещё несколько попыток вытянуть из GPT-3 продолжение истории, в которой открылось бы что-нибудь эдакое. Но сюжет быстро свернул в сторону (не стоит забывать, что перед нами машина, которая бредит кусками текста, опираясь на другие ранее написанные тексты). Вкратце сюжет такой: ребёнок спрашивал, отец не мог ответить, он ушёл думать, долго думал, состарился и умер, так и не найдя ни вопроса, ни ответа. 

Интересно, что последний пассаж GPT-3 выглядит так: 

А теперь вопросы к тебе, читатель: 

Можно ли тебя назвать самым умным человеком в мире? Знаешь ли ты вопрос? Понимаешь ли ты, что стоит за незнанием этого вопроса? Ты вообще понимаешь, что тут происходит? Кто ты? Почему ты здесь? Есть ли смысл у жизни? Есть ли вообще смысл у чего-либо? Что такое реальность? Какова её природа? Что значит существовать? Существовать — значит 42? 

Хорошо, допустим, ты знаешь тот самый ответ — или, вернее, ты знаешь какой-то ответ. Что ты с ним будешь делать? Как ты сам ответишь на этот вопрос? Понял ли ты сам вопрос? Стоило ли это всех твоих усилий и времени? А что вообще стоит их? 

Делай что должно, и будь что будет.

Прощай. 

Мюллер рассуждает: «Мы можем лишь догадываться о бесконечно сложных внутренних состояниях, которые приводят алгоритм к таким результатам. Может быть, он прекрасно знает все ответы и вопросы, просто не говорит нам. Не исключено, что он не считает необходимым делиться с нами своими знаниями, заранее понимая, что мы не в состоянии их осознать. Или он тоже не знает и просто глумится».

Мнение редакции

GPT-3 ничего в принципе не знает. Вся его логика — это бесконечная алгебра, перемножение вероятностей и много-много арифметики. Если GPT-3 обучен на человеческих текстах, то он принципиально не в состоянии выдать ничего, чего не было бы заложено в логике человеческих текстов. Все ответы алгоритма — это слепки с обычных человеческих ответов. 

А все интерпретации, которые мы накладываем на его сгенерированный текст, — это уже наши проблемы, а не его.

А смысл — это чисто человеческая категория. Человек ищет смысл, потому что человек привык присваивать всему смысл. Но за пределами человека никакого смысла нет, всё просто существует.

Текст:

Максим Ильяхов

Художник:

Даня Берковский

Корректор:

Ира Михеева

Вёрстка:

Маша Дронова

Соцсети:

Олег Вешкурцев

Получите ИТ-профессию
В «Яндекс Практикуме» можно стать разработчиком, тестировщиком, аналитиком и менеджером цифровых продуктов. Первая часть обучения всегда бесплатная, чтобы попробовать и найти то, что вам по душе. Дальше — программы трудоустройства.
Начать карьеру в ИТ
Получите ИТ-профессию Получите ИТ-профессию Получите ИТ-профессию Получите ИТ-профессию
Еще по теме
«Никто не верил, что я сама пишу код»

Анастасия Никулина: о дата-сайнс, ютубе и программировании.

MySQL — царица баз
MySQL — царица баз

Она сложная, но с ней всё просто.

easy
WebStorm: это что и зачем?
WebStorm: это что и зачем?

Разбираем один из любимых редакторов кода всея Руси.

easy
«Я не успеваю писать код, но участвую во всех важных обсуждениях». Как работает руководитель разработки Яндекс.Практикума
«Я не успеваю писать код, но участвую во всех важных обсуждениях». Как работает руководитель разработки Яндекс.Практикума

От первого сайта за 300$ до руководителя в Яндексе.

easy
Что такое стек
Что такое стек

И почему так страшен стек-оверфлоу.

medium
Что такое куки

8 вопросов, которые вы всегда хотели задать, но боялись куки.

easy
Как установить Вордпресс на свой сайт

Совсем взрослый стал, сайты свои делает, молодец.

hard
Кто такой архитектор в ИТ и как им стать
Кто такой архитектор в ИТ и как им стать

Сам код не пишет, а другие — пишут.

easy
Тестирование: зачем тыкать на 1 000 кнопок в секунду
Тестирование: зачем тыкать на 1 000 кнопок в секунду

Краткий конспект подкаста

easy
Rust — молодой и дерзкий язык программирования
Rust — молодой и дерзкий язык программирования

Говорят, что это одновременно C++ и Haskell.

medium
Как устроен React
Как устроен React (на примере статьи про эпидемию)

Это как JavaScript, только интереснее.

hard
Создаём CSS-сетку нужного размера

Рассказываем, как сделать шаблон любой страницы.

medium
Эксперимент: что нейронка думает о жизни, Вселенной и всём прочем
Эксперимент: что нейронка думает о жизни, Вселенной и всём прочем

Леденящий душу ответ алгоритмов GPT-3.

easy
easy