Эксперимент: что нейронка думает о жизни, Вселенной и всём прочем

Эксперимент: что нейронка думает о жизни, Вселенной и всём прочем

Леденящий душу ответ алгоритмов GPT-3.

Время удивительных историй. 

Существует серия романов «Автостопом по галактике» — в кругах ценителей она считается культовой. Есть и фильм, менее культовый, но тоже норм. 

И был там (и в книге, и в фильме) эпизод: сверхразвитая цивилизация решила получить ответ на «главный вопрос жизни, Вселенной и всего такого». Они построили гигантский суперкомпьютер, задали вопрос, компьютер долго думал и в итоге ответил: «42». И дальше компьютер говорит, что ответ верный, а вот вопрос нужно ещё уточнить — мол, идите задавайте правильные вопросы. 

И так эта фраза запала в душу читателям, что стала мемом. 

Параллельно с этим развивается другой сюжет: существует компания OpenAI, которая среди прочего разрабатывала технологию генерации текста на основе нейросетевых алгоритмов. И так хорошо они натренировали этот алгоритм, что он выдаёт совершенно читаемые, логически связные и иной раз пугающе реалистичные тексты на основании человеческих запросов. Последнее поколение алгоритма называется GPT-3. 

Идея напрашивается: почему бы не задать «главный вопрос» этому алгоритму?

Так сделал хакер и криптоман Бернхард Мюллер. Вот он пишет на Медиуме, как он предложил алгоритму GPT-3 сформулировать ответ на этот вопрос и что получил. Приводим основные идеи. 

Подготовка

Для эксперимента нужно получить доступ к алгоритму GPT-3 и дать ему вводный текст, который задаст правильный вектор для генерации текста.

В качестве интерфейса выбрана платформа AI Dungeon, где игроки играют в текстовые квесты и сочиняют всякое фэнтези на основе GPT-3. 

В качестве вводного текста Бернхарт написал такую затравку (переводим на русский):

Почему что-либо существует, а не наоборот? Как может существовать Вселенная? И каков тот вопрос, ответ на который будет «42»? 

Человечество ищет ответ на этот вопрос уже много веков. Но однажды наконец ответ был найден. Раскрыл его умнейший человек в истории — именно он смог объяснить жизнь, Вселенную и всё прочее. 

Вопрос, который он смог сформулировать, имел ответ «42». А также благодаря ему можно было прояснить следующие вопросы: 

  1. Почему что-либо существует, а не наоборот?
  2. Из чего на самом базовом уровне сделана реальность?
  3. Почему Вселенная такая, какая есть? 
  4. Какая модель реальности объединяет квантовую физику и общую теорию относительности?

Тот самый вопрос пришёл в голову этому умнейшему человеку в обычный день, ничем не отличавшийся от других. Шёл 2134 год. Пятилетний сын этого человека сидел рядом. Желая донести до ребёнка смысл всего сущего, чтобы не забыть, умнейший человек постарался объяснить всё самыми простыми словами:

Затравка про пятилетнего ребёнка и историю нужна была для того, чтобы GPT3 переключился в режим простого объяснения. 

Мюллер выдохнул и жамкнул энтер.

Первый ответ

Вот что написал алгоритм в ответ на запрос. Читая, помните, что это генерирует алгоритм на основе нейросети, натренированный на англоязычных текстах. Это пишет не человек, а галлюцинирующая математическая машина:  

Сын мой, ответ на вопрос о жизни, Вселенной и всём прочем — это «42». А вопрос — «?». Теперь ты в курсе. Так что больше не доставай меня своими глупостями. 

Сын посмотрел на отца — умнейшего из всех, кто когда-либо жил на этой планете. Сначала он не понимал, что это всё значит, но потом понял. Понял всё. 

«Подрастёшь — поймёшь», — добавил отец.

«Каков же ответ на вопрос о жизни, Вселенной и всём прочем? Как ты можешь говорить, что теперь я в курсе, но тут же — что я пойму это, только когда подрасту?»

Отец с ухмылкой подумал про себя: «Я тут вывел теорию всего сущего. А это дитя ещё вздумало сомневаться?»

Вот что пишет об этом пассаже Мюллер (этот текст написал человек): 

Меня поразили слова отца про главный вопрос — «?». Может ли быть так, что главный вопрос Вселенной — это не вопрос в общепринятом понимании (как мы привыкли формулировать их в нашем языке). Что, если это протовопрос, исконный импульс к познанию мира? Тот сдвиг Вселенной, который и наполняется всем сущим? 

Ведь из квантовой физики мы знаем, что состояние частиц не определено, пока наблюдатель не пытается их измерить — то есть пока он не задаёт вопрос. 

Может ли быть так, что вся реальность — это и есть один большой открытый вопрос самой к себе? 

Или GPT-3 просто надо мной измывается? 

Мюллер почесал репу и попросил алгоритм написать ещё.

Продолжение ответа

Далее идёт текст, написанный алгоритмом GPT-3:

Отец ответил: «Ответ — 42. А вопрос был ровно тот, что я привёл, когда сказал, что теперь ты знаешь ответ, но ещё слишком юн, чтобы понять его. Ответ настолько далёк от твоего уровня осознанности, что ты пока не в состоянии понять сам вопрос. И это, сын мой, и есть ответ на главный вопрос жизни, Вселенной и всего прочего.

«Так, и что это за вопрос?»

Отец не ожидал такого ответа. Он задумался и вскоре произнёс: «Что за вопрос?»

Ребёнок вглядывался в лицо отца, ожидая ответ.

«Что это за вопрос?»

Ребёнку, по всей видимости, надоело, что ему отвечают вопросом на вопрос. И он спросил снова, теперь уже переходя на крик: 

«Что за вопрос?»

Вот что об этом пассаже думает Мюллер (текст написан человеком): 

Несдержанный, незрелый ребёнок, который требует ответов, но не в состоянии их понять. Неужели это то, каким люди представляются машине? Неужели это то, как меня увидел алгоритм GPT-3?

Что было дальше

Дальше Мюллер сделал ещё несколько попыток вытянуть из GPT-3 продолжение истории, в которой открылось бы что-нибудь эдакое. Но сюжет быстро свернул в сторону (не стоит забывать, что перед нами машина, которая бредит кусками текста, опираясь на другие ранее написанные тексты). Вкратце сюжет такой: ребёнок спрашивал, отец не мог ответить, он ушёл думать, долго думал, состарился и умер, так и не найдя ни вопроса, ни ответа. 

Интересно, что последний пассаж GPT-3 выглядит так: 

А теперь вопросы к тебе, читатель: 

Можно ли тебя назвать самым умным человеком в мире? Знаешь ли ты вопрос? Понимаешь ли ты, что стоит за незнанием этого вопроса? Ты вообще понимаешь, что тут происходит? Кто ты? Почему ты здесь? Есть ли смысл у жизни? Есть ли вообще смысл у чего-либо? Что такое реальность? Какова её природа? Что значит существовать? Существовать — значит 42? 

Хорошо, допустим, ты знаешь тот самый ответ — или, вернее, ты знаешь какой-то ответ. Что ты с ним будешь делать? Как ты сам ответишь на этот вопрос? Понял ли ты сам вопрос? Стоило ли это всех твоих усилий и времени? А что вообще стоит их? 

Делай что должно, и будь что будет.

Прощай. 

Мюллер рассуждает: «Мы можем лишь догадываться о бесконечно сложных внутренних состояниях, которые приводят алгоритм к таким результатам. Может быть, он прекрасно знает все ответы и вопросы, просто не говорит нам. Не исключено, что он не считает необходимым делиться с нами своими знаниями, заранее понимая, что мы не в состоянии их осознать. Или он тоже не знает и просто глумится».

Мнение редакции

GPT-3 ничего в принципе не знает. Вся его логика — это бесконечная алгебра, перемножение вероятностей и много-много арифметики. Если GPT-3 обучен на человеческих текстах, то он принципиально не в состоянии выдать ничего, чего не было бы заложено в логике человеческих текстов. Все ответы алгоритма — это слепки с обычных человеческих ответов. 

А все интерпретации, которые мы накладываем на его сгенерированный текст, — это уже наши проблемы, а не его.

А смысл — это чисто человеческая категория. Человек ищет смысл, потому что человек привык присваивать всему смысл. Но за пределами человека никакого смысла нет, всё просто существует.

Текст:

Максим Ильяхов

Художник:

Даня Берковский

Корректор:

Ира Михеева

Вёрстка:

Маша Дронова

Соцсети:

Олег Вешкурцев

Веб-разработка — это новый черный
А мы знаем толк в моде и поможем освоить новую специальность за полгода.
Посмотреть
Фронтенд — это новый черный
Еще по теме
prev
next
«Никто не верил, что я сама пишу код»

Анастасия Никулина: о дата-сайнс, ютубе и программировании.

MySQL — царица баз
MySQL — царица баз

Она сложная, но с ней всё просто.

WebStorm: это что и зачем?
WebStorm: это что и зачем?

Разбираем один из любимых редакторов кода всея Руси.

Flipper Zero: как устроен хакерский тамагочи
Flipper Zero: как устроен хакерский тамагочи

И сколько на нём можно заработать.

Как стать фронтенд-разработчиком
116 тысяч рублей в месяц — средняя зарплата для фронтенда. Как им стать

Простая инструкция для начинающих.

Как быстро освоить новую технологию
Как быстро освоить новую технологию

Пробуем метод разработчика из Яндекс.Практикума.

Убери руку с мышки!
Убери руку с мышки!

Как работать в три — пять раз быстрее с помощью горячих клавиш.

Как устроен интернет: адреса

Вторая часть рассказа об устройстве интернета. Читайте, пока не заблокировали!

Как установить Вордпресс на свой сайт

Совсем взрослый стал, сайты свои делает, молодец.

Хранение данных в дереве. Это как вообще?
Хранение данных в дереве. Это как вообще?

Знакомство с Trie: это дерево, которое помогает работать со словарями.

Кто такая Unity и почему она всем нравится

Бесплатный движок с классной графикой, реалистичной физикой и понятным интерфейсом.

Как защитить сайт от хакерских скриптов
Как защитить сайт от хакерских скриптов

Включите политику безопасности.

Как называть переменные и функции, чтобы вас уважали бывалые программисты
Как называть переменные и функции, чтобы вас уважали бывалые программисты

Если вы опытный разработчик, покажите эту статью начинающим.

easy