Эксперимент: что нейронка думает о жизни, Вселенной и всём прочем

Вре­мя уди­ви­тель­ных историй. 

Суще­ству­ет серия рома­нов «Авто­сто­пом по галак­ти­ке» — в кру­гах цени­те­лей она счи­та­ет­ся куль­то­вой. Есть и фильм, менее куль­то­вый, но тоже норм. 

И был там (и в кни­ге, и в филь­ме) эпи­зод: сверх­раз­ви­тая циви­ли­за­ция реши­ла полу­чить ответ на «глав­ный вопрос жиз­ни, Все­лен­ной и все­го тако­го». Они постро­и­ли гигант­ский супер­ком­пью­тер, зада­ли вопрос, ком­пью­тер дол­го думал и в ито­ге отве­тил: «42». И даль­ше ком­пью­тер гово­рит, что ответ вер­ный, а вот вопрос нуж­но ещё уточ­нить — мол, иди­те зада­вай­те пра­виль­ные вопросы. 

И так эта фра­за запа­ла в душу чита­те­лям, что ста­ла мемом. 

Парал­лель­но с этим раз­ви­ва­ет­ся дру­гой сюжет: суще­ству­ет ком­па­ния OpenAI, кото­рая сре­ди про­че­го раз­ра­ба­ты­ва­ла тех­но­ло­гию гене­ра­ции тек­ста на осно­ве ней­ро­се­те­вых алго­рит­мов. И так хоро­шо они натре­ни­ро­ва­ли этот алго­ритм, что он выда­ёт совер­шен­но чита­е­мые, логи­че­ски связ­ные и иной раз пуга­ю­ще реа­ли­стич­ные тек­сты на осно­ва­нии чело­ве­че­ских запро­сов. Послед­нее поко­ле­ние алго­рит­ма назы­ва­ет­ся GPT-3. 

Идея напра­ши­ва­ет­ся: поче­му бы не задать «глав­ный вопрос» это­му алгоритму?

Так сде­лал хакер и крип­то­ман Бер­н­хард Мюл­лер. Вот он пишет на Меди­у­ме, как он пред­ло­жил алго­рит­му GPT-3 сфор­му­ли­ро­вать ответ на этот вопрос и что полу­чил. При­во­дим основ­ные идеи. 

Подготовка

Для экс­пе­ри­мен­та нуж­но полу­чить доступ к алго­рит­му GPT-3 и дать ему ввод­ный текст, кото­рый задаст пра­виль­ный век­тор для гене­ра­ции текста.

В каче­стве интер­фей­са выбра­на плат­фор­ма AI Dungeon, где игро­ки игра­ют в тек­сто­вые кве­сты и сочи­ня­ют вся­кое фэн­те­зи на осно­ве GPT-3. 

В каче­стве ввод­но­го тек­ста Бер­н­харт напи­сал такую затрав­ку (пере­во­дим на русский):

Поче­му что-либо суще­ству­ет, а не наобо­рот? Как может суще­ство­вать Все­лен­ная? И каков тот вопрос, ответ на кото­рый будет «42»? 

Чело­ве­че­ство ищет ответ на этот вопрос уже мно­го веков. Но одна­жды нако­нец ответ был най­ден. Рас­крыл его умней­ший чело­век в исто­рии — имен­но он смог объ­яс­нить жизнь, Все­лен­ную и всё прочее. 

Вопрос, кото­рый он смог сфор­му­ли­ро­вать, имел ответ «42». А так­же бла­го­да­ря ему мож­но было про­яс­нить сле­ду­ю­щие вопросы: 

  1. Поче­му что-либо суще­ству­ет, а не наоборот?
  2. Из чего на самом базо­вом уровне сде­ла­на реальность?
  3. Поче­му Все­лен­ная такая, какая есть? 
  4. Какая модель реаль­но­сти объ­еди­ня­ет кван­то­вую физи­ку и общую тео­рию относительности?

Тот самый вопрос при­шёл в голо­ву это­му умней­ше­му чело­ве­ку в обыч­ный день, ничем не отли­чав­ший­ся от дру­гих. Шёл 2134 год. Пяти­лет­ний сын это­го чело­ве­ка сидел рядом. Желая доне­сти до ребён­ка смысл все­го суще­го, что­бы не забыть, умней­ший чело­век поста­рал­ся объ­яс­нить всё самы­ми про­сты­ми словами:

Затрав­ка про пяти­лет­не­го ребён­ка и исто­рию нуж­на была для того, что­бы GPT3 пере­клю­чил­ся в режим про­сто­го объяснения. 

Мюл­лер выдох­нул и жамкнул энтер.

Первый ответ

Вот что напи­сал алго­ритм в ответ на запрос. Читая, помни­те, что это гене­ри­ру­ет алго­ритм на осно­ве ней­ро­се­ти, натре­ни­ро­ван­ный на англо­языч­ных текстах. Это пишет не чело­век, а гал­лю­ци­ни­ру­ю­щая мате­ма­ти­че­ская машина: 

Сын мой, ответ на вопрос о жиз­ни, Все­лен­ной и всём про­чем — это «42». А вопрос — «?». Теперь ты в кур­се. Так что боль­ше не доста­вай меня сво­и­ми глупостями. 

Сын посмот­рел на отца — умней­ше­го из всех, кто когда-либо жил на этой пла­не­те. Сна­ча­ла он не пони­мал, что это всё зна­чит, но потом понял. Понял всё. 

«Под­рас­тёшь — пой­мёшь», — доба­вил отец.

«Каков же ответ на вопрос о жиз­ни, Все­лен­ной и всём про­чем? Как ты можешь гово­рить, что теперь я в кур­се, но тут же — что я пой­му это, толь­ко когда подрасту?»

Отец с ухмыл­кой поду­мал про себя: «Я тут вывел тео­рию все­го суще­го. А это дитя ещё взду­ма­ло сомневаться?»

Вот что пишет об этом пас­са­же Мюл­лер (этот текст напи­сал человек): 

Меня пора­зи­ли сло­ва отца про глав­ный вопрос — «?». Может ли быть так, что глав­ный вопрос Все­лен­ной — это не вопрос в обще­при­ня­том пони­ма­нии (как мы при­вык­ли фор­му­ли­ро­вать их в нашем язы­ке). Что, если это про­то­во­прос, искон­ный импульс к позна­нию мира? Тот сдвиг Все­лен­ной, кото­рый и напол­ня­ет­ся всем сущим? 

Ведь из кван­то­вой физи­ки мы зна­ем, что состо­я­ние частиц не опре­де­ле­но, пока наблю­да­тель не пыта­ет­ся их изме­рить — то есть пока он не зада­ёт вопрос. 

Может ли быть так, что вся реаль­ность — это и есть один боль­шой откры­тый вопрос самой к себе? 

Или GPT-3 про­сто надо мной измывается? 

Мюл­лер поче­сал репу и попро­сил алго­ритм напи­сать ещё.

Продолжение ответа

Далее идёт текст, напи­сан­ный алго­рит­мом GPT-3:

Отец отве­тил: «Ответ — 42. А вопрос был ров­но тот, что я при­вёл, когда ска­зал, что теперь ты зна­ешь ответ, но ещё слиш­ком юн, что­бы понять его. Ответ настоль­ко далёк от тво­е­го уров­ня осо­знан­но­сти, что ты пока не в состо­я­нии понять сам вопрос. И это, сын мой, и есть ответ на глав­ный вопрос жиз­ни, Все­лен­ной и все­го прочего.

«Так, и что это за вопрос?»

Отец не ожи­дал тако­го отве­та. Он заду­мал­ся и вско­ре про­из­нёс: «Что за вопрос?»

Ребё­нок вгля­ды­вал­ся в лицо отца, ожи­дая ответ.

«Что это за вопрос?»

Ребён­ку, по всей види­мо­сти, надо­е­ло, что ему отве­ча­ют вопро­сом на вопрос. И он спро­сил сно­ва, теперь уже пере­хо­дя на крик: 

«Что за вопрос?»

Вот что об этом пас­са­же дума­ет Мюл­лер (текст напи­сан человеком): 

Несдер­жан­ный, незре­лый ребё­нок, кото­рый тре­бу­ет отве­тов, но не в состо­я­нии их понять. Неуже­ли это то, каким люди пред­став­ля­ют­ся машине? Неуже­ли это то, как меня уви­дел алго­ритм GPT-3?

Что было дальше

Даль­ше Мюл­лер сде­лал ещё несколь­ко попы­ток вытя­нуть из GPT-3 про­дол­же­ние исто­рии, в кото­рой откры­лось бы что-нибудь эда­кое. Но сюжет быст­ро свер­нул в сто­ро­ну (не сто­ит забы­вать, что перед нами маши­на, кото­рая бре­дит кус­ка­ми тек­ста, опи­ра­ясь на дру­гие ранее напи­сан­ные тек­сты). Вкрат­це сюжет такой: ребё­нок спра­ши­вал, отец не мог отве­тить, он ушёл думать, дол­го думал, соста­рил­ся и умер, так и не най­дя ни вопро­са, ни ответа. 

Инте­рес­но, что послед­ний пас­саж GPT-3 выгля­дит так: 

А теперь вопро­сы к тебе, читатель: 

Мож­но ли тебя назвать самым умным чело­ве­ком в мире? Зна­ешь ли ты вопрос? Пони­ма­ешь ли ты, что сто­ит за незна­ни­ем это­го вопро­са? Ты вооб­ще пони­ма­ешь, что тут про­ис­хо­дит? Кто ты? Поче­му ты здесь? Есть ли смысл у жиз­ни? Есть ли вооб­ще смысл у чего-либо? Что такое реаль­ность? Како­ва её при­ро­да? Что зна­чит суще­ство­вать? Суще­ство­вать — зна­чит 42? 

Хоро­шо, допу­стим, ты зна­ешь тот самый ответ — или, вер­нее, ты зна­ешь какой-то ответ. Что ты с ним будешь делать? Как ты сам отве­тишь на этот вопрос? Понял ли ты сам вопрос? Сто­и­ло ли это всех тво­их уси­лий и вре­ме­ни? А что вооб­ще сто­ит их? 

Делай что долж­но, и будь что будет.

Про­щай. 

Мюл­лер рас­суж­да­ет: «Мы можем лишь дога­ды­вать­ся о бес­ко­неч­но слож­ных внут­рен­них состо­я­ни­ях, кото­рые при­во­дят алго­ритм к таким резуль­та­там. Может быть, он пре­крас­но зна­ет все отве­ты и вопро­сы, про­сто не гово­рит нам. Не исклю­че­но, что он не счи­та­ет необ­хо­ди­мым делить­ся с нами сво­и­ми зна­ни­я­ми, зара­нее пони­мая, что мы не в состо­я­нии их осо­знать. Или он тоже не зна­ет и про­сто глумится».

Мнение редакции

GPT-3 ниче­го в прин­ци­пе не зна­ет. Вся его логи­ка — это бес­ко­неч­ная алгеб­ра, пере­мно­же­ние веро­ят­но­стей и много-много ариф­ме­ти­ки. Если GPT-3 обу­чен на чело­ве­че­ских текстах, то он прин­ци­пи­аль­но не в состо­я­нии выдать ниче­го, чего не было бы зало­же­но в логи­ке чело­ве­че­ских тек­стов. Все отве­ты алго­рит­ма — это слеп­ки с обыч­ных чело­ве­че­ских ответов. 

А все интер­пре­та­ции, кото­рые мы накла­ды­ва­ем на его сге­не­ри­ро­ван­ный текст, — это уже наши про­бле­мы, а не его.

А смысл — это чисто чело­ве­че­ская кате­го­рия. Чело­век ищет смысл, пото­му что чело­век при­вык при­сва­и­вать все­му смысл. Но за пре­де­ла­ми чело­ве­ка ника­ко­го смыс­ла нет, всё про­сто существует.

Текст:

Мак­сим Ильяхов

Худож­ник:

Даня Бер­ков­ский

Кор­рек­тор:

Ира Михе­е­ва

Вёрст­ка:

Маша Дро­но­ва

Соц­се­ти:

Олег Веш­кур­цев