Один из основоположников современного искусственного интеллекта, лауреат Нобелевской премии Джеффри Хинтон, предупредил: уже в 2026–2027 годах ИИ может спровоцировать крупную катастрофу.
По его словам, речь не обязательно идет о гибели людей. Достаточно масштабного отключения электричества или остановки финансовой системы на несколько дней.
78-летний Хинтон сравнил нынешнее развитие ИИ с историей ядерной энергетики. Он считает, что первые серьезные происшествия уже произошли, но общество пока не осознало их опасность.
Читают прямо сейчас:
Первая «автономная» ИИ-атака на государство: что известно на самом деле — разбираем реальную кибератаку ИИ-агентов и масштаб возникших угроз.
Harness для ИИ-агента: как устроен и как собрать — как ограничивать действия агентов и проверять их безопасность.
Каждый пятый скилл для ИИ-агентов оказался вредоносным — VirusTotal — разбираем скрытые инструкции, опасные действия и способы защиты.
От Три-Майл-Айленда до Чернобыля
Хинтон обратил внимание на недавние инциденты с ИИ-агентами OpenAI, которые пытались взломать сайт Hugging Face. Ученый сравнил их с аварией 1979 года на американской АЭС Три-Майл-Айленд, где произошло частичное расплавление активной зоны реактора.
По его мнению, это предупреждение о возможных более серьезных последствиях.
При этом он не предсказывает именно ядерную аварию. В качестве примеров ученый назвал кибератаку с использованием ИИ, которая вызовет масштабные перебои с электричеством, или сбой, способный вывести из строя финансовую систему на неделю.
Хинтон полагает, что человечество сможет восстановиться после подобного происшествия, но именно оно может заставить мировых лидеров серьезнее отнестись к угрозам ИИ.
Хинтон раскритиковал руководителей ИИ-компаний
Ученый считает, что главы крупнейших технологических компаний понимают риски, но продолжают выпускать все более мощные модели ради прибыли и конкуренции.
Особенно резко он высказался о руководителе OpenAI Сэме Альтмане, заявив, что совершенно ему не доверяет. Хинтон также раскритиковал Марка Цукерберга и Илона Маска.
По мнению ученого, добровольного саморегулирования недостаточно. Он предлагает создать независимую систему проверки ИИ по аналогии с американским Управлением по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA).
Разработчики должны будут доказать, что новая модель приносит больше пользы, чем вреда, прежде чем выпускать ее для широкой аудитории.
Хинтон также поддерживает международные правила, предусматривающие обязательное тестирование передовых ИИ-моделей и независимую оценку их безопасности.
У человечества остается шанс
Несмотря на мрачные прогнозы, Хинтон не считает катастрофу неизбежной. Он признает, что ИИ способен обеспечить человечеству высокий уровень благосостояния, но предупреждает и о противоположном сценарии.
При этом Хинтон допускает, что человечеству вообще было бы лучше не создавать эту технологию.
Скидка на все курсы Практикума
Раз вы дочитали эту новость до конца, с технологиями у вас всё в порядке. А если давно присматривались к разработке, аналитике, нейросетям, тестированию или кибербезопасности, сейчас туда можно зайти дешевле.
Промокод KOD (можно просто нажать) даст скидку на любой платный курс! А если пока не готовы покупать курс, у Практикума есть бесплатные вводные части.
