DuckDuckGo оказался в центре скандала после того, как его ИИ-режим начал выдавать выдуманную новость о смерти Дональда Трампа как подтвержденный факт.
Читают прямо сейчас:
Галлюцинации ИИ: почему LLM врут и как с этим бороться — как устроен механизм, из-за которого модель выдаёт фейк за подтверждённый факт
OSINT: разведка по открытым источникам и 5 инструментов — как данные из Reddit и открытых источников собираются и попадают в обучающие выборки ИИ
Промт-инженер: самый лёгкий вход в программирование с ИИ — что делают специалисты, чтобы отловить галлюцинации до того, как они уйдут в продакшен
Фейковая «новость» с деталями и источниками
В сгенерированном ответе поисковика утверждается, что Дональд Трамп якобы умер 7 июня 2026 года от бешенства. В тексте также появлялись вымышленные детали, включая смерть вице-президента Джей Ди Вэнса и участие Роберта Кеннеди-младшего в «лечении».
При этом реальные источники либо не содержат таких данных, либо вообще не имеют отношения к теме. Часть ссылок в ответах вела на материалы, которые не подтверждали выводы системы.
Как это произошло
По мнению исследователей, ситуация похожа на классический случай «отравления данных». Ложная информация заранее массово публикуется в интернете, после чего начинает попадать в обучающие и поисковые выборки ИИ.
Для этого в сети распространяются абсурдные «новости», в том числе в Reddit-сообществах. Там чаще всего пользователи и создают фейковые истории, после чего наблюдают, как ложная информация начинает всплывать в ответах разных ИИ-систем.
Почему ИИ на это повелся
Проблема в том, что поисковые ИИ не всегда отделяют достоверные источники от убедительно оформленного фейка. Если информация выглядит как новость и встречается в нескольких местах, система может начать воспринимать ее как факт.
В результате возникает эффект «испорченного телефона»: шутка или эксперимент превращается в псевдореальность, которую подхватывают алгоритмы.
Реакция и позиция DuckDuckGo
В DuckDuckGo заявили, что поисковые системы — даже с ИИ — не являются источником истины. По их словам, пользователям важно самостоятельно проверять факты и не полагаться на автоматические ответы без контекста.
Компания подчеркнула, что ИИ-ответы формируются на основе открытых данных, а значит могут унаследовать ошибки или намеренно искаженные публикации.
Самая большая скидка — 10% на все курсы!
До 30 июля по промокоду KOD (можно просто нажать) действует максимальная скидка — 10% на все платные курсы Практикума. Если давно хотели разобраться в разработке, аналитике, нейросетях, тестировании или кибербезопасности, сейчас можно зайти дешевле.
А если пока не готовы выбирать курс, у Практикума есть бесплатные вводные части — можно попробовать направление без привязки карты.
