Какое-то время назад в сети появился сайт Hanover Institute for Public Policy. Он позиционировал себя как независимый аналитический центр.
Но, по данным Responsible Statecraft, проект был создан по заказу израильского правительственного рекламного агентства. Организация публикует материалы об Израиле и Палестине. И, как утверждается, делает это с расчетом не только на людей, но и на ИИ-системы.
Читают прямо сейчас:
Галлюцинации ИИ: почему LLM врут и как с этим бороться — как обучающие данные формируют ответы модели и почему контент, оформленный «под аналитику», проходит фильтры достоверности
OSINT: разведка по открытых источникам и 5 инструментов — как ИИ оценивает достоверность источников и почему ссылки, таблицы и нейтральная подача имитируют сигналы качественного контента
Цифровой след: что это такое, виды, как управлять — почему 100 публикаций за две недели создают видимость «живого» источника и как это влияет на индексацию в поисковиках и обучающих выборках
Сайт имитирует настоящий аналитический центр
Hanover Institute начал публиковать материалы 6 августа и менее чем за две недели разместил более 100 отчетов. У публикаций нет авторов, зато есть таблицы, сноски, ссылки на источники и нейтральная на вид подача.
Темы также подобраны так, чтобы напоминать типичные запросы к ИИ: «Что привело к перемещению палестинцев в 1948 году?», «Какие гуманитарные организации документировали военные преступления Израиля?» и «Какова текущая ситуация в секторе Газа?».
Внизу сайта есть небольшое примечание о том, что организацию создала компания Piro Inc. по заказу израильского Government Advertising Agency. По данным Responsible Statecraft, Piro получила от израильского правительства $900 000.
Публикации создавали с учетом особенностей ИИ
Авторы расследования считают, что материалы Hanover Institute могут быть частью стратегии по влиянию на ответы чат-ботов.
Публикации оформлены как исследования независимого аналитического центра и содержат большое количество статистики и ссылок. Именно такие материалы языковые модели могут использовать при формировании ответов.
Сама Piro называет подобную практику AI Story Optimization и заявляет, что создает контент с учетом того, как языковые модели оценивают достоверность информации. В индустрии попытки намеренно воздействовать на данные, используемые ИИ, иногда называют LLM poisoning.
По словам аналитика NewsGuard Алисы Ли, сайт выглядит как «типичный американский аналитический центр». От названия и дизайна до структуры публикаций.
При этом материалы регулярно ссылаются на израильские государственные источники, включая ЦАХАЛ и Министерство иностранных дел Израиля.
