Пользователи заметили странную ошибку в Google AI Overview. На запрос о том, сколько золота содержится в камерах автоматического распознавания номеров Flock, ИИ уверенно заявил — в каждом устройстве находится от 1 до 5 граммов золота, а также до 23 фунтов меди.
Проблема в том, что эти цифры не имеют ничего общего с реальностью. Камеры действительно содержат небольшие количества драгоценных металлов, как и любая современная электроника, однако их объем настолько мал, что извлекать их экономически бессмысленно.
Читают прямо сейчас:
Галлюцинации ИИ: почему LLM врут и как с этим бороться — как устроен механизм, из-за которого ИИ-поиск принимает мем за техническую документацию
OSINT: разведка по открытым источникам и 5 инструментов — как данные из Substack и Instagram попадают в обучающие выборки и почему ИИ не умеет отличать источники по достоверности
Промт-инженер: самый лёгкий вход в программирование с ИИ — что делают специалисты, чтобы ИИ-поиск не выдавал анонимный пост за факт вместо технической документации
Источниками стали мемы и ИИ-контент
Как выяснили журналисты, Google AI опирался не на техническую документацию, а на крайне сомнительные источники.
Одним из них оказался анонимный пост в Substack с предположениями о стоимости металлов внутри камер. Другим — сгенерированная ИИ публикация в *Instagram, высмеивающая идею разбирать устройства ради золота.
В результате шуточный интернет-мем превратился в «факт», который Google начал показывать в верхней части поисковой выдачи.
Камеры уже начали массово исчезать
История стала особенно резонансной после инцидента в американском городе Вайнона. Полиция обнаружила, что все восемь камер Flock, установленных в городе, были украдены.
По данным правоохранителей, злоумышленники срезали опоры, спрятали их в траве, а сами камеры забрали. Стоимость замены оборудования оценивается примерно в $24 000, не считая ежегодных сервисных платежей.
Символ борьбы с массовой слежкой
Стоит отметить, что камеры Flock уже давно вызывают споры в США. Система автоматически считывает номера автомобилей и помогает полиции отслеживать их перемещения, из-за чего регулярно становится объектом критики со стороны защитников приватности.
На фоне этого в интернете давно распространяются мемы и ролики, высмеивающие камеры и призывающие их уничтожать.
Ошибка Google лишь подлила масла в огонь: вместо опровержения мифа, ИИ фактически подтвердил ложную информацию, создав впечатление, будто внутри устройств действительно находятся ценные металлы.
В Google ситуацию пока официально не прокомментировали.
*Компания Meta и ее продукты признаны экстремистскими, их деятельность запрещена на территории РФ
