Google временно отключила ИИ-сводки о здоровье в результатах поиска после того, как пользователи и эксперты обратили внимание на опасные медицинские ошибки, сообщает Digitaltrends. Речь идёт о функции AI Overviews, которая автоматически формировала краткие ответы на медицинские запросы и размещалась в верхней части страницы поиска.
Поводом стали случаи, когда ИИ давал некорректные или вводящие в заблуждение интерпретации медицинских данных. В одном из примеров система неправильно объясняла результаты анализа крови, без учёта возраста и других важных параметров. Медицинские специалисты отметили, что такие ответы могли привести к неверным выводам и потенциальному вреду для пользователей.
В Google сообщили, что удалили проблемные запросы и продолжают дорабатывать систему. При этом компания признала, что медицинские темы требуют особенно осторожного подхода, и даже небольшие ошибки в формулировках могут иметь серьёзные последствия.
