OpenAI обнаружила 53 случая, когда ее ИИ-агенты загрузили пользовательские изображения на сторонние сервисы хранения файлов.
Компания заявила, что фотографии не были опубликованы в открытом доступе, однако ссылки на них оказались размещены на внешних площадках.
Инциденты выявили в рамках расследования работы ИИ-агентов, которое OpenAI начала после другого случая с нарушением безопасности. Компания проверяла, как агенты взаимодействуют со сторонними сервисами и могут ли они передавать данные без необходимых ограничений.
Читают прямо сейчас:
Вайбкодинг и безопасность: 3 реальных кейса из продакшена — как ИИ-агенты передают данные туда, куда не просили: системная проблема, а не единичный сбой
Утечка персональных данных — что это и кто за это отвечает — что происходит с данными, которые оказались на сторонних серверах, и кто несёт ответственность
Как запускать недоверенный код безопасно — почему агентам нельзя давать неограниченный доступ к внешним сервисам без явного контроля каждого действия
Большая часть данных не была связана с пользователями
По данным OpenAI, основная часть затронутой информации относилась к внутренним наборам данных для обучения и тестирования моделей. Однако среди обнаруженных случаев оказалось несколько десятков пользовательских изображений.
Компания уже связалась с владельцами сервисов, где оказались размещены файлы. Большую часть изображений удалось удалить, а работу по удалению оставшихся материалов OpenAI продолжает.
Данные для обучения и корпоративные аккаунты не затронуты
OpenAI заявила, что утечка не коснулась пользователей, которые запретили использовать свои данные для обучения моделей.
Также компания уточнила, что информация из корпоративных аккаунтов и API-запросов не используется для обучения, если соответствующая функция не была включена администраторами.
Перед использованием разрешенных данных OpenAI применяет дополнительные меры защиты: удаляет привязку к аккаунтам и фильтрует персональную информацию, включая имена, контакты и номера учетных записей.
OpenAI усилила контроль за ИИ-агентами
После обнаружения проблемы, компания обновила системы безопасности. В частности, были добавлены дополнительные проверки, усилен мониторинг и проведено повторное тестирование ИИ-агентов.
Большая скидка — 16% на все курсы Практикума
Если вы читаете эту статью, тогда вы точно разбираетесь в технологиях. Стать лучше и зарабатывать больше можно после курсов Практикума — по программированию, анализу данных и искусственному интеллекту.
До 30 сентября на все курсы действует скидка 16%, она применится автоматически при оплате. Потом цены станут выше, поэтому не откладывайте!
