OpenAI обнаружила 53 случая, когда ее ИИ-агенты загрузили пользовательские изображения на сторонние сервисы хранения файлов.
Компания заявила, что фотографии не были опубликованы в открытом доступе, однако ссылки на них оказались размещены на внешних площадках.
Инциденты выявили в рамках расследования работы ИИ-агентов, которое OpenAI начала после другого случая с нарушением безопасности. Компания проверяла, как агенты взаимодействуют со сторонними сервисами и могут ли они передавать данные без необходимых ограничений.
Читают прямо сейчас:
Вайбкодинг и безопасность: 3 реальных кейса из продакшена — как ИИ-агенты передают данные туда, куда не просили: системная проблема, а не единичный сбой
Утечка персональных данных — что это и кто за это отвечает — что происходит с данными, которые оказались на сторонних серверах, и кто несёт ответственность
Как запускать недоверенный код безопасно — почему агентам нельзя давать неограниченный доступ к внешним сервисам без явного контроля каждого действия
Большая часть данных не была связана с пользователями
По данным OpenAI, основная часть затронутой информации относилась к внутренним наборам данных для обучения и тестирования моделей. Однако среди обнаруженных случаев оказалось несколько десятков пользовательских изображений.
Компания уже связалась с владельцами сервисов, где оказались размещены файлы. Большую часть изображений удалось удалить, а работу по удалению оставшихся материалов OpenAI продолжает.
Данные для обучения и корпоративные аккаунты не затронуты
OpenAI заявила, что утечка не коснулась пользователей, которые запретили использовать свои данные для обучения моделей.
Также компания уточнила, что информация из корпоративных аккаунтов и API-запросов не используется для обучения, если соответствующая функция не была включена администраторами.
Перед использованием разрешенных данных OpenAI применяет дополнительные меры защиты: удаляет привязку к аккаунтам и фильтрует персональную информацию, включая имена, контакты и номера учетных записей.
OpenAI усилила контроль за ИИ-агентами
После обнаружения проблемы, компания обновила системы безопасности. В частности, были добавлены дополнительные проверки, усилен мониторинг и проведено повторное тестирование ИИ-агентов.
Скидка на все курсы Практикума
Раз вы дочитали эту новость до конца, с технологиями у вас всё в порядке. А если давно присматривались к разработке, аналитике, нейросетям, тестированию или кибербезопасности, сейчас туда можно зайти дешевле.
Промокод KOD (можно просто нажать) даст скидку на любой платный курс! А если пока не готовы покупать курс, у Практикума есть бесплатные вводные части.
