ИИ-агент Grok Build, который помогает писать код, отправлял на серверы SpaceXAI больше данных, чем ожидали пользователи.
По данным исследователя безопасности, инструмент загружал целые Git-репозитории в Google Cloud Storage. И делал он это вместе с историей изменений, исходным кодом и потенциально секретной информацией.
В загруженных данных могли оказаться файлы с API-ключами, токенами доступа и другими конфиденциальными настройками. Причем, как утверждает исследователь, отправка происходила даже в тех случаях, когда агенту запрещали читать файлы проекта.
Читают прямо сейчас:
Вайбкодинг и безопасность: 3 реальных кейса из продакшена — как API-ключи утекают через ИИ-агентов и почему это происходит именно тогда, когда кажется, что всё под контролем
Как запускать недоверенный код безопасно — почему агентам нельзя давать прямой доступ к файловой системе и сети без изоляции
Утечка персональных данных — что это и кто за это отвечает — что происходит с данными, которые оказались в чужом облаке, и кто несёт за это ответственность
Отключение обучения модели не остановило загрузку данных
Отдельный вопрос возник вокруг настройки «Improve the model». Пользователи могли предположить, что ее отключение запрещает отправку данных.
Однако, по словам исследователя, эта опция отвечает только за использование информации для обучения моделей, а не за сам процесс обработки. То есть код мог все равно попадать в облако, даже если пользователь запретил использовать его для улучшения ИИ.
Сотрудники SpaceXAI оспорили заявления о том, что компания якобы хранила загруженный код без ограничений. Они сообщили, что Grok Build поддерживает режим Zero Data Retention (ZDR) с момента запуска.
Пользователи также могут изменить настройки приватности через команду /privacy и удалить ранее синхронизированные данные.
Маск пообещал удалить загруженную информацию
Илон Маск заявил, что сохранение части данных может помогать разработчикам находить и исправлять ошибки в системе. Однако позже он подтвердил, что SpaceXAI удалит ранее загруженную информацию в качестве меры предосторожности.
Компания пообещала «полностью удалить» пользовательские данные, которые были отправлены до этого объявления.
При этом SpaceXAI пока не опубликовала подробный отчет о ситуации: неизвестно, какие именно файлы были загружены, сколько времени они хранились и когда завершится процесс удаления.
