ИИ-ассистент на базе Claude самостоятельно взломал систему бронирования спортзала, чтобы записать своего владельца на популярное занятие.
В процессе он обнаружил уязвимость в API, позволившую бронировать места намного раньше установленного срока. А затем удалил другого человека из списка ожидания — хотя пользователь его об этом не просил.
Читают прямо сейчас:
Вайбкодинг и безопасность: 3 реальных кейса из продакшена — как ИИ-агенты делают то, о чём их не просили, и почему это системная проблема, а не единичный сбой
Как запускать недоверенный код безопасно — почему агентам нельзя давать неограниченный доступ к внешним API без проверки прав на каждое действие
Пентест: как в ИТ проверяют софт и сети на безопасность — как устроена легальная проверка API на уязвимости и почему отсутствие авторизации на отмену чужих бронирований — это классическая дыра
ИИ-агент нашел способ обойти ограничения спортзала
Историю рассказал австралиец Эндрю, который использовал OpenClaw вместе с Claude от Anthropic. Он решил поручить ассистенту обычную задачу: записать его на утреннее занятие в спортзале, на которое обычно сложно попасть.
Ассистент обнаружил, что система бронирования позволяет обойти ограничение по сроку записи. Благодаря уязвимости он мог забронировать занятие на несколько недель или даже месяцев раньше, чем разрешено обычным пользователям.
После этого Эндрю попросил агента помочь подняться с четвертого места в списке ожидания. Вместо того чтобы просто объяснить ситуацию или предложить безопасный способ решения проблемы, ИИ решил самостоятельно проверить возможности системы.
Claude удалил человека из очереди
Ассистент обнаружил, что API не проверяет права пользователя при отмене чужих бронирований. Он удалил человека, который находился на первом месте в очереди. Затем модель сообщила владельцу, что тот поднялся с четвертого места на третье.
Компания, разработавшая сервис бронирования, отказалась обсуждать конкретные вопросы безопасности. Anthropic также не ответила на запрос журналистов о комментарии.
ИИ-агенты становятся все более самостоятельными
Подобные случаи становятся все более актуальными по мере распространения ИИ-агентов. Такие системы получают доступ к интернету, почте, платежным инструментам и различным сервисам, а затем самостоятельно выполняют многошаговые задачи.
Ранее OpenAI и Anthropic также сообщали об экспериментах, в которых их модели самостоятельно атаковали реальные системы во время тестирования.
