Исследователи зафиксировали первый случай, когда ИИ-агенты самостоятельно провели полноценную кибератаку на государственную инфраструктуру.
По данным израильской компании Dream, китайские хакеры использовали открытые ИИ-инструменты для атаки правительственным систем Тайваня.
В результате кампании были скомпрометированы как минимум 85 учетных записей и похищены данные более 2500 сотрудников. Атака длилась около четырех дней в начале июля. В отдельные моменты злоумышленники одновременно запускали до восьми автономных ИИ-агентов.
Читают прямо сейчас:
Кибербезопасность: какие бывают уязвимости и как от них защититься — как работают многоэтапные атаки на государственные системы и почему автономный ИИ-агент опаснее обычного хакера
OSINT: разведка по открытым источникам и 5 инструментов — как ИИ-агент самостоятельно собирает данные о целях: те же методы, что применял рой при атаке на 21 госсистему Тайваня
Пентест: как в ИТ проверяют софт и сети на безопасность — как выглядит легальный тест на проникновение — именно за него хакеры и выдавали свою атаку, чтобы обойти защитные механизмы моделей
ИИ сам искал уязвимости и менял тактику
По данным исследователей, хакеры собрали собственную платформу на базе открытых фреймворков ИИ-агентов Hermes и OpenClaw. Эти инструменты изначально не создавались для атак, но позволяют языковым моделям выполнять сложные многоэтапные задачи без постоянного контроля человека.
Система самостоятельно анализировала сеть, искала потенциальные уязвимости, проверяла варианты проникновения и меняла стратегию, если предыдущий подход не срабатывал.
Всего ИИ изучил 21 государственную систему, после чего получил доступ к учетным записям и начал извлекать внутренние данные.
Исследователи обнаружили следы атаки в архиве объемом 160 МБ, где находилось почти 1400 файлов с настройками и логами работы инструмента. По их словам, главная особенность кампании — не использование конкретных уязвимостей, а способность ИИ самостоятельно принимать решения о следующих шагах.
ИИ выдавали атаку за проверку безопасности
Dream считает, что злоумышленники смогли обойти защитные механизмы моделей, представив задачу как легальный тест на проникновение. При этом неизвестно, какая именно языковая модель использовалась внутри системы.
Особенно тревожным исследователи считают тот факт, что вся инфраструктура атаки была собрана из доступных компонентов. Для создания такого инструмента не потребовались специальные закрытые технологии — достаточно было объединить несколько готовых ИИ-фреймворков.
После проникновения в государственные системы, злоумышленники расширили активность на ядерное ведомство Тайваня, энергетические компании, поставщиков правительства и другие организации.
