Обучили нейросеть вырабатывать иммунитет к взломам

😢 Проблема: нейронки умеют распознавать лица, обнаруживать объекты и обрабатывать естественный язык. Но алгоритмы можно запутать, если скорректировать входные данные. Например, беспилотный автомобиль не сможет распознать дорожный знак с наклейками.

😎 Решение: RAILS — подход к состязательному обучению по образцу адаптивной иммунной системы.

🤔 Как работает? RAILS имитирует работу иммунитета, чтобы распознавать подозрительные входные данные и реагировать на них.

Изучили, как иммунная система мышей реагирует на антигены. Затем смоделировали этот процесс, смешав биологические механизмы с кодом. Систему проверяли на изображениях, которые нейронки часто идентифицируют неправильно. Например, курицу и страуса распознают как кошку и лошадь. С помощью RAILS система определила изображения двух птиц.

Система эффективна против восьми типов состязательных атак. Теперь хотят уменьшить время её ответа с миллисекунд до микросекунд.

👥 Кто: исследователи Мичиганского университета, США.

Источник: techxplore.com