😢 Проблема: нейронки умеют распознавать лица, обнаруживать объекты и обрабатывать естественный язык. Но алгоритмы можно запутать, если скорректировать входные данные. Например, беспилотный автомобиль не сможет распознать дорожный знак с наклейками.
😎 Решение: RAILS — подход к состязательному обучению по образцу адаптивной иммунной системы.
🤔 Как работает? RAILS имитирует работу иммунитета, чтобы распознавать подозрительные входные данные и реагировать на них.
Изучили, как иммунная система мышей реагирует на антигены. Затем смоделировали этот процесс, смешав биологические механизмы с кодом. Систему проверяли на изображениях, которые нейронки часто идентифицируют неправильно. Например, курицу и страуса распознают как кошку и лошадь. С помощью RAILS система определила изображения двух птиц.
Система эффективна против восьми типов состязательных атак. Теперь хотят уменьшить время её ответа с миллисекунд до микросекунд.
👥 Кто: исследователи Мичиганского университета, США.
Источник: techxplore.com
