👕 Что это: свитер с узором, который не даёт нейронкам обнаруживать человека на изображении.
Исследователи хотели создать универсальный узор, который введёт нейросеть в заблуждение. Но если при моделировании паттерн легко изменить и протестировать, то, когда вы уже напечатали узор на пуловере, это сделать сложнее. Узор создали из большого набора обучающих изображений, часть из которых содержит объекты для распознавания, то есть людей.
Испытали свитер на классификаторах, которые присваивают метку целому объекту, и детекторах, которые разбивают объекты на мелкие части. Если от классификаторов свитер скрыл человека, то детекторы обмануть оказалось сложнее. Например, модель YOLOv2 распознала человека в свитере в 50% случаев.
👉 Посмотреть:
🤨 И что? У команды не было цели создать модный пуловер или плащ-невидимку. С помощью свитера можно проверять модели на уязвимости.
👥 Кто: исследователи Мэрилендского университета в Колледж-Парке, США.
Источники: cs.umd.edu и arxiv.org
