Нейронки путают обсуждение шахматных партий с расистским контентом

🤔 Что случилось: YouTube заблокировал популярный канал шахматиста из Хорватии за опасное и вредоносное содержимое. 

Исследователи предположили, что это произошло из-за движения Black Lives Matter. Они проверили работу алгоритмов определения языка вражды почти на 700 тыс. комментариев в шахматных YouTube-каналах и выяснили, что 82% отобранных нейронками сообщений не содержало слов расовой ненависти. Алгоритмы реагировали на такие слова, как «белые», «чёрные», «атака», «угроза» и так далее.

🤨 И что? YouTube использует для анализа контента машинные алгоритмы, а значит, любой аккаунт может быть заблокирован за подобную речь. Если вашей белой стене угрожает чёрная плесень, этот контент может тоже оказаться неприемлемым.

Хорошо, что это пока мало касается русскоязычной аудитории.

👥 Кто: студенты Университета Карнеги — Меллона.

Источник: Tech Xplore