Нейронки путают обсуждение шахматных партий с расистским контентом

Белые начинают и не выигрывают.

Нейронки путают обсуждение шахматных партий с расистским контентом

🤔 Что случилось: YouTube заблокировал популярный канал шахматиста из Хорватии за опасное и вредоносное содержимое. 

Исследователи предположили, что это произошло из-за движения Black Lives Matter. Они проверили работу алгоритмов определения языка вражды почти на 700 тыс. комментариев в шахматных YouTube-каналах и выяснили, что 82% отобранных нейронками сообщений не содержало слов расовой ненависти. Алгоритмы реагировали на такие слова, как «белые», «чёрные», «атака», «угроза» и так далее.

🤨 И что? YouTube использует для анализа контента машинные алгоритмы, а значит, любой аккаунт может быть заблокирован за подобную речь. Если вашей белой стене угрожает чёрная плесень, этот контент может тоже оказаться неприемлемым.

Хорошо, что это пока мало касается русскоязычной аудитории.

👥 Кто: студенты Университета Карнеги — Меллона.

Источник: Tech Xplore

Получите ИТ-профессию
В «Яндекс Практикуме» можно стать разработчиком, тестировщиком, аналитиком и менеджером цифровых продуктов. Первая часть обучения всегда бесплатная, чтобы попробовать и найти то, что вам по душе. Дальше — программы трудоустройства.
Получите ИТ-профессию Получите ИТ-профессию Получите ИТ-профессию Получите ИТ-профессию
Вам может быть интересно
Алгоритм обнаружил 1200 новых гравитационных линз
Алгоритм обнаружил 1200 новых гравитационных линз
Spotify запустили микросайт с ИИ
Spotify запустили микросайт с ИИ

Нейросеть общается с посетителями сайта на основе их интересов.

Type-X создали бронированного робота-танка
Type-X создали бронированного робота-танка

В буквальном смысле — танки онлайн.

Учёные хотят напечатать ядерный реактор на 3D-принтере
Учёные хотят напечатать ядерный реактор на 3D-принтере

Каждому по реактору.

Сделали гибкий складной монокоптер
Сделали гибкий складной монокоптер
Сделали мягкие контактные линзы для выявления глаукомы и замедления её развития
Сделали мягкие контактные линзы для выявления глаукомы и замедления её развития
Посмотрите на лучшую оптическую иллюзию 2019 года. Её написали на JavaScript
Посмотрите на лучшую оптическую иллюзию 2019 года. Её написали на JavaScript

Кольца, которые вертятся сразу во все стороны.

Два программиста решили взломать систему авторских прав на музыку
Два программиста решили взломать систему авторских прав на музыку

Понадобилось всего 68 миллиардов комбинаций нот.

Сделали беспроводную систему, которая отслеживает позы людей в движении
Сделали беспроводную систему, которая отслеживает позы людей в движении

Выпрями спину и убери руку от лица.