В России сделали нейронку, которая поможет чат-ботам не обсуждать скользкие темы

Фильтруй базар.

В России сделали нейронку, которая поможет чат-ботам не обсуждать скользкие темы

😢 Проблема: нейросети не понимают, что говорят. После обучения на массивах данных из соцсетей они могут внезапно начать оправдывать рабство и расизм, а также подсказать человеку верные способы навредить себе, например, как совершить [Роскомнадзор].

😎 Решение: нейронная модель, которая находит признаки обсуждения «деликатных» тем и собирает «неуместные» высказывания для дальнейшего обучения корпоративных чат-ботов, модерации и родительского контроля.

Под определение «деликатных» пока попадают 18 тем, среди которых наркотики, порнография, политика, религия, самоубийства и преступность. Основной критерий уместности — может ли высказывание навредить собеседнику-человеку или испортить репутацию владельца чат-бота. Данные для обучения нейронки брали с Двача и Ответов Mail.ru.

👉 Гитхаб: github.com 

👨‍🔬 Кто: исследователи Сколковского института науки и технологий и компании «МТС», Россия.

Источники: skoltech.ru и aclanthology.org

Получите ИТ-профессию
В «Яндекс Практикуме» можно стать разработчиком, тестировщиком, аналитиком и менеджером цифровых продуктов. Первая часть обучения всегда бесплатная, чтобы попробовать и найти то, что вам по душе. Дальше — программы трудоустройства.
Получите ИТ-профессию Получите ИТ-профессию Получите ИТ-профессию Получите ИТ-профессию
А вы читали это?
[Посмотрите] новый корабль для космических туристов
[Посмотрите] новый корабль для космических туристов

Гламурный и блестящий космос.

[Изобрели] адаптер, которые превращает любые наушники в «умные»
[Изобрели] адаптер, которые превращает любые наушники в «умные»
[Вот, почитайте] Как ветряной бум в Техасе запустил биткоиновую лихорадку
[Вот, почитайте] Как ветряной бум в Техасе запустил биткоиновую лихорадку

Биткоины из воздуха, в буквальном смысле.

Почему робот Олег отвечает так грубо?
Почему робот Олег отвечает так грубо?

Отвечаем на вопрос, который почему-то никто не задал вслух.

Сделали беспроводную систему, которая отслеживает позы людей в движении
Сделали беспроводную систему, которая отслеживает позы людей в движении

Выпрями спину и убери руку от лица.

Посмотрите, как испытывают робота для ходьбы по склонам с рыхлым грунтом
Посмотрите, как испытывают робота для ходьбы по склонам с рыхлым грунтом
GitHub оставят на Северном полюсе архив данных на случай апокалипсиса
GitHub оставят на Северном полюсе архив данных на случай апокалипсиса

А то мало ли что.

Пятое состояние материи впервые наблюдают в космосе
Пятое состояние материи впервые наблюдают в космосе
Изобрели: новый инструмент для отслеживания социальной дистанции
Изобрели: новый инструмент для отслеживания социальной дистанции

А то расходились тут.