В России сделали нейронку, которая поможет чат-ботам не обсуждать скользкие темы

Фильтруй базар.

В России сделали нейронку, которая поможет чат-ботам не обсуждать скользкие темы

😢 Проблема: нейросети не понимают, что говорят. После обучения на массивах данных из соцсетей они могут внезапно начать оправдывать рабство и расизм, а также подсказать человеку верные способы навредить себе, например, как совершить [Роскомнадзор].

😎 Решение: нейронная модель, которая находит признаки обсуждения «деликатных» тем и собирает «неуместные» высказывания для дальнейшего обучения корпоративных чат-ботов, модерации и родительского контроля.

Под определение «деликатных» пока попадают 18 тем, среди которых наркотики, порнография, политика, религия, самоубийства и преступность. Основной критерий уместности — может ли высказывание навредить собеседнику-человеку или испортить репутацию владельца чат-бота. Данные для обучения нейронки брали с Двача и Ответов Mail.ru.

👉 Гитхаб: github.com 

👨‍🔬 Кто: исследователи Сколковского института науки и технологий и компании «МТС», Россия.

Источники: skoltech.ru и aclanthology.org

Получите ИТ-профессию
В «Яндекс Практикуме» можно стать разработчиком, тестировщиком, аналитиком и менеджером цифровых продуктов. Первая часть обучения всегда бесплатная, чтобы попробовать и найти то, что вам по душе. Дальше — программы трудоустройства.
Получите ИТ-профессию Получите ИТ-профессию Получите ИТ-профессию Получите ИТ-профессию
Вам может быть интересно
[Посмотрите] новый корабль для космических туристов
[Посмотрите] новый корабль для космических туристов

Гламурный и блестящий космос.

[Изобрели] адаптер, которые превращает любые наушники в «умные»
[Изобрели] адаптер, которые превращает любые наушники в «умные»
[Вот, почитайте] Как ветряной бум в Техасе запустил биткоиновую лихорадку
[Вот, почитайте] Как ветряной бум в Техасе запустил биткоиновую лихорадку

Биткоины из воздуха, в буквальном смысле.

Изобрели: парковку, которую можно оплачивать электричеством
Изобрели: парковку, которую можно оплачивать электричеством

Интересно, но пока непонятно.

Умные солнцезащитные очки
Умные солнцезащитные очки

Делают всё, кроме завтрака.

Учёные разрабатывают ИИ, чтобы искать опухоли
Учёные разрабатывают ИИ, чтобы искать опухоли

ИИ уже умеет находить рак груди, лёгких и даже кожи. Пришло время опухолей головного мозга.

Изобрели новый способ производства водорода
Изобрели новый способ производства водорода

На шаг ближе к экологически чистому миру.

Жизнь улиток: учёные поместили крохотные компьютеры на панцири моллюсков
Жизнь улиток: учёные поместили крохотные компьютеры на панцири моллюсков
Ультрамягкие роботы обнимают медуз
Ультрамягкие роботы обнимают медуз

Медуз обнимают, а тебя?