😢 Проблема: нейросети не понимают, что говорят. После обучения на массивах данных из соцсетей они могут внезапно начать оправдывать рабство и расизм, а также подсказать человеку верные способы навредить себе, например, как совершить [Роскомнадзор].
😎 Решение: нейронная модель, которая находит признаки обсуждения «деликатных» тем и собирает «неуместные» высказывания для дальнейшего обучения корпоративных чат-ботов, модерации и родительского контроля.
Под определение «деликатных» пока попадают 18 тем, среди которых наркотики, порнография, политика, религия, самоубийства и преступность. Основной критерий уместности — может ли высказывание навредить собеседнику-человеку или испортить репутацию владельца чат-бота. Данные для обучения нейронки брали с Двача и Ответов Mail.ru.
👉 Гитхаб: github.com
👨🔬 Кто: исследователи Сколковского института науки и технологий и компании «МТС», Россия.
Источники: skoltech.ru и aclanthology.org
![[Вот, почитайте] Как ветряной бум в Техасе запустил биткоиновую лихорадку](https://thecode.media/wp-content/uploads/2020/03/gettyimages-953651634-web-1080x607.jpg)
![[Изобрели] адаптер, которые превращает любые наушники в «умные»](https://thecode.media/wp-content/uploads/2021/03/headfifigure2_mod_01.jpg)
![[Посмотрите] новый корабль для космических туристов](https://thecode.media/wp-content/uploads/2021/05/zagruzhennoe-1-1080x608.jpeg)
