Новый алгоритм ВК против угроз и оскорблений

🤔 Что слу­чи­лось: у адми­ни­стра­то­ров сооб­ществ появил­ся фильтр для борь­бы с агрес­сив­ны­ми поль­зо­ва­те­ля­ми — бло­ки­ру­ет ком­мен­та­рии с угро­за­ми или обе­ща­ни­я­ми физи­че­ской рас­пра­вы. Фильтр по умол­ча­нию отклю­чён и сра­ба­ты­ва­ет после руч­но­го изме­не­ния настрой­ки сообщества. 

🙃 Как: в осно­ве филь­тра лежит обу­чен­ная ней­ро­сеть, спо­соб­ная с 80%-й точ­но­стью оце­ни­вать кон­текст раз­го­вор­ной речи. Вме­сте с ней­ро­се­тью рабо­та­ют алго­рит­мы, кото­рые в фоно­вом режи­ме мони­то­рят сооб­ще­ство и мгно­вен­но реа­ги­ру­ют на неже­ла­тель­ные высказывания. 

🙃 Зачем: что­бы умень­шить трав­лю в соц­се­тях и услож­нить жизнь троллям. 

❌ Про­бле­ма: фильтр появил­ся толь­ко у поло­ви­ны адми­ни­стра­то­ров соц­се­ти. Осталь­ным при­дёт­ся подо­ждать, пока раз­ра­бот­чи­ки закон­чат тестирование. 

💪 Пер­спек­ти­ва: раз­ра­бот­чи­ки пла­ни­ру­ют повы­сить точ­ность ней­ро­се­ти и рас­ши­рить её воз­мож­но­сти — сде­лать так, что­бы она защи­ща­ла от оскорб­ле­ний на осно­ве наци­о­наль­ной при­над­леж­но­сти или по иным при­зна­кам нетерпимости. 

👉 Подроб­но­сти: vk.com