ИИ предотвращает самоубийства в Китае

Исследователи научили нейросеть ориентироваться в тексте по ключевым выражениям «смерть», «конец света», «нет желания жить» и другим депрессивным формулировкам. Наткнувшись на сообщение потенциального самоубийцы, программа оценивает серьезность его намерений по десятибалльной шкале. После шестерки алгоритм передает информацию волонтерам — квалифицированным психологам, которые связываются с пользователем и оказывают ему психологическую поддержку.

Точность алгоритма — 82%. За год он помог предотвратить тысячу смертей. С одной стороны, крутая инициатива, с другой — страшно представить, сколько еще алгоритмов отслеживают сообщения пользователей и зачем они это делают.

Источник: South China Morning Post