Особое мнение: ИИ предсказывает, кто станет рецидивистом

Особое мнение: ИИ предсказывает, кто станет рецидивистом

😢 Проблема: после срока в тюрьме часть людей возвращается к нормальной жизни, часть продолжает совершать преступления. Хорошо бы заранее знать, кто более склонен к рецидиву.

😎 Решение: ИИ, который опережает людей в прогнозировании повторных преступлений. Алгоритм оценки риска будущих преступлений COMPAS уже помогает судьям и советам по УДО решать, кого выпустить из тюрьмы, а кого оставить отбывать срок. Но его часто критикуют за расизм, потому что систему обучают на данных, нередко добытых с нарушениями. Мы об этом недавно писали.

🧐 Как сравнивали: провели эксперимент. Собрали волонтёров и дали им прочитать краткие досье на 50 преступников. Задача — угадать, кто из осуждённых совершит новое преступление в течение двух лет. Так как данные старые и про всех всё известно, участникам сразу говорили результаты. Благодаря обратной связи точность была довольно высокой — не хуже, чем у алгоритма COMPAS.

Но в реальной жизни нельзя сразу узнать, угадал ты, кто станет рецидивистом, или нет. И в этой версии эксперимента COMPAS превзошёл людей. Провели тот же эксперимент, но теперь участникам не говорили, кто рецидивист, а кто нет. Эффективность людей снизилась, а алгоритма — нет.

👉 Нюанс: алгоритм основан на анализе статистических данных. Грубо говоря, если ты латинос из банды, то статистически ты скорее рецидивист, чем нет. Нейроночка это съедает и даёт статистически верный результат на новых латиносах из банд. Но получается, что если ты выпадаешь из статистики и не хочешь грабить корованы после тюрьмы, то этот алгоритм не оставляет тебе шансов.

👨‍🔬 Кто придумал: социолог Стэнфордского университета Шарад Гоэль и его команда.

Источник: Science News

Получите ИТ-профессию
В «Яндекс Практикуме» можно стать разработчиком, тестировщиком, аналитиком и менеджером цифровых продуктов. Первая часть обучения всегда бесплатная, чтобы попробовать и найти то, что вам по душе. Дальше — программы трудоустройства.
Вам может быть интересно
Первый полёт полностью электрического гидросамолёта

Он летает, он плавает.

Объёмный тактильный дисплей для слепых

Здорово, когда технологии реально работают на пользу людям.

Приложение превратило iPhone в iPod из нулевых

Олды тут?

Ford используют собаку Boston Dynamics для создания 3D-карты

Теперь робопёс работает разведчиком.

Новый инструмент поможет предотвращать столкновения спутников
Робот-лаборант проводит исследования в тысячу раз быстрее людей

И работает без обеда.

Российские учёные разработали биоплёнку для восстановления кожи

Быстро заживляет и не боится микробов.

В России научились диагностировать энцефалит на дому
Изобрели мягкий роботизированный имплантат, который контролирует рубцовую ткань и высвобождает лекарства при необходимости
[anycomment]
Exit mobile version