😢 Проблема: после срока в тюрьме часть людей возвращается к нормальной жизни, часть продолжает совершать преступления. Хорошо бы заранее знать, кто более склонен к рецидиву.
😎 Решение: ИИ, который опережает людей в прогнозировании повторных преступлений. Алгоритм оценки риска будущих преступлений COMPAS уже помогает судьям и советам по УДО решать, кого выпустить из тюрьмы, а кого оставить отбывать срок. Но его часто критикуют за расизм, потому что систему обучают на данных, нередко добытых с нарушениями. Мы об этом недавно писали.
🧐 Как сравнивали: провели эксперимент. Собрали волонтёров и дали им прочитать краткие досье на 50 преступников. Задача — угадать, кто из осуждённых совершит новое преступление в течение двух лет. Так как данные старые и про всех всё известно, участникам сразу говорили результаты. Благодаря обратной связи точность была довольно высокой — не хуже, чем у алгоритма COMPAS.
Но в реальной жизни нельзя сразу узнать, угадал ты, кто станет рецидивистом, или нет. И в этой версии эксперимента COMPAS превзошёл людей. Провели тот же эксперимент, но теперь участникам не говорили, кто рецидивист, а кто нет. Эффективность людей снизилась, а алгоритма — нет.
👉 Нюанс: алгоритм основан на анализе статистических данных. Грубо говоря, если ты латинос из банды, то статистически ты скорее рецидивист, чем нет. Нейроночка это съедает и даёт статистически верный результат на новых латиносах из банд. Но получается, что если ты выпадаешь из статистики и не хочешь грабить корованы после тюрьмы, то этот алгоритм не оставляет тебе шансов.
👨🔬 Кто придумал: социолог Стэнфордского университета Шарад Гоэль и его команда.
Источник: Science News
