Особое мнение: ИИ предсказывает, кто станет рецидивистом

😢 Про­бле­ма: после сро­ка в тюрь­ме часть людей воз­вра­ща­ет­ся к нор­маль­ной жиз­ни, часть про­дол­жа­ет совер­шать пре­ступ­ле­ния. Хоро­шо бы зара­нее знать, кто более скло­нен к рецидиву.

😎 Реше­ние: ИИ, кото­рый опе­ре­жа­ет людей в про­гно­зи­ро­ва­нии повтор­ных пре­ступ­ле­ний. Алго­ритм оцен­ки рис­ка буду­щих пре­ступ­ле­ний COMPAS уже помо­га­ет судьям и сове­там по УДО решать, кого выпу­стить из тюрь­мы, а кого оста­вить отбы­вать срок. Но его часто кри­ти­ку­ют за расизм, пото­му что систе­му обу­ча­ют на дан­ных, неред­ко добы­тых с нару­ше­ни­я­ми. Мы об этом недав­но писа­ли.

🧐 Как срав­ни­ва­ли: про­ве­ли экс­пе­ри­мент. Собра­ли волон­тё­ров и дали им про­чи­тать крат­кие досье на 50 пре­ступ­ни­ков. Зада­ча — уга­дать, кто из осуж­дён­ных совер­шит новое пре­ступ­ле­ние в тече­ние двух лет. Так как дан­ные ста­рые и про всех всё извест­но, участ­ни­кам сра­зу гово­ри­ли резуль­та­ты. Бла­го­да­ря обрат­ной свя­зи точ­ность была доволь­но высо­кой — не хуже, чем у алго­рит­ма COMPAS.

Но в реаль­ной жиз­ни нель­зя сра­зу узнать, уга­дал ты, кто ста­нет реци­ди­ви­стом, или нет. И в этой вер­сии экс­пе­ри­мен­та COMPAS пре­взо­шёл людей. Про­ве­ли тот же экс­пе­ри­мент, но теперь участ­ни­кам не гово­ри­ли, кто реци­ди­вист, а кто нет. Эффек­тив­ность людей сни­зи­лась, а алго­рит­ма — нет.

👉 Нюанс: алго­ритм осно­ван на ана­ли­зе ста­ти­сти­че­ских дан­ных. Гру­бо гово­ря, если ты лати­нос из бан­ды, то ста­ти­сти­че­ски ты ско­рее реци­ди­вист, чем нет. Ней­ро­ноч­ка это съе­да­ет и даёт ста­ти­сти­че­ски вер­ный резуль­тат на новых лати­но­сах из банд. Но полу­ча­ет­ся, что если ты выпа­да­ешь из ста­ти­сти­ки и не хочешь гра­бить коро­ва­ны после тюрь­мы, то этот алго­ритм не остав­ля­ет тебе шансов.

👨‍🔬 Кто при­ду­мал: социо­лог Стэн­форд­ско­го уни­вер­си­те­та Шарад Гоэль и его команда.

Источ­ник: Science News