Полицейские алгоритмы оказались дюже предвзятыми

Во всём виноваты «грязные» данные.

Полицейские алгоритмы оказались дюже предвзятыми

👉 Ситуация: существуют системы прогнозирования, которые используются в полиции. Система на базе нейроночек изучает исторические данные по преступности в городе и показывает потенциально криминогенные зоны в будущем. Вроде как предсказывает преступления на основе больших данных.

😢 Проблема: эти системы оказались очень неточными и даже вредными, потому что обучались на «грязных» данных. «Грязные» — это те, которые получены нечестным путём: например, полицейские были предвзяты, брали взятки, выбивали показания и всё такое.

🧐 Как узнали: изучили 13 полицейских органов США, за которыми числятся обвинения в коррупции, нарушениях и дискриминации. Во всех этих органах использовались системы прогнозирования на базе ИИ. В 9 из 13 случаев стало очевидно, что если данные «грязные», то и предсказания такие. Проблемы с коррупцией, жестокостью, предвзятостью и прочими полицейскими грехами — всё это воспроизводится в моделях ИИ, поэтому не имеет большой ценности для полиции. А то и вредит.

🤔 И что: ничего. Пока не придумали, что с этим делать. Другое исследование показывает, что ИИ более эффективно вычисляет потенциальных рецидивистов, так что ничего не понятно.

🧐 Кто выяснил: Институт искусственного интеллекта в Нью-Йоркском университете.

Источник: The Next Web

Получите ИТ-профессию
В «Яндекс Практикуме» можно стать разработчиком, тестировщиком, аналитиком и менеджером цифровых продуктов. Первая часть обучения всегда бесплатная, чтобы попробовать и найти то, что вам по душе. Дальше — программы трудоустройства.
Получите ИТ-профессию Получите ИТ-профессию Получите ИТ-профессию Получите ИТ-профессию
Вам может быть интересно
[ВОТ, ПОЧИТАЙТЕ] Как создавали симлиш — язык, на котором говорят в The Sims
[ВОТ, ПОЧИТАЙТЕ] Как создавали симлиш — язык, на котором говорят в The Sims

Как ребята полгода придумывали несуществующий язык.

Вместо тысячи слов — жилет с эмодзи
Вместо тысячи слов — жилет с эмодзи

Можно не тратить время на неприличные жесты, за вас ответит эмодзи.

Дипфейк недели — нейросеть заменила актрису из «Ведьмака» на игрового персонажа
Дипфейк недели — нейросеть заменила актрису из «Ведьмака» на игрового персонажа

Вот что бывает, когда недовольный фанат садится за компьютер.

Придумали, как автоматизировать производство мягких роботов
Придумали, как автоматизировать производство мягких роботов

Как всегда, выручают 3D-принтеры.

Придумали ИИ, который может заменить рентген
Придумали ИИ, который может заменить рентген

Потребовалось всего 15 лет.

Разработали технологию магнитного захвата обломков в космосе
Разработали технологию магнитного захвата обломков в космосе
3D-печать теперь цветная и очень быстрая
3D-печать теперь цветная и очень быстрая

Новый 3D-принтер меняет цвета так быстро, что вы даже не заметите.

[Вот, почитайте]: Спецпроект VentureBeat об ИИ в информационной безопасности
[Вот, почитайте]: Спецпроект VentureBeat об ИИ в информационной безопасности

Осторожно, много букв.

Придумали новый подход к обучению нейронок
Придумали новый подход к обучению нейронок

Дешевле, быстрее, выше и сильнее.