Полицейские алгоритмы оказались дюже предвзятыми

Во всём виноваты «грязные» данные.

Полицейские алгоритмы оказались дюже предвзятыми

👉 Ситуация: существуют системы прогнозирования, которые используются в полиции. Система на базе нейроночек изучает исторические данные по преступности в городе и показывает потенциально криминогенные зоны в будущем. Вроде как предсказывает преступления на основе больших данных.

😢 Проблема: эти системы оказались очень неточными и даже вредными, потому что обучались на «грязных» данных. «Грязные» — это те, которые получены нечестным путём: например, полицейские были предвзяты, брали взятки, выбивали показания и всё такое.

🧐 Как узнали: изучили 13 полицейских органов США, за которыми числятся обвинения в коррупции, нарушениях и дискриминации. Во всех этих органах использовались системы прогнозирования на базе ИИ. В 9 из 13 случаев стало очевидно, что если данные «грязные», то и предсказания такие. Проблемы с коррупцией, жестокостью, предвзятостью и прочими полицейскими грехами — всё это воспроизводится в моделях ИИ, поэтому не имеет большой ценности для полиции. А то и вредит.

🤔 И что: ничего. Пока не придумали, что с этим делать. Другое исследование показывает, что ИИ более эффективно вычисляет потенциальных рецидивистов, так что ничего не понятно.

🧐 Кто выяснил: Институт искусственного интеллекта в Нью-Йоркском университете.

Источник: The Next Web

Через год — лучше работа, выше зарплата
В «Яндекс Практикуме» становятся разработчиками с нуля. Выберите язык — веб, Python, Java, C++ — и учитесь. Джуны зарабатывают от 80 000 ₽, мидлы — от 150 000 ₽. Дальше — программы трудоустройства и компенсация, если пойдёте в Яндекс.
Через год — лучше работа, выше зарплата Через год — лучше работа, выше зарплата Через год — лучше работа, выше зарплата Через год — лучше работа, выше зарплата
Вам может быть интересно
[ВОТ, ПОЧИТАЙТЕ] Как создавали симлиш — язык, на котором говорят в The Sims
[ВОТ, ПОЧИТАЙТЕ] Как создавали симлиш — язык, на котором говорят в The Sims

Как ребята полгода придумывали несуществующий язык.

Вместо тысячи слов — жилет с эмодзи
Вместо тысячи слов — жилет с эмодзи

Можно не тратить время на неприличные жесты, за вас ответит эмодзи.

Дипфейк недели — нейросеть заменила актрису из «Ведьмака» на игрового персонажа
Дипфейк недели — нейросеть заменила актрису из «Ведьмака» на игрового персонажа

Вот что бывает, когда недовольный фанат садится за компьютер.

LeetCode запустил задачи по вайбкодингу — с проектами от Amazon, Stripe и Bloomberg
LeetCode запустил задачи по вайбкодингу — с проектами от Amazon, Stripe и Bloomberg

Привычные алгоритмы — это уже вчерашний день?

easy
Рой ИИ-агентов написал чат-бота без нейросетей — из 640 000 строк кода на Python
Рой ИИ-агентов написал чат-бота без нейросетей — из 640 000 строк кода на Python

Сопоставимо с ИИ на 360 млн параметров

easy
Вышла GTA VI — игра набрала 99 баллов из 100 на Metacritic
Вышла GTA VI — игра набрала 99 баллов из 100 на Metacritic

Это победа

easy
BugMeNot закрылся после 23 лет работы, оставив вместо объяснений криптографическую загадку
BugMeNot закрылся после 23 лет работы, оставив вместо объяснений криптографическую загадку

Заинтриговали напоследок

easy
Дженсена Хуанга уволили из NVIDIA из-за Anthropic — новая теория заговора
Дженсена Хуанга уволили из NVIDIA из-за Anthropic — новая теория заговора

А как известно, некоторые из них оказываются правдой…

easy
Вышла GPT-6.2 Astra: ИИ дешевле Claude Fable 5.2, но обошел его в программировании
Вышла GPT-6.2 Astra: ИИ дешевле Claude Fable 5.2, но обошел его в программировании

Внезапно

easy