Системы, основанные на deep learning, сегодня управляют всем, начиная от распознавания лиц и заканчивая прогнозами фондового рынка. В большинстве случаев нам плевать, каким образом машины приходят к своим выводам, если эти выводы правильны. Но если ИИ начинает реже одобрять кредиты женщинам или считать преступниками всех чернокожих подряд — это проблема.
Но проблема уже почти решена: учёные из Массачусетского технологического института разработали фреймворк Seldonian, который будет учить роботов толерантности в понятной для них форме. Идея не нова — Айзек Азимов ещё в 1942 году сформулировал «три закона роботехники», которые и были взяты за основу алгоритма.
Тут была расистская шутка, но нейросетка ее удалила.
Источник: The Next Web
