Мичиган запускает ИИ-алгоритм для сортировки заключённых по уровню опасности, заменяя решение специальных комиссий
iXBT.com ·
С декабря в нескольких мужских тюрьмах Мичигана начнётся пилотное использование программного обеспечения некоммерческой организации Recidiviz, изначально созданной как проект Google для стандартизации данных уголовного правосудия. Система будет классифицировать людей по пяти уровням режима содержания, определяя, к каким программам реабилитации и в каком окружении они будут находиться весь срок заключения.
Ранее такие решения принимала комиссия сотрудников, назначаемая начальником тюрьмы. Теперь алгоритм станет ключевым фактором при оптимизации размещения. Представители департамента заявляют, что ИИ улучшит прогнозирование риска насилия примерно на 30%, однако не раскрывают, на основе каких данных получена эта оценка.
Проблема алгоритмической предвзятости в пенитенциарной системе уже имеет прецеденты: расследование ProPublica в Луизиане показало, что аналогичная программа классифицировала слепого 70-летнего инвалида-колясочника с безупречным дисциплинарным досье как «умеренный риск» рецидива, автоматически лишив его права на условно-досрочное освобождение. Хотя мичиганская система нацелена на распределение по корпусам, а не на решения об освобождении, эксперты опасаются, что использование исторических данных, пронизанных социально-экономическими и расовыми искажениями, лишь усугубит кризис переполненности и несправедливости.
Сам Recidiviz описывает свою миссию как предоставление инструментов для выявления людей, имеющих право на образовательные программы, переквалификацию или освобождение, и координацию доступа к ресурсам вроде временного жилья и трудоустройства. Но отсутствие независимой валидации и отказ властей от деталей о сборе данных оставляют открытым вопрос, станет ли алгоритм шагом к реабилитации или ещё одним механизмом дискриминации.