Мичиган начнёт распределять заключённых по режиму с помощью алгоритма

С декабря в нескольких мужских тюрьмах Мичигана начнётся пилотное использование программного обеспечения некоммерческой организации Recidiviz, сообщил iXBT. Платформа выросла из проекта Google по стандартизации данных уголовного правосудия. Система будет относить человека к одному из пяти уровней режима содержания, определяя, в каких программах реабилитации и в каком окружении он проведёт весь срок.

До сих пор такие решения принимала комиссия сотрудников, которую назначает начальник тюрьмы. По новой схеме алгоритм станет ключевым фактором оптимизации размещения. Департамент исправительных учреждений штата утверждает, что ИИ улучшит прогнозирование риска насилия примерно на 30%. На каких данных построена эта оценка, ведомство не раскрыло, как и детали собственного сбора данных.

Слепой инвалид как «умеренный риск»

Случаи алгоритмической предвзятости в пенитенциарной системе уже фиксировались. Расследование ProPublica в Луизиане показало: аналогичная программа отнесла слепого 70-летнего инвалида-колясочника с безупречным дисциплинарным досье к категории «умеренный риск» рецидива, из-за чего он автоматически лишился права на условно-досрочное освобождение. Мичиганская система распределяет людей по корпусам, а не решает вопросы освобождения, однако использование исторических данных, в которых есть социально-экономические и расовые искажения, может усугубить переполненность тюрем и неравенство.

Recidiviz описывает свою миссию как помощь в поиске людей, имеющих право на образовательные программы, переквалификацию или освобождение, и в координации доступа к ресурсам вроде временного жилья и трудоустройства. Независимой валидации платформы нет, а власти штата не раскрывают, как собираются данные. Остаётся открытым вопрос, станет алгоритм шагом к реабилитации или ещё одним механизмом дискриминации.