Тюрьмы используют ИИ, чтобы предсказать, кто из заключённых совершит преступление в будущем

В тюрьмах Мичигана заключённых распределяют по пяти уровням безопасности. Раньше их дела рассматривал комитет сотрудников, назначенный начальником каждого учреждения. Теперь штат, судя по всему, хочет передать это решение Recidiviz — или по крайней мере в значительной степени опираться на рекомендации компании.

Recidiviz начинала как проект по работе с данными в Google. Его целью было выяснить, как с помощью технологий стандартизировать данные системы уголовного правосудия и улучшить её работу по всей стране. В программной платформе компании используются технологии ИИ. Она, как сообщается, помогает находить людей, которым доступны программы штата, пересмотр категории безопасности или освобождение, а также связывает их с такими ресурсами, как временное жильё и помощь в поиске работы.

В пресс-релизе Департамент исправительных учреждений Мичигана сообщил, что программное обеспечение Recidiviz будут использовать для «оптимизации размещения заключённых». Пилотный проект начнётся в декабре в нескольких мужских учреждениях. По словам ведомства, инструмент на основе ИИ должен примерно на 30% повысить способность точнее предсказывать риск будущего насилия со стороны заключённых. Как именно штат рассчитал эту расплывчатую цифру, неясно.

Уровень размещения сильно влияет на жизнь заключённых: от него зависит, какие программы и ресурсы им доступны и с какими людьми они будут содержаться на протяжении срока.

Риски алгоритмической оценки

Партнёрство Департамента исправительных учреждений Мичигана и Recidiviz оставляет без ответа несколько важных вопросов. Например, для точности системы будет иметь большое значение, какие именно данные она собирает и использует.

Расследование ProPublica о похожей системе оценки рисков в Луизиане показало, что данные для классификации заключённых содержали расовую и социально-экономическую предвзятость. В результате система уголовного правосудия штата стала ещё жестче к людям, которые всерьёз стремились к реабилитации.

В одном из описанных ProPublica случаев 70-летнего незрячего человека, передвигавшегося на инвалидной коляске, признали обладателем «умеренного риска» повторного правонарушения, хотя дисциплинарных взысканий у него не было. Из-за этой категории он автоматически лишился права на условно-досрочное освобождение.

Система Мичигана будет определять размещение в тюрьме, а не принимать решения об условно-досрочном освобождении. Но маловероятно, что одно программное обеспечение решит продолжающийся кризис системы исправительных учреждений штата. Опыт Луизианы показывает, что использование ИИ может, напротив, сделать ситуацию значительно хуже.

Департамент исправительных учреждений Мичигана попросили прокомментировать ситуацию.