Департамент виправних установ штату Мічиган (MDOC) у грудні запускає пілотний проєкт із використанням штучного інтелекту для розподілу ув’язнених за рівнями небезпечності між виправними закладами. ШІ-система має покращити рівень прогнозування майбутнього насильства з боку в’язнів.
Департамент виправних установ штату Мічиган (MDOC) у грудні запускає пілотний проєкт із використанням штучного інтелекту для розподілу ув’язнених за рівнями небезпечності між виправними закладами. ШІ-система має покращити рівень прогнозування майбутнього насильства з боку в’язнів.
Про це повідомляє видання Futurism з посиланням на американський телеканал Fox2. Нову систему впроваджують у співпраці з некомерційною технологічною компанією Recidiviz, яка створила відповідну програмну платформу з інтегрованим ШІ.
Технологічна компанія Recidiviz починалася як внутрішній проєкт з організації даних у Google. Його метою була стандартизація даних кримінального правосуддя в США. Система аналізує інформацію та визначає осіб, які мають право на участь у державних програмах реабілітації, перекласифікацію або дострокове звільнення, а також допомагає узгоджувати доступ до тимчасового житла та працевлаштування.
Влада штату зазначає, що у Мічигані існує п’ять рівнів утримання ув’язнених. Раніше оцінкою ризиків займалися спеціальні комісії зі співробітників установ, проте тепер ці функції частково передають алгоритму. За даними MDOC, впровадження ШІ має покращити точність прогнозування ризиків майбутнього насильства з боку ув’язнених приблизно на 30%, хоча у відомстві не розкривають методологію розрахунку цієї цифри. Новий інструмент насамперед випробують у кількох чоловічих тюрмах.
Проєкт вже викликав занепокоєння правозахисників через ризики алгоритмічної упередженості. Для ув’язнених зміна рівня безпеки суттєво впливає на умови відбування покарання та доступ до реабілітаційних програм.
Розслідування видання ProPublica щодо аналогічних систем у Луїзіані показувало, що вхідні дані для алгоритмів часто містили расові та соціально-економічні викривлення. Це призводило до помилкових рішень — зокрема, коли 70-річного сліпого чоловіка на інвалідному візку система класифікувала як особу з «помірним ризиком» повторних злочинів, позбавивши його права на умовно-дострокове звільнення.
Раніше стало відомо про випадок, коли 50-річна Анджела Ліпс з Теннессі провела понад п’ять місяців у в’язниці після того, як поліцейська ШІ-система розпізнавання обличчя пов’язала її зі злочинами в іншому штаті (у якому вона ніколи не бувала).
