В статия на The Guardian се разказва как Министерството на правосъдието във Великобритания разработва алгоритъм, който цели да идентифицира потенциални убийци, преди те да извършат престъпление. Проектът, първоначално наречен “проект за предсказване на убийства”, сега носи по-неутралното име “споделяне на данни за подобряване на оценката на риска”.
Съществуването на проекта стана известно благодарение на организацията за граждански свободи Statewatch, която е получила информация чрез заявления по Закона за свобода на информацията. Според разкритите документи, алгоритъмът анализира данни от между 100,000 и 500,000 души, за да създаде модел за предсказване на риска от извършване на тежки престъпления.
Проектът, поръчан от кабинета на министър-председателя по времето на Риши Сунак, използва данни от различни официални източници, включително Пробационната служба и данни от полицията на Голям Манчестър отпреди 2015 г.
Системата обработва разнообразна информация, включваща: имена, дати на раждане, пол и етническа принадлежност, здравни данни, свързани с психично здраве, зависимости, опити за самоубийство и увреждания.
Според Statewatch, в проекта се използват данни не само на осъдени престъпници, но и на жертви и свидетели. Представители на Министерството на правосъдието категорично отричат това, твърдейки, че се обработва информация само за лица с поне една присъда.
София Лиал, представител на организацията Statewatch, определя проекта като “зловещ и дистопичен пример за намерението на правителството да разработва системи за “предсказване” на престъпления”.
Очаквано от организацията предупреждават, че подобни системи кодират предубеждения срещу расово и икономически маргинализирани общности. Те считат, че използването на чувствителни данни за психично здраве, зависимости и увреждания е дълбоко нарушаващо личната неприкосновеност.
Представител на Министерството на правосъдието защитава проекта, заявявайки: “Този проект се провежда само за изследователски цели. Той е разработен с използване на съществуващи данни, съхранявани от Службата за затворите и пробация и полицейските сили, относно осъдени престъпници, за да ни помогне по-добре да разберем риска от извършване на сериозно насилие от хора под пробация. Доклад ще бъде публикуван своевременно.”
Според официалните представители, затворническата и пробационната служба вече използват инструменти за оценка на риска, а този проект ще провери дали добавянето на нови източници на данни би подобрило тази оценка. Според тях, проектът е само за изследователски цели и на този етап няма никаква практическа тежест при взимането на решения за предсрочно освобождаване.Разбира се, критиците на проекта са на различно мнение и виждат в него само опасности и мрачно тоталитарно бъдеще. Те се опасяват, че това е стъпка към създаване на система за профилиране, която би могла да доведе до предварително наказване на хора, които не са извършили престъпления – сценарий, напомнящ на филма “Специален доклад” (Minority Report).
Надоволните от проекта добавят, че правоприлагащите органи имат дълга история с използването на инструменти с някаква форма на ИИ и засега опитът показва, че тези технологии рядко са били прилагани успешно. Но дали тези хора са се замислили, че напоследък има сериозен пробив в системите за ИИ и изчислителната мощност? А и ако никой не опитваше нещо ново, още щяхме да сме по дърветата и в пещерите, нали така?
