IA britânica para prever crimes se prova ineficaz e é desativada

O Reino Unido recentemente desativou a ferramenta MSV (Most Serious Violence), criada para prevenir crimes violentos sinalizando indivíduos que estão propensos a cometê-los. Após investir milhões de dólares na tecnologia, o governo informou que falhas graves foram encontradas no código, além de problemas éticos.

A IA surgiu com o projeto National Data Analytics Solution (Solução Nacional de Análise de dados — NDAS na sigla em inglês) sob o comando da polícia de West Midlands, mas foi cancelada antes mesmo de ser utilizada pelo país. Segundo documentos divulgados pelo site Wired, a tecnologia tinha um índice de acerto de apenas 20%, mas deveria ter 70% no mínimo.

Objetivo do programa

  (Fonte: Unsplash)

A ideia na criação da MSV era combinar inteligência artificial e estatísticas para tentar avaliar o risco de determinado indivíduo cometer ou se tornar vítima de crimes graves e violentos, com armas brancas ou de fogo, por exemplo. Para tanto, dois departamentos de polícia do Reino Unido treinaram o programa e reuniram históricos de crimes e prisões em todo o país.

Iain Donnelly, o policial líder do projeto, explicou que o objetivo não era efetuar prisões preventivas, mas oferecer apoio a profissionais de saúde e assistentes sociais. Nesse caso, indivíduos com histórico de disfunções mentais e que já foram registrados seriam sinalizados como passíveis de cometerem crimes violentos, e as vítimas em potencial seriam alertadas.

Problemas éticos

Especialistas indicaram na publicação do Wired que, mesmo se a MSV alcançasse um índice de acerto de 100%, ainda seria arriscado utilizá-la. Segundo eles, esse tipo de tecnologia corre altos riscos de se tornar enviesada e reproduzir em seus resultados os preconceitos presentes na sociedade, sobretudo relacionados a etnia.