Depois das câmeras corporais, policiais nos Estados Unidos estão usando inteligência artificial para escrever os relatórios das ocorrências que atendem. E adivinha só: a mesma empresa criou os dois sistemas que, aliás, estão interligados.
O Draft One foi desenvolvido pela Axon e, basicamente, transforma em texto os áudios (não os vídeos) das gravações das câmeras que os policiais carregam junto ao corpo.
Lançado em abril deste ano, em junho ele já tinha sido adotado por, pelo menos, 3 departamentos de polícia do Colorado.
A justificativa é que a IA reduz a carga de trabalho dos policiais que gastam, em média, 15 horas por semana escrevendo relatórios.
Mas a julgar pelas notícias na mídia americana, só os policiais gostaram da inovação.
Não é só o que aconteceu na ocorrência que importa…
O principal problema que tem sido levantado é: os relatórios não deveriam conter apenas uma narrativa do que aconteceu, mas também as justificativas do policial para suas ações.
Isso porque o documento é a base do sistema judiciário americano, segundo reportagem do site Ars Techinica.
Em um caso de julgamento, o relatório precisa apontar:
- o que o policial viu
- o que ele imaginou que estava ocorrendo
- porque ele agiu da forma como agiu na ocasião.
E está bem óbvio que a inteligência artificial não pode escrever sobre os dois últimos pontos.
Mas não é só isso. O que a IA escutou na gravação também pode ser um problema na avaliação especialistas. Matthew Guariglia, um analista sênior de políticas, por exemplo, escreveu:
“Já vimos isso antes. Um vídeo granulado e trêmulo de uma câmera policial usada no corpo, no qual um policial grita: ‘Pare de resistir!’. Essa frase pode levar a um maior uso da força pelos policiais ou vir com acusações criminais reforçadas. Às vezes, esses gritos podem ser justificados. Mas, como vimos várias vezes, a narrativa de alguém resistindo à prisão pode ser uma deturpação. Integrar a IA em narrativas de encontros policiais pode tornar um sistema já complicado ainda mais propenso a abusos.”
Já o especialista em Direito Andrew Ferguson, um dos primeiros a analisar os possíveis impactos do Draft One no sistema judiciário americano, lembrou que esse tipo de tecnlogia ainda não é tão confiável até para atividades mais simples.
O chatGPT (cujo sistema foi usado como base de inteligência artificial pela Axon) é conhecido por:
- confundir piadas com fatos
- adicionar informações incorretas aleatoriamente às respostas
- causar alucionações, ou seja, inventar coisas.
O que diz a Axon?
De acordo com matéria do site The Deep View, a Axon disse ter feito um estudo duplo-cego que apontou que os relatórios escritos pelo Draft One seriam superiores aos escritos pelos próprios policiais.
Além disso, a empresa argumenta que os policiais são obrigados a revisar o documento e que alguns trechos dos relatórios ainda precisam ser preenchidos manualmente.
Outro ponto destacado pela Axon é sua sugestão de que o sistema de inteligência artificial seja usado apenas em ocorrências policiais “menores”.
Mas, conforme o site de notícias KUNC, não é bem isso que está ocorrendo. No Colorado, os departamentos de polícia já receberam sinal verde para usar o Draft One para “qualquer coisa”.
