Pular para o conteúdo

Inteligência artificial descontrolada – Consequências devastadoras

Banner Aleatório

O Ministério da Justiça, através da recém-publicada portaria 1.122/26, marcou a entrada formal da inteligência artificial no reconhecimento fotográfico de suspeitos, formalizando uma prática já em curso nas investigações criminais.

Banner Aleatório

Entretanto, embora formalize um instrumento já utilizado na elucidaçãode práticas criminosas, a norma preocupa pelo que deixa em aberto, criando um cenário delicado para a integridade das provas e as garantias processuais dos investigados.

Na prática, a portaria permite, em seu art.18, que sistemas de IA criem duplos digitais de suspeitos, gerando fotografias artificialmente para compor os “dubles” para fins de confronto com a imagem original do pretenso autor do crime, além de permitir ajustes em fotos reais, a fim de padronizar a iluminação e exposição para equipará-las às imagens artificiais.

Todavia, a norma não estabelece a forma de operacionalização de tais ferramentas, além de não a documentação dos procedimentos utilizados.

Ocorre que essa lacuna compromete a cadeia de custódia da prova, que é o caminho rigoroso que toda evidência percorre desde a descoberta do crime até o seu julgamento, com o registro de cada etapa e a documentação de todos os procedimentos adotados, de modo que, quando a IA gera ou manipula imagens sem controles claros, não há como garantir que a prova permaneceu íntegra, reduzindo a auditabilidade do procedimento diante da ausência de documentação.

Além disso, o problema se agrava pela opacidade dos algoritmos, já que sistemas de IA generativa são caixas-pretas cujo funcionamento interno nem seus próprios criadores conseguem explicar integralmente, o que significa que quando o julgador não compreende como a prova foi gerada – vez que nem os próprios desenvolvedores detêm, satisfatoriamente, este conhecimento –, a adequada fundamentação dos julgamentos fica prejudicada, na mesma medida em que a defesa não pode contestar o material de modo efetivo, violando preceitos constitucionais indispensáveis.

Para ilustrar, imagine o cenário em que uma foto real é ajustada para se parecer com imagens geradas por IA, que serão utilizadas como duplos para o reconhecimento fotográfico, com aplicação de filtros e alteração de tonalidades, sendo evidente que, sem o registro detalhado, não há como saber quais ajustes foram efetivamente realizados, bem como se poderiam induzir a vítima ao erro, perdendo-se a transparência necessária na produção da prova criminal.

Ressalte-se, contudo, que não se trata de rejeitar a tecnologia, pois a IA pode sim auxiliar investigações de forma legítima, diante de sua enorme capacidade de processamento de dados e habilidades que superam a capacidade humana.

Entretanto, a inovação sem a observância das garantias essenciais à higidez de um procedimento que objetiva sancionar criminalmente um agente pela prática de um delito representa uma temeridade que compromete garantias processuais fundamentais, já que de nada adianta eficiência se a confiabilidade da prova fica comprometida e a legitimidade do processo é colocada em cheque.

Diante disso, a solução passa por regulamentação mais robusta, com definição de quais sistemas podem ser usados, protocolos técnicos claros e exigência de logs detalhados de toda manipulação, com a preservação destes registros, a fim de garantir a sua auditabilidade, permitindo que cada intervenção seja rastreável e compreensível por parte de todos os atores da persecução criminal.

Portanto, a providência normativa do Ministério da Justiça reconhece o inevitável ao aceitar que a IA já faz parte da investigação criminal, sendo certo, contudo, que a ausência de delimitação dos procedimentos, documentação e controle abrem um caminho perigoso para que condenações se baseiem em provas artificialmente criadas ou ajustadas sem a necessária integridade.

Source link

Join the conversation

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *