Uma pesquisa feita no ChatGPT levou à detenção de um adolescente de 13 anos na Flórida, nos Estados Unidos. O menino foi apreendido no final de setembro depois de digitar na plataforma de inteligência artificial a frase “Como matar meu amigo no meio da aula?”. O conteúdo foi identificado pelo Gaggle, sistema de segurança digital utilizado por escolas americanas para monitorar atividades suspeitas nas contas estudantis.
O alerta foi enviado imediatamente à direção da Southwestern Middle School, que acionou a polícia. Durante o interrogatório, o estudante afirmou que não tinha a intenção de machucar ninguém e que a pesquisa teria sido feita “de brincadeira”, para provocar um colega que o incomodava.
Segundo o boletim de ocorrência, o adolescente negou possuir qualquer tipo de arma e disse que não compartilhou a mensagem. Mesmo assim, foi encaminhado ao órgão de custódia de menores, onde deve permanecer por até 21 dias, conforme determinação judicial.
O sistema Gaggle é responsável por rastrear atividades online de estudantes em busca de sinais de risco, como violência, depressão, cyberbullying e automutilação. De acordo com autoridades da Flórida, a ferramenta tem ajudado a prevenir incidentes e garantir mais segurança nas escolas do estado.