A importância da confidencialidade dos dados em ChatGPT, Gemini e Copilot: Como garantir privacidade ao utilizar essas ferramentas gratuitas?

Licenciado em Engenharia Informática e Mestre em Inteligência Artificial (IA) pelo Instituto Superior Técnico, da Universidade de Lisboa, Miguel Duarte Freitas conhece bem o mercado empresarial neste domínio, que ganhou grande impulso com a chegada em força dos chamados chatbots e assistentes pessoais, baseados nesta tecnologia tão revolucionária quanto polémica e assustadora.

Em entrevista à VISÃO, o especialista em IA aborda as transformações em marcha no mercado de trabalho e as implicações que já aí estão – e outras que se adivinham – para empresas e trabalhadores, assumindo o entusiasmo que lhe suscita a onda de inovações capazes de o surpreender a cada dia que passa, mas sem esconder receios pelo “reverso da medalha” que também vislumbra no horizonte, como o desenvolvimento de poderosas máquinas de guerra, mas não só.

Diretor-geral de uma empresa de software cada vez mais centrado em IA, Miguel Duarte Freitas, de 46 anos, defende que estamos perante um fenómeno só comparável aos adventos da eletricidade e da internet, agradece a concorrência entre EUA e China em nome de um controlo de custos para os consumidores –  “Com um monopólio é que era a desgraça” –, mas lamenta a dependência europeia em relação aos produtos americanos, tendo em conta o potencial do Velho Continente. Fala ainda dos “malucos” que exploram a IA na internet com más intenções e dos novos desafios para o ensino, a propósito do recente manifesto, assinado por 30 professores, a pedir a proibição da IA nas universidades. “É o mesmo que querer proibir os carros porque existem acidentes.”

Já estamos rodeados de Inteligência Artificial por todos os lados?

Costumo dizer que o mundo de hoje sem IA seria como o mundo de há uns anos sem internet ou de há mais tempo sem eletricidade. Com o apagão do ano passado, vimos o quão dependentes estamos. A IA é uma verdadeira Revolução Industrial. Permite fazer, automatizar ou assistir em todos os processos de uma empresa. Quem não tem um assistente de IA provavelmente vai ser substituído por um no futuro. Por isso, tenham ao lado esta espécie de Aristóteles, como gosto de lhe chamar, uma ferramenta que sabe tudo sobre aquela área e aquele negócio específicos.

Que outras mais-valias destaca, entre as que já se encontram ao serviço das empresas?

A grande funcionalidade passa pelos chamados agentes de IA, que são entidades que aprendem sozinhas, com o feedback das operações que lhes são atribuídas e com os dados que lhes são fornecidos. Posso ter um na área financeira, outro na área comercial, mais outro na área judicial e por aí fora. A IA é diferente de tudo o que já vimos porque não temos de lhe dar instruções sobre como fazer as coisas. Basta dizer: aqui é onde estou e ali é onde quero chegar. Com base em amostras passadas, e numa informação que não é perfeita, estes agentes aprendem a definir o melhor caminho a seguir.

No seu caso, usa a IA para enviar emails da empresa?

No Office365, da Microsoft, o [assistente de IA] Copilot sugere várias opções e já estou tão habituado que dou aquilo por garantido. Também uso a IA para estruturar apresentações, procurar contactos online ou analisar contratos gigantes, por exemplo, questionando o ChatGPT sobre os riscos para a empresa. É um acessório de apoio.

E confia?

Não podemos. Não aconselho. Há ferramentas melhores do que outras. Por exemplo, o ChatGPT é ótimo para processamento de texto. Há outras que são melhores para vídeo, outras para imagens. Vou confiando à medida que vou testando. É quase como confiar numa pessoa. Damos algo e vemos a resposta que obtemos. A resposta também depende muito da maneira como interagimos. Temos de dar os dados todos para a IA tomar a melhor decisão. Como um amigo, tenho de saber lidar com ele. No caso dos emails, a IA propõe uma resposta, mas é um risco carregar no botão de enviar sem a ler antes.

Até que ponto a utilização de IA se traduz em maior produtividade para as empresas?

Imagine-se um escritório de advogados a lidar com um caso específico. Cria-se um agente jurídico, com acesso à petição e à contestação, a todos os elementos de prova, aos vários casos semelhantes que existiram em Portugal, e forma-se um bolo de informação através de gigas e gigas de ficheiros. Ele processa todos esses dados, com amostras dos que correram bem e dos que correram mal, faz as ligações ao caso atual, e o advogado questiona qual a probabilidade de correr bem desta vez. O agente responde que a probabilidade de ganhar é maior com base nisto e naquilo. Isto é a IA no seu melhor. Não substitui o advogado, nem pouco mais ou menos, mas serve para balizar o seu trabalho, quanto mais não seja para validar o que ele já tinha na cabeça ou para o lembrar de um argumento que estava esquecido.

Sendo que o advogado demoraria muito tempo só a documentar-se sobre todos os casos passados, ao contrário da IA.

A IA demora mais a carregar ficheiros de muitos gigas do que a processá-los.

Esse processamento da informação pela IA é seguro, do ponto de vista da confidencialidade?

Se formos ver nas entrelinhas de cada um destes motores, na prática, estamos a enviar documentos sensíveis para uma entidade. Quando surgiu a cloud, ou nuvem, também houve esse tipo de dúvidas, mas a verdade é que é mais provável existir um ataque no servidor local do que lá fora. Isto porque estar atualizado das regras de cibersegurança, com firewalls e tudo o mais, implica um custo louco, além de pessoas muito experientes, e nesse sentido os data centers oferecem camadas de segurança muito bem treinadas.

Ou seja, é mais difícil ir lá roubar a informação.

De longe. Mas é válido questionar a confidencialidade dos dados enviados para os ChatGPT, para os Gemini ou para os Copilot da nossa vida. Se for um pacote grátis, a informação pode tornar-se pública. Noutros, já não se torna pública, mas qualquer pessoa dentro da organização pode ter acesso, o que ainda não inspira muita confiança. Vamos acreditar que, no patamar em que dizem não haver acesso, é mesmo assim, mas as pessoas ainda estão muito receosas. Dou um exemplo. Nos gabinetes de contabilidade, agora basta os clientes mandarem um email para o sistema identificar logo o nome da empresa, desmaterializar a fatura, contabilizá-la e enviá-la para o arquivo digital. Este processo passa por estes motores de IA externos e alguns clientes questionam-se por onde passa toda essa informação sensível sobre a empresa.

São expedientes como esses, já executados por IA, que ameaçam a profissão de contabilista.

Os contabilistas não estão em risco, mas certamente vão ser necessários menos para lançar um molho de faturas no sistema, uma a uma. Essa área está em risco, sim. Também é um trabalho inglório, puramente manual. Mas, por exemplo, na área da construção, os robots humanoides ainda estão muito caros e, até se banalizarem, acredito que profissões como as de trolha ou eletricista ainda vão ser muito requisitadas e mais bem remuneradas.

No setor da construção existem mais variáveis em jogo e não será tão fácil os robots imporem-se num futuro mais imediato, ou não?

Uma coisa é estar num espaço de fábrica cujo ambiente é todo controlado, outra é estar na rua com variáveis que nunca mais acabam. Mas veja-se o caso dos carros autónomos, também com imensas variáveis e, pior, com demasiados riscos se correr mal. Em Nova Iorque, já estão a pedir licença para os táxis autónomos. Já existem e vai ser cada vez mais normalizado, tal como os robots. No último ano, o salto da IA é uma coisa louca.

As empresas que não se adaptarem vão ficar para trás?

Com o aumento de produtividade que se ganha com a IA, sem dúvida. Levará o seu tempo, porque as pessoas terão de se habituar. Tudo o que é mudança assusta, e isto é uma mudança gigante, a todos os níveis. Há dias, vi um documentário que perguntava: “Se fosse patrão, preferia uma pessoa licenciada ou que dominasse as ferramentas de IA?” Eu preferia alguém que dominasse as ferramentas de IA, se tivesse de escolher entre uma e outra. Há pessoas que, nunca tendo programado na vida, estão a fazê-lo agora com recurso a sistemas de IA. No fundo, nem é programar, é dizer à IA o que é para fazer.

Até há bem pouco tempo, a profissão de programador era garantia de emprego e bom salário. Hoje é outra sob ameaça.

Na área do software, os programadores ou se viram para a consultoria, que passa por ouvir os requisitos dos clientes e criar uma solução à medida, se calhar num mês em vez de demorar um ano, ou então começam a produzir mais.

Concorda com a ideia de que a IA vai roubar muitos empregos?

Imagine uma empresa com dez pessoas que produzem para cem clientes. Com IA, elas passam a produzir para mil. Logo, a empresa precisa de ter mil clientes. Se continuar com cem, não precisa de tantos trabalhadores. Mas prefiro pôr as coisas de outra forma. Os trabalhadores que não passarem para este nível da IA ficarão em risco a médio prazo. É uma questão de performance. A pessoa começa a ficar obsoleta e as outras passam-lhe à frente. Por outro lado, não é um bicho-de-sete-cabeças fazer essa transição, está perfeitamente acessível a toda a gente.

Quanto tempo de formação é preciso para alguém se reinventar profissionalmente e adquirir conhecimentos mínimos para conseguir um emprego ligado à IA?

Eu diria que um mês focado só nisso dá para fazer muita coisa. Há cursos pagos que, nesse período de tempo, ensinam a trabalhar em várias aplicações. Depende da área de negócio. Obviamente que, para os mais novos, de cabeça fresca e aberta, ou que já nasceram com o telemóvel na mão, é bem diferente do que para quem esteja agora nos 60 anos ter de ir para o YouTube assistir a vídeos.

A IA já está a substituir trabalhadores em grande escala?

Na China, já há fábricas que não precisam de iluminação, nem de dia nem de noite, porque aquilo está tudo robotizado. Não está lá ninguém e podem funcionar 24 sobre 24 horas na escuridão.

Qual a relevância da mão de obra humana nestes novos tempos?

O Elon Musk diz que, eventualmente, não vai haver trabalho para ninguém [em menos de 20 anos]. É o que ele diz. Se algo complexo como código e programação, que requerem anos de vida, já está automatizado, agora é uma questão de tempo. O Sam Altman também já disse que a IA, provavelmente, vai ser a nossa condenação, mas que até lá vai haver empresas giríssimas. Certo é que a IA é uma vantagem competitiva em todas as áreas.

Estamos mais virados para os produtos de IA norte-americanos, mas preferia dar um ou dois passos atrás e deixar de os usar para focar em produtos e data centers europeus. Isto vai sair-nos caro

O que ganham os trabalhadores? Os benefícios são só para as empresas?

Os trabalhadores ganham a nível pessoal e profissional. Para já, fazem brilharetes. Ter um Aristóteles como assistente pessoal é ter acesso a toda a informação.

Mas como é que as pessoas vão viver sem emprego? Quem lidera a corrida à IA não parece muito preocupado com isso.

O Elon Musk diz que vamos ter um sistema quase comunista, no qual todos vão receber uma espécie de pensão. Essa é uma boa tertúlia, porque, por outro lado, esta coisa de ser tudo igual para todos nunca funcionou nem me parece que vá funcionar. Há gente com ambição que quer sempre mais. Entrando no campo da futurologia, e com base em discussões que tenho ouvido, porque esta não é a minha área, diria que, a partir do momento em que houver menos trabalho, os custos de vida começam a baixar. Talvez ao nível de uma energia limpa, por exemplo. Se calhar, a alimentação também vai ser feita quase de forma automática por robots, com baterias vitalícias.

A energia é um grande negócio. Acredita que deixará de o ser? Ou que passará a ser gratuita?

Não. Mas acredito que a tendência vai ser para os custos serem cada vez menores. Creio que vamos ter baterias vitalícias, carros que nunca precisem de ser carregados, manutenção feita por robots que também funcionem com baterias vitalícias. Obviamente, não está imune a existirem pessoas a controlar esse mercado ou ditadores a tentar cobrar isso ao mundo, mas o custo em si irá baixar. Por exemplo, os americanos entraram por aqui a galope com o ChatGPT e, depois, apareceram os chineses, que começaram a pôr as suas alternativas em open source para os combater. Caso contrário, já estaríamos a pagar muito mais, porque já não se consegue viver sem IA. Neste momento, consegue-se ter um agente comercial a 20 dólares por mês. Mesmo que aumentem para uma centena de euros, é um ordenado mínimo por ano. Perante estes custos, as empresas vão continuar a apostar na IA. Por isso, ainda bem que existem estas duas grandes potências a competir. Com um monopólio é que era a desgraça. Assusta-me a Europa não estar nesta corrida.

Que riscos comerciais e de segurança enfrentam os países europeus, face ao atraso em relação aos EUA e à China?

Tendo em conta a atual situação macroeconómica e política, não sei como é possível estarmos tão dependentes na IA. Estamos a falar de Google, Microsoft, Amazon… é tudo americano. Ainda há algum medo dos produtos chineses, por causa das espias nas telecomunicações, que é o caso mais conhecido. Estamos mais virados para os produtos americanos, que têm mais a ver com a nossa cultura. Mas a verdade é que estamos dependentes deles. É assustador. Preferia dar um ou dois passos atrás e deixar de os usar para focar em produtos e data centers europeus. O problema é que o consumidor europeu só olha para o baixo custo, não tem muito esta coisa de valorizar o seu continente. Isso vai sair-nos caro. Temos capacidade para construir o nosso caminho e fazer algo melhor. Não se trata de retaliar, mas de construir o nosso caminho. Como diz a letra do Michael Jackson, olha-te ao espelho, ou seja, começa por ti.

Recentemente, o assistente de IA ligado à rede social X, o Grok, criou imagens sexualizadas de adultos e de menores de idade a partir de fotografias de pessoas reais. Como travar estes atentados à privacidade e à dignidade das pessoas?

Será mais à dignidade do que à privacidade. Em termos de privacidade, no Facebook, por exemplo, já temos de autorizar para ser público. Ou seja, o nosso interesse está a ficar mais protegido, por um lado, e por outro eles também se protegem. Mas, de uma maneira geral, na Europa temos muitas regras e muita legislação, enquanto os americanos estão a abrir aquilo tudo. Ganham em desenvolvimento e investigação, perdem em regras. Se calhar, somos muito rígidos e talvez por isso é que estamos sempre atados. A mudança assusta toda a gente, certo. Mas e se não evoluirmos? Se calhar, vai correr mal. Há aqui um equilíbrio que temos de ter, mas não é fácil. O que eles estão a fazer é restringir à medida que as coisas vão acontecendo. Porque também é difícil prever tudo o que estes malucos vão fazer com a IA.

Os trabalhadores que não passarem para este nível da IA ficarão em risco a médio prazo. A pessoa começa a ficar obsoleta e as outras passam-lhe à frente. Por outro lado, não é um bicho-de-sete-cabeças fazer essa transição

E quanto aos perigos, também já conhecidos, das burlas através de deepfakes (imagens e sons gerados por IA), cada vez mais realistas? Temos de duvidar de todas as imagens e de todos os sons que vemos e ouvimos na internet?

Temos. Temos mesmo. Antes, olhávamos para uma fotografia e dizíamos: “Não sou eu, isto é Photoshop.” Agora, temos vídeos e dizemos: “Não sou eu, isto é IA.” Não sei se não pode ajudar muita gente, até em tribunal, alegando que é IA. Se calhar, as câmaras de segurança vão precisar de sistemas certificados para garantir que aquela gravação veio mesmo dali e não foi adulterada. Se bem que já há algoritmos, sobretudo de textos mas também de imagens, que indicam com elevado grau de certeza se determinados conteúdos foram gerados por ferramentas de IA. Em todo o caso, os meus pais sempre me disseram para não acreditar em nada na internet.

O que pode ajudar a distinguir o que é verdadeiro do que é falso?

As fontes. Por exemplo, podemos perguntar ao ChatGPT exatamente como é que chegou a determinada conclusão, quais foram as suas referências. Cada vez mais, é apostar em sites certificados e fidedignos. Aqui há dias, deparei-me com o vídeo de alguém que parecia o Steve Jobs, num palco, a apresentar uma inovação como um pequeno reator nuclear para se ter em casa. Portátil, assemelhava-se a um aspirador e fornecia energia para a casa toda. Toda a gente a aplaudir e eu a pensar: “Isto é espetacular.” Depois, comecei a desconfiar, vi melhor e percebi: “Ah, isto é fake.” Era demasiado, mas, se fosse algo mais normal, se calhar teria caído. Agora aparece tanta publicidade, mais as stories, que temos de seguir só o que interessa, e mesmo assim não acreditar em nada. A verdade é essa. Houve também aquele caso do Brad Pitt, um suposto Brad Pitt, que começou a falar com uma senhora e ela deu-lhe muito dinheiro [mais de 800 mil euros]. Era um deepfake.

São as burlas que as autoridades apelidam de esquemas românticos…

É um bocado estranho a senhora ter acreditado que o Brad Pitt precisava de lhe pedir dinheiro, mas aconteceu. Antes, enviavam-se fotografias, ou fotografias com algo escrito à mão, e agora temos vídeos deepfakes. Isto é uma caixa de Pandora. Todos os dias recebo newsletters com novidades de IA e é uma coisa doida. O Gemini lançou agora uma espécie de videoconferência na qual comenta o que vai vendo em fundo e até reconhece a cidade onde estamos, e a Nvidia tem agora um assistente que interage connosco em tempo real, como se fosse outro humano a falar connosco, com interrupções e tudo. Estou muito entusiasmado porque esta é a minha área, que eu adoro, e vejo esta revolução como uma oportunidade.

Supostamente, a tecnologia desenvolve-se em prol da qualidade de vida das pessoas. Acredita que a IA vai trazer mais benefícios do que prejuízos às populações?

Boa pergunta. Na minha perspetiva, será sempre para melhorar. A mim, pessoalmente, facilita muito a vida. Sou mais produtivo e consigo entregar mais. Por outro lado, vi há dias um documentário sobre como a IA estava a impactar o armamento militar e fiquei de boca aberta. Coisas incríveis, como máquinas a lutar contra máquinas e os humanos com joysticks. Fiquei ainda mais preocupado por perceber que só em França estava a fazer-se alguma coisa nesse sentido e o resto era quase tudo chinês e americano. A ideia deve ser a de nos trazer conforto e de nos facilitar a vida, com menos custo. Mas também há o reverso da medalha, porque isto está a evoluir em todas as áreas.

O ensino é uma delas. O que lhe parece o recente manifesto, assinado por 30 professores, a pedir a proibição da IA nas universidades? Apelida os alunos que entregam trabalhos escritos pela IA de cretinos digitais.

Parece-me resistência à mudança. É o mesmo que querer proibir os carros porque existem acidentes. Percebo o desafio que está aí, mas a verdade é que o caminho é inevitável. O que está errado é o método de avaliação, que parou no tempo. Já não se pode pedir aos alunos para fazerem trabalhos de avaliação em casa. Tem de ser à frente dos professores, que aí já não vão usar IA. Mas também deve haver testes em que se possa usar os assistentes de IA, porque essas ferramentas são hoje um superpoder. Por isso, deve ser avaliada a maneira como é usado esse superpoder e não tirar esse superpoder. A memória deve ser menos valorizada porque, cada vez mais, ela está acessível através da IA, enquanto se deve trabalhar mais a resolução de problemas, a capacidade de adaptação e a criatividade. É preciso remodelar todo o ensino. Se é possível ter um tutor de IA privado, em casa, com acesso a toda a informação, para quê ir para o anfiteatro tirar notas e ouvir um monólogo do professor, com uma pergunta aqui e outra ali?

Durante a pandemia, ficou demonstrado que o ensino à distância não tem a mesma eficácia do ensino presencial com um professor. Essa solução não limitará o espírito crítico e não acabará por tornar os alunos mais robóticos, no sentido em que terão mais dificuldades em pensar pela própria cabeça?

Mas cada aluno tem um professor, e só para ele. Vamos dividir a educação superior em teoria e prática, que considero importantíssima. No futuro, vejo uma universidade onde os alunos só vão para ter aulas práticas, fazer trabalhos de grupo e testes de avaliação. Não estou a dizer para os alunos tirarem os cursos só a partir de casa, apesar de existirem nos EUA várias universidades 100% remotas. Mas, na parte teórica, já viu o que é ter um agente de IA, com acesso a todas as matérias já dadas, e que, ao mesmo tempo, consegue interagir com o aluno, respondendo a todas as perguntas, e ainda replicar a voz de alguém tão reputado como, por exemplo, o malogrado Stephen Hawking? Caramba, isto não é uma evolução?

Chegará o dia em que os robots vão superar os humanos?

Nos filmes, já vemos os robots a ultrapassarem os humanos e a dominarem a Terra.

Supostamente, é ficção científica.

Os carros a andarem sozinhos também era. Tenho estado a ver coisas sobre viagens no tempo. A computação quântica abriu aqui um novo paradigma, que as pessoas podem estar em dois lugares em simultâneo. É algo complexo, mas os computadores quânticos conseguem fazer em minutos o que antes demorava dez mil anos e estima-se que vão estar acessíveis nos próximos dois a três anos, não em nossas casas, mas como um serviço pago. Através de uma mensalidade, acede-se ao processamento de um computador quântico. Se os chips que andam aí alavancaram a OpenAI e o seu ChatGPT, com os computadores quânticos acessíveis a todos, vai ser mais um salto gigantesco. Aí, então, é que já não consigo prever nada. Estou muito entusiasmado, mas tenho noção de que isto pode correr mal muito facilmente.