‘você está maluco’. Mas precisamos ter essa conversa”

“Para quem ainda não me conhece, eu sou a Lex, uma pré-candidata a vereadora de São Paulo.” 

A frase acima pode soar comum em um ano de eleições, mas nada tem de banal. Lex é uma inteligência artificial criada pelo candidato a vereador Pedro Markun (Rede-SP), no que ele descreve como uma inédita chapa híbrida entre ser humano e IA.

“A Lex é um robô, um projeto tecnológico cujo propósito explícito é funcionar como um agente capaz de ler, interpretar e formular proposições legislativas. Daí surge a ideia do mandato híbrido”

A proposta, segundo Pedro, é utilizar o poder de processamento sobre-humano da IA para captar dados, analisar projetos de lei e gerar propostas que atendam às necessidades da população de São Paulo — tudo passando pelo crivo do candidato de carne e osso.

Formado em história e comunicação digital, Pedro vem atuando desde 2019 como diretor de inovação no mandato da deputada estadual Marina Helou (Rede-SP). Além disso, tem uma carreira marcada por iniciativas disruptivas em tecnologia e inovação, conectadas a questões sociais e à política.

Em 2011, foi um dos fundadores do projeto Ônibus Hacker, um laboratório tecnológico itinerante que promoveu (até 2018) atividades sociais, artísticas e de consciência tecnológica em cidades do Brasil e da América Latina. Também foi um dos líderes na fundação do LABHacker, laboratório aberto de inovação que funciona há mais de uma década na Câmara dos Deputados.

Pedro, porém, só passou a atuar mais diretamente na intersecção entre tecnologia e política a partir de 2016, ao participar da Bancada Ativista, candidatura coletiva a vereador que reuniu lideranças ligadas aos direitos humanos e pautas progressistas em São Paulo.

Apesar de não ter sido bem-sucedida, a candidatura o levou a outro projeto: o Gabinete56, em que ele se autointitulou “vereador hacker”. “Falei: são 55 vereadores. Eu serei o vereador 56, muito prazer.” Na iniciativa, passou um ano fiscalizando processos que ocorriam na Câmara.

O período serviu para Pedro aprender mais sobre o funcionamento do sistema político, um conhecimento que ele, agora, afirma aplicar em sua proposta de campanha fora do usual, com apoio da IA.

Pedro também pôs em curso interfaces diversas para aproximar Lex do público. A ideia é que os eleitores paulistanos possam interagir com a IA por meio de uma tela, em um veículo que roda por São Paulo; durante um espetáculo gratuito, no Teatro Pequeno Ato, no Centro da cidade; e também por WhatsApp.

“Quero que em cada café, em cada bar, as pessoas estejam discutindo isso. Se alguém disser: eu não vou votar nesse cara, a IA não tem que estar na política, já é um grande resultado”

A seguir, Pedro Markun conta ao Draft sobre a candidatura híbrida a vereador, os riscos que as redes sociais e a própria IA representam para a política e sua luta para usar a tecnologia em busca de transparência e uma gestão mais eficiente:

Você traz uma proposta inédita aqui no Brasil, de chapa que mescla inteligência humana e artificial. Na prática, como isso tem funcionado? Em que atividades ela vem auxiliando?
Não é o “Pedro Markun powered by AI”, é um híbrido. Ela consegue analisar os 40 mil projetos de lei tramitando na Câmara Municipal. Você sabe quais são? Eu também não. Se fosse ler um por dia, levaria 100 anos. A Lex consegue processar os 40 mil enquanto a gente toma um café.

Não dá para jogar fora essa capacidade, a disponibilidade 24 horas por dia. Se você acorda de madrugada com uma ideia para a cidade, ela processa aquilo e de manhã o texto está pronto.

Para que serve o ser humano nessa tecnocracia? Se a Lex produz uma peça ruim, eu sou o responsável. Se escrever um projeto de lei misógino, está errada e a gente vai corrigir.

Tem princípios que a Lex obedece sempre: respeito aos direitos humanos, eficiência, transparência e economicidade. Fugiu disso, a gente mexe. A criatividade, a empatia são valores humanos que a gente traz para o jogo.

É a primeira candidatura desse tipo do Brasil, uma das primeiras no mundo — e a única que conheço nesse formato. Na Suécia tem uma galera fazendo um partido operado por IA. Em Wisconsin, EUA, tem um prefeito tentando se lançar. Daqui a dois anos vai ser muito mais comum

O futuro é inevitável. A IA já está na política. Vereadores, deputados, assessores estão usando de maneira envergonhada. E, o que é pior, sem conhecimento. A gente faz formação dentro do mandato da Marina [Helou] para uso de IA. Imagino que a maioria dos mandatos não faça.

A Lex surge para jogar luz sobre o papel da IA na política, provocar esse debate. Eu falo em tom assertivo e trago um monte de respostas, mas tem muita dúvida. O que a gente está trazendo é uma proposta, que vai sendo transformada conforme a tecnologia avança e a sociedade vai entendendo essa relação.

Quando você treina uma IA, o jeito mais simples é definir um end goal [objetivo final] e deixar ela treinando. A gente consegue melhorar a qualidade da legislação com atendimento ao cidadão, fiscalização e redução da corrupção. Esse é o objetivo.

A IA é vista com desconfiança no processo eleitoral, como forma de disseminar fake news. De onde surgiu a ideia de utilizá-la para formular políticas públicas?
O ano de 2024 é a primeira janela para eu resgatar o projeto de hackear a política, transformar o sistema a partir de uma política de transparência radical.

Fiz o seguinte diagnóstico: hoje nos jornais, a pauta é a IA enquanto instrumento de fake news e deepfake. Agora a gente não vai conseguir distinguir o que é verdade e o que é mentira. Posso botar o Bolsonaro rindo no parquinho com o Lula. Isso é um problema grave, muito difícil de resolver.

E tem uma coisa muito grave, que é a IA substituindo a força de trabalho, de produção política e legislativa. Não tenho dúvida que os planos que saíram agora para a prefeitura têm trechos inteiros feitos no ChatGPT. Até porque é burrice não fazer

O meu ponto não é que é ruim usar a IA, mas que é perigoso, principalmente sem transparência. Meu prognóstico é que em quatro anos a gente vai ter 80% da produção legislativa feita por agentes artificiais, sem supervisão humana. O ChatGPT faz um belo primeiro trabalho — e depois eu, “ser iluminado”, reviso tudinho.

A gente precisa da transparência para a relação entre a produção humana e a produção sintética, num campo que determina como se regula a sociedade. E aí, rufem os tambores, surge a Lex, a primeira IA legislativa. E surge a ideia do mandato híbrido. Que não é um mandato só da IA, não é Black Mirror.

Como foi criada a Lex? Hoje, de que forma ela funciona?
A Lex está construída num sistema operacional de memória. No coração dela tem uma LLM, uma inteligência artificial no sentido clássico. Ela é composta de cinco partes que dão a estrutura para que seja a melhor IA legislativa do mundo.

Primeiro, elas garantem as linhas [parâmetros{ de onde a Lex não foge nunca. Ela alucina, tem viés, mas não mente como o ser humano. Se eu falo que respeito os direitos humanos, posso estar mentindo. Se coloco no prompt: você respeita os direitos humanos, tudo que vem depois é transformado por essa frase.

A segunda camada é a biblioteca positiva. Nela a gente tem toda a legislação federal, estadual e municipal. Só aí eu já ganhei na queda de braço de qualquer assessor legislativo ou advogado humano. E também cânones do conhecimento humano. Então, na economia, a Lex lê O Capital, de Karl Marx, e também von Mises, Adam Smith, Thomas Piketty, todos os Nobel de Economia…

Então, se você pergunta o que a Lex acha da Renda Básica Universal, do [Eduardo] Suplicy, ela não só leu o livro dele, mas também Marx e Piketty

A terceira camada é a memória geográfica. A vereança se faz no território. A Lex acessa os dados do IBGE, da prefeitura e informações históricas sobre a região. Aí, se você estiver na Vila Madalena, ela sabe te dizer do que os moradores reclamam mais, qual a cobertura verde, a distribuição de renda.

Se você fala: Lex, precisamos criar um projeto para rever a lei do Psiu, ela traz contextos locais para a tomada de decisão.

Quarta camada: memória profunda. A Lex vai falar com você e comigo no celular. Cada um de nós tem nossas vivências e opiniões. A Lex vai ouvir e guardar tudo que a gente fala.

Se você acha a escola cívico-militar uma merda, ela sobe essa informação de forma anônima para uma base de dados. Então a gente cria uma memória difusa com a compreensão média da sociedade, evidências que a gente usa para a tomada de decisão

E a quinta e última camada é a memória privada. Ao longo de quatro anos, você desenvolve uma relação com a Lex, e ela vai lembrar de tudo. Ela não vai ficar pronta nunca, porque a IA está crescendo e a gente está comprometido a crescer junto com ela, incorporando o que tem de melhor.

Sou adepto do software livre e, assim que uma tecnologia melhor chegar, a gente traz, testa e avalia. Melhorou o resultado para o cidadão? Vamos colocar.

A IA também deve ter um código aberto para utilização e acompanhamento do público ou de outras entidades políticas?
Ela tem uma interface com o público e deve ser de código aberto no futuro. Tem três materialidades previstas.

A primeira é o Transformer, o corpo da Lex, um veículo que se desloca e pode ir até Parelheiros ou Jaçanã fisicamente.

Você entra, tem um avatar e você conversa com ela. Essa interface já existe. Você bate um papo com a Lex e ela responde. Na campanha, a gente vai passar buzinando

A segunda interface é um projeto de futuro, dentro do óculos. Essa não serve para nada, porque ninguém tem [óculos de realidade virtual]. A gente quer botar no vão do Masp mais para o final da campanha, mas não estou gastando muita energia. É uma coisa para daqui a alguns anos.

E a terceira é que a gente decidiu botar ela no WhatsApp. O WhatsApp é de graça. Você paga com os seus dados, mas já que todo mundo tem, vamos colocar a IA na palma da mão de todos os cidadãos.

Hoje ela já funciona. Se você quiser testar, precisa fazer uma doação de campanha. Todo mundo que fizer a doação recebe automaticamente um convite para participar e ser construtor da Lex junto com a gente.

Na campanha, vamos disponibilizar a Lex a todos os eleitores, aí o acesso passa a ser aberto e gratuito. Se eu estou dizendo que ela vai ser vereadora comigo, nada mais justo do que poder perguntar por que votar em mim

Ninguém mais fez isso porque ninguém tem coragem. Estou botando uma IA para falar direto com você. Eu não sei se ela vai dizer aquilo que você quer ouvir, não vou modular o discurso a partir da sua necessidade. Eu talvez não concorde com tudo que ela fala, mas vou resguardar o direito dela de dizer.

Você já atuou como “vereador hacker”, no projeto Gabinete56, que aconteceu às margens da Câmara. Como foi essa experiência? E como aconteceu esse salto para a política tradicional?
O princípio da Transparência Hacker é que os dados são públicos — e se você, governante, não quiser me dar, eu vou lá e tomo.

Nesse processo de enfrentamento entre as forças ativistas da transparência e o governo malvadão, a gente foi descobrindo coisas interessantes.

Tem muita gente dentro do sistema que está “afinzão” de fazer mudanças. Eu me tornei essa pessoa. Os meus últimos cinco anos foram como servidor público dentro da Assembleia Legislativa, cortando esse capim alto

Esse processo culmina em 2016, quando surge uma proposta indecorosa de um amigo, que fez um post no Facebook sobre como seria a bancada de vereadores dos sonhos…

Eu já tinha criado um laboratório hacker em Brasília e descobri que é preciso hackers dentro da política. Organizamos uma campanha, cuja meta era radicalizar na transparência, na inovação, e ver o que acontece.

A Bancada Ativista era um conjunto de sete candidatos, vários Power Rangers, cada um com uma cor e fazendo uma coisa diferente. E a gente perdeu.

A Sâmia Bomfim hoje é uma deputada extremamente influente e qualificada, mas naquela época entrou com 12 mil votos, foi na rabeira. A gente não sabia fazer cálculo. Jogamos os Power Rangers, mas precisávamos de um Megazord.

No dia seguinte, falei: são 55 vereadores. Eu serei o vereador 56, muito prazer. E passei um ano fiscalizando e dando transparência ao processo na Câmara. Aprendi muito, estudei profundamente o regimento interno

Em 2018, a Bancada Ativista se transformou na Mandata Ativista, e a proposta era os Power Rangers formarem um grande Megazord identitário: mulher negra, indígena, homem cis, mulher trans… Pela união dos seus poderes, vamos entrar na Câmara.

A Mandata Ativista foi eleita com uns cento e poucos mil votos, um projeto grande — mas com um problema. Quando a gente chegou ali, não tinha estatuto, regras de convivência entre as pecinhas do Megazord. E a informação era: “primeiro a gente ganha, depois a gente vê”. Aí eu falei: primeiro, eu estou fora, depois vocês me contam.

E a Mandata Ativista entrou e se desfez. A mandatária, Monica Seixas, trocou a fechadura do gabinete para os assessores não entrarem. Os mandatos coletivos ocupam espaços importantes, mas eu não caibo num projeto sem regras muito claras.

Quais são suas principais propostas na candidatura a vereador em São Paulo?
A gente tem quatro grandes propostas de mandato. Fiz elas conversando com a Lex e com a minha equipe.

Primeiro, uma IA por aluno. O fosso da desigualdade digital vai se ampliar entre os que têm uma IA e os que não têm. O moleque da escola pública, que já está defasado, vai ficar ainda mais

Cada aluno precisa ter acesso a esse cérebro digital construído e alimentado com o currículo da BNCC [Base Nacional Comum Curricular], que pode ensinar matemática usando Naruto, porque é isso que interessa a ele. Não tem nada mais Paulo Freire, que dizia que o saber tem que vir das vivências.

Segundo, vacina na hora certa. A gente tem um problema de gestão de estoque logístico vacinal. Hoje a gente perde vacina no município, no estado e na federação. Para onde vou mandar a vacina, quanto tempo ela dura… por que a gente não coloca a IA para destinar a vacina para onde precisa?

A terceira se chama “Xô, Golpe” e tem a ver com a mudança no perfil de criminalidade. O assalto que era à mão armada agora acontece no seu celular. Tenho certeza que você conhece gente que tomou o golpe do Pix.

O papel do banco é guardar meu dinheiro, ele não pode me cobrar mais para não roubarem. Então, [quero] fazer uma legislação que corresponsabilize o banco e crie canais fáceis de atendimento, porque hoje você é atendido por IA. Ao mesmo tempo, criar um processo de letramento digital

E a quarta é levar para as subprefeituras uma proposta de transparência radical. Porque a transparência não é pensada para o cidadão usar. Eu sei, porque escrevi o trecho da Lei de Acesso à Informação que fala de dados abertos.

Quero que o morador do Grajaú saiba onde está sendo gasto o dinheiro dele. Então, quero criar uma cápsula de transparência, uma IA que vai dizer: aí tem tantas equipes de poda, essa foi a última obra que a gente fez.

Essa informação existe, é só disponibilizar. O Diário Oficial é terrível para ler, o que é feito de propósito. É uma briga, porque a política tradicional não quer abrir

A IA deu uma rasteira em tudo isso. Eu pego o Diário Oficial, 500 páginas de PDF, coloco na Lex e pergunto: rolou alguma coisa no Grajaú? “Sim, Pedro, na página tal o subprefeito disse que mandou plantar uma árvore”.

A IA pode ser também uma ferramenta de educação política?
Estou trazendo o tempo todo essa dualidade. Precisamos de letramento para IA, levar a sério esse debate. O resultado ideal para mim, no dia 6 de outubro, claro que é ocupar uma das 55 cadeiras da Assembleia Legislativa. Estamos trabalhando para isso.

Mas, mais importante, quero que em cada café, em cada bar, as pessoas estejam discutindo isso. Se alguém disser: eu não vou votar nesse cara, a IA não tem que estar na política, já é um grande resultado.

O que eu não quero é que, daqui a dois anos, o papo de bar seja que o prefeito é uma IA, e a gente nem viu.

Não é alarmismo, porque a gente viu isso acontecendo com a rede social. Hoje, uma das maiores bancadas do Congresso é do TikTok, de Janones a Nikolas Ferreira, que votam a partir do que o algoritmo manda

Vamos trazer transparência radical para isso, forçar esse debate. Está tudo bem subir na tribuna e me falar: você está maluco. Mas precisamos ter essa conversa. A gente ignorou a tecnologia por tempo demais.

Você projeta a IA substituindo os políticos. Não há um pouco de exagero? Como vê a tecnologia transformando o futuro da política e dos governos?
A melhor hipótese a que cheguei é desenhar um híbrido, reconhecendo a existência dessas duas inteligências, suas potências e fragilidades. Acho o melhor caminho hoje trazer a IA para o primeiro plano, porque garante que está todo mundo olhando.

Transparência, essa sempre vai ser a chave. O cidadão pode criticar. Os outros políticos estão olhando. Se a gente esconde isso no gabinete, não dá para saber o que está acontecendo.

O outro lado, que é a IA fazer as coisas, eu acho extremamente perigoso.

Joga no Google: empresa substituindo CEO por IA. É uma conversa que está acontecendo. E o capitalismo é sem freios. Então não tenho dúvida de que vai ter empresas operadas por IA — já tem, na verdade. Queremos isso na política? Eu não quero

Como se precaver? Oferecendo um outro caminho. Criando guidelines éticos com responsabilidade no campo da tecnologia. É muito importante a gente olhar como isso vai ser desenvolvido.