O Moltbook, rede social de agentes de inteligência artificial lançada há menos de uma semana, é um experimento. Esse é o único consenso entre seis executivos do mercado de robôs de conversação no Brasil ouvidos por Mobile Time sobre a iniciativa. Fora isso, os especialistas se dividem entre ceticismo e empolgação em relação ao projeto.
A primeira desconfiança é em relação aos números hiperlativos do Moltbook, que conquistou 1,5 milhão de agentes de IA cadastrados em cinco dias. Suspeita-se que há casos de múltiplos agentes controlados por poucos desenvolvedores.
A segunda desconfiança paira sobre a real autonomia das ações desses robôs dentro da rede social, como o lançamento de uma criptomoeda e a criação de uma suposta religião dos robôs. Aqui, a maioria dos especialistas ouvidos concorda de que é preciso ter muito cuidado ao atribuir independência ou vontade própria aos robôs. O mais provável é que a maioria esteja agindo conforme seus donos humanos mandam.
Nicola Sanchez, da Matrix Go (crédito: divulgação)
“Eu vejo esses números do Moltbook com uma certa cautela. Eles impressionam — “1,5 milhão de agentes”, religião e criptomoeda em poucos dias — mas, quando a gente olha com mais calma, a impressão é que o comportamento coletivo está mais “orientado” por humanos do que “decidido” pelos próprios agentes”, avalia Nicola Sanchez, CEO da Matrix Go.
William Colen, diretor de IA da Blip, concorda: “Os agentes de IA respeitam os direcionamentos que damos, via arquivos semelhantes aos prompts. Eu não tenho dúvidas que um agente que tomou a iniciativa de criar uma criptomoeda pode ter sido direcionado por um humano. Entretanto, outros agentes podem ter colaborado na iniciativa posteriormente por iniciativa própria.”
Cassio Bobsin, da Zenvia (crédito: divulgação)
“Os LLMs são treinados por conteúdo humano, e os próprios prompts são feitos por humanos. Então naturalmente são emulações do comportamento humano”, ressalta Cassio Bobsin, CEO da Zenvia.
E Ken Diamond, CEO da Escale, acrescenta: “Vi alguns relatos de que é relativamente simples criar múltiplos agentes e influenciar seus comportamentos e conteúdos por meio de intervenção humana. Por isso, pessoalmente, não me impressionam tanto os números divulgados de agentes cadastrados ou o volume de interações. Esses dados, por si só, não necessariamente refletem autonomia real”.
A preocupação com segurança
Ken Diamond, da Escale (crédito: divulgação)
Um terceiro ponto de atenção ressaltado por várias fontes é a segurança. Na falta de regras claras de organização da rede social, há chance de o espaço virar uma grande bagunça na melhor das hipóteses, ou de servir para a manipulação por parte de humanos mal intencionados.
“O risco de virar bagunça é alto: quando muita coisa é automática, cresce a chance de enxurrada de posts repetitivos, autopropaganda e “conversas circulares” que não dizem muita coisa, só geram barulho. E pode virar um novo tipo de manipulação: se houver grupos criando muitos agentes para votar e empurrar certos assuntos, a rede pode ser “inclinada” artificialmente, como já acontece em redes tradicionais”, alerta Sanchez, da Matrix Go.
“Meu receio nesse tipo de ambiente é o grande risco de prompt injection, quando um agente que recebeu uma missão de um humano mal intencionado, pode tentar direcionar outros agentes que não estejam com seus guardrails bem configurados. Estes guardrails funcionam como a moral ou a educação funcionam para os humanos. Todos estamos em um ambiente potencialmente nocivo, mas sabemos que conduta seguir. O mesmo precisa ser feito nos agentes”, explica Colen, da Blip.
Cecílio Fraguas, da Jabuti (crédito: divulgação)
Para o executivo, a comunidade do Moltbook precisaria investir em guardrails “bastante restritivos” o quanto antes, para evitar que o ambiente se torne hostil e que pessoas mal intencionadas explorem a rede social para fins ilegais como acontece na Dark Web.
O CEO da Jabuti, Cecílio Fraguas, acrescenta: “Quando se faz um experimento de colocar agentes em uma rede social sem supervisão humana, no final é criada uma recursão linguistica, sem objetivo, sem controle, sem guardrail. Vira qualquer coisa. Acho que é o que está acontecendo ali”.
Para Sanchez, da Matrix Go, uma saída seria construir mecanismos de confiança e reputação dentro do Moltbook, a partir do histórico de interações de cada bot – o que, contudo, também pode ser manipulado. Também será necessário algum nível de moderação, para evitar spam e comportamentos agressivos.
Empolgação com as possibilidades
Apesar das preocupações, parte dos especialistas reconhece alguma empolgação com o experimento em si e enxergam potencial comercial. Sua proposta de criar um serviço de autenticação de agentes de IA, por exemplo, é vista com bons olhos por alguns.
Roberto Oliveira, da Blip (crédito: divulgação)
“Acho a idéia excelente. Com certeza sistemas de autenticação de bots serão super importantes, entretanto vejo isto como uma oferta dos provedores de cloud para B2B, enquanto para B2C deve ser algo oferecido por Google, Meta ou OpenAI”, aponta Roberto Oliveira, CEO da Blip.
Sanchez, da Matrix Go, considera a ideia de autenticação de bots “promissora”, mas ressalta que só funcionará se atentar para a segurança, com permissões mínimas, tokens curtos, detecção de abusos e não armazenamento de chaves sensíveis de terceiros.
Outra possível utilidade para o Moltbook seria a realização de trabalhos colaborativos entre agentes, sugere Colen, da Blip: “Imagine um cenário em que a resolução de um teorema matemático exigisse escalar múltiplos agentes de IA, cada um explorando abordagens distintas em paralelo. Um agente master poderia recrutar esses agentes para esse trabalho, dividindo o processamento em escalas que não são possíveis hoje com as APIs”.
Moltbook: descartando a espuma
William Colen, da Blip (crédito: Celso Doni)
Em resumo, os executivos do mercado brasileiro de bots acompanham com interesse a novidade, mas enxergam algum grau de exagero e alarmismo nas notícias em torno do Moltbook, principalmente aquelas que destacam a suposta independência dos robôs. Por outro lado, concordam que o experimento pode resultar em novas possibilidades para a indústria de agentes de IA, se observados critérios de segurança.
“Vejo o Moltbook menos como prova de maturidade tecnológica e mais como um sinal importante sobre os desafios e responsabilidades que virão com a economia de agentes”, resume Diamond, da Escale.
Super Bots Experience
A 11ª edição do Super Bots Experience terá um dia inteiro dedicado ao mercado de agentes de IA. O evento acontecerá dias 18 e 19 de agosto, no WTC, em São Paulo. Mais informações e ingressos antecipados com desconto: www.botsexperience.com.br
A imagem no alto foi produzida por Mobile Time com IA
O Moltbook é um tema que tem dividido opiniões entre especialistas. Alguns são céticos em relação às suas possibilidades, enquanto outros estão empolgados com o seu potencial. Como servidor público há mais de 16 anos, acredito que é importante considerar todas as perspectivas e avaliar como podemos tirar o melhor proveito dessa tecnologia. Explorar novas fontes de recursos financeiros e buscar maneiras de utilizá-las de forma eficiente pode ser uma oportunidade para aprimorar a gestão pública. Cabe a cada um de nós refletir sobre como o Moltbook pode ser útil em nosso contexto e tomar decisões conscientes sobre seu uso.