A inteligência artificial (IA) passou a produzir um desafio para as Eleições de 2026. Enquanto deepfakes se tornam mais frequentes e fáceis de criar, sistemas usados para identificá-los ainda perdem eficácia diante de novas técnicas de geração.

Entre 1º de janeiro e 15 de agosto deste ano, o Observatório IA nas Eleições identificou 413 casos de uso de IA em publicações relacionadas à política brasileira. Desse total, 336, mais de 81%, foram classificados pelo projeto como deepfakes. O levantamento é conduzido pela Data Privacy Brasil e pelo Aláfia Lab.

O cenário ganha peso na reta final das eleições. Desde esta quinta-feira (1º), estão proibidas a publicação e a republicação de novos conteúdos sintéticos produzidos ou alterados por IA que utilizem imagem, voz ou manifestação de candidatos ou pessoas públicas. A restrição estabelecida pelo Tribunal Superior Eleitoral (TSE) começa 72 horas antes da votação e segue até 24 horas depois do término do pleito, mesmo quando o material está identificado como sintético.

Para pesquisadores ouvidos pelo IT Forum, porém, estabelecer regras para a circulação é apenas uma parte do problema. A identificação técnica de um deepfake enfrenta uma corrida contínua contra novos modelos generativos, enquanto redes sociais permitem que conteúdos se espalhem antes de uma verificação conclusiva.

Deepfakes já fazem parte da comunicação política

O levantamento do Observatório mostra uma mudança de escala. Dos 413 casos registrados até 15 de agosto, 145 foram publicados diretamente por políticos ou partidos. Entre julho e dezembro de 2025, o projeto havia encontrado 43 conteúdos desse tipo.

Para Carla Rodrigues, coordenadora de Plataformas e Mercados Digitais da Data Privacy Brasil, os números indicam que a IA deixou de ocupar apenas um espaço de experimentação. “Observamos que a IA já integra estratégias de comunicação, ataques a adversários, sátira, desinformação e construção de narrativas políticas”, conta.

Os usos não se limitam à fabricação de declarações falsas. O monitoramento encontrou vídeos, imagens e áudios que colocam políticos, jornalistas e celebridades em situações que não ocorreram, além de simulações de apoio político, falsas pesquisas eleitorais e manifestações inexistentes.

Cerca de 60% dos casos foram classificados pelo Observatório como sátira e aproximadamente 40% como desinformativos. Em 64,5% dos registros, a finalidade identificada foi crítica ou ataque político.

O alcance potencial adiciona outra camada ao problema. Instagram, TikTok e X concentraram 88,4% dos casos monitorados. Cerca de 63% dos 413 conteúdos não apresentavam indicação de que haviam sido produzidos ou modificados por IA. O relatório público do Observatório confirma que as três plataformas concentraram a maior parte das ocorrências acompanhadas no período.

“A qualidade técnica é importante, mas o problema eleitoral não depende necessariamente de uma falsificação perfeita”, diz Carla ao IT Forum. “Um conteúdo pode produzir efeitos mesmo quando apresenta sinais de manipulação, especialmente quando circula rapidamente, é retirado de seu contexto original ou chega ao usuário sem qualquer sinalização de que foi produzido ou alterado por IA.”

Detectores de deepfakes enfrentam novas técnicas

Do outro lado estão as ferramentas criadas para descobrir se um áudio é verdadeiro ou foi produzido por inteligência artificial. O problema é que elas não reconhecem todos os deepfakes com a mesma precisão. A capacidade de detecção pode variar conforme a tecnologia usada para criar a voz falsa.

Para entender esse problema no Brasil, pesquisadores criaram o ParlaSpoof-BR, conjunto de áudios falsos produzidos por IA a partir de gravações de discursos políticos brasileiros. O material faz parte do estudo Cloned Voices, Real Consequences, publicado em julho, e permitiu colocar diferentes ferramentas de detecção à prova em um cenário mais próximo da realidade brasileira.

Em entrevista ao IT Forum, Lucas Rafael Stefanel Gris, doutorando em Ciência da Computação pela Universidade Federal de Goiás (UFG) e pesquisador do AKCIT, Centro de Competência Embrapii em Tecnologias Imersivas do CEIA-UFG, explica que a equipe avaliou dois sistemas avançados de detecção cujo funcionamento é aberto para pesquisadores.

Essas ferramentas costumam apresentar bons resultados em testes feitos com áudios de alta qualidade, principalmente em inglês. O desempenho, porém, pode mudar quando elas recebem arquivos produzidos de outras formas ou em condições diferentes, como ocorre quando um conteúdo circula no mundo real.

A pesquisa mostrou que a tecnologia usada para criar a voz falsa faz diferença. Alguns tipos de deepfake foram reconhecidos com facilidade, enquanto outros conseguiram passar pelos detectores com frequência maior.

Quando surge uma nova tecnologia capaz de clonar vozes, os sistemas de detecção precisam aprender a reconhecer os sinais deixados por ela. Para isso, pesquisadores produzem exemplos, reúnem esses áudios e usam o material para aprimorar e testar os detectores. O problema é que, enquanto esse trabalho acontece, novas formas de gerar vozes artificiais podem surgir.

O estudo, que ainda não passou pela revisão por pares, também mostra que essa diferença entre as formas de criar um deepfake pesou mais no desempenho dos detectores do que características demográficas avaliadas pelos pesquisadores. Assim, para o detector, a tecnologia usada para fabricar a voz falsa pode importar mais do que características de quem teve a voz imitada

Leia mais: David Jiménez assume como CEO global da Softtek

Compartilhamentos dificultam detecção

O desafio não termina na geração do áudio. O caminho percorrido pelo arquivo até chegar ao eleitor também pode interferir na capacidade de identificá-lo. Um áudio pode ser comprimido por uma plataforma, recortado, inserido em um vídeo, reproduzido por outro dispositivo e compartilhado novamente. Segundo Gris, essas transformações podem modificar ou eliminar pistas acústicas sutis utilizadas pelos sistemas para reconhecer uma manipulação.

Isso cria uma diferença entre o desempenho obtido em laboratório e a situação encontrada nas redes sociais. Para o pesquisador, testar os sistemas em condições próximas às da circulação real é tão importante quanto avaliá-los com arquivos de alta qualidade.

A velocidade também pesa. Uma análise humana especializada pode combinar técnicas diferentes e chegar a uma conclusão com maior confiança, mas não consegue examinar individualmente o volume de conteúdo que circula nas plataformas. A IA pode atuar como primeira camada de triagem. Detectores conseguem analisar grandes quantidades de arquivos e separar conteúdos potencialmente suspeitos para uma verificação posterior.

A análise, porém, não constitui prova definitiva de autenticidade. Detectores podem apresentar falsos positivos, ao classificar áudios autênticos como sintéticos, e falsos negativos, ao deixar de identificar conteúdos manipulados. “O resultado de um modelo não deveria ser tratado sozinho como uma prova definitiva de que determinado áudio é falso ou verdadeiro”, afirma Gris.

Plataformas falham na sinalização

A regulamentação brasileira exige que o responsável por propaganda eleitoral informe, de maneira explícita e acessível, quando utiliza conteúdo sintético multimídia produzido ou significativamente alterado por IA. A regra abrange texto, áudio, vídeo e imagem.

Em setembro, o TSE também definiu critérios para caracterizar um deepfake. A Corte considera o grau de realismo ou verossimilhança do material e sua utilização para criar, reproduzir ou alterar imagem, voz ou manifestação de uma pessoa. A vedação específica a deepfakes prevista na resolução depende ainda de o conteúdo ser caracterizado como propaganda eleitoral.

A implementação, contudo, ainda apresenta lacunas, segundo Carla. O monitoramento encontrou conteúdos sem identificação e diferenças na forma como cada plataforma sinaliza o uso de IA. “Existe uma diferença entre a existência de mecanismos de resposta e sua efetividade”, pontua. “O desafio não é apenas remover depois que um conteúdo se torna problemático, é conseguir identificar, contextualizar e agir antes que ele alcance uma circulação muito ampla.”

Para as eleições deste ano, o TSE também ampliou a responsabilidade das plataformas. A regulamentação prevê responsabilidade solidária dos provedores em determinadas situações nas quais conteúdos sintéticos em desacordo com as regras não sejam retirados imediatamente.

Em agosto, o Tribunal ainda firmou um acordo com a ElevenLabs para dificultar a clonagem não autorizada de vozes de candidatos e autoridades eleitorais dentro dos sistemas da empresa.

Autenticar o verdadeiro ganha importância

A dificuldade crescente para detectar uma falsificação coloca outra abordagem no centro da discussão. Em vez de apenas procurar sinais de manipulação depois que um arquivo começa a circular, tecnologias podem registrar informações sobre sua procedência.

Marcas d’água digitais, metadados e outros mecanismos de autenticação podem ajudar a comprovar a origem de um arquivo. Para Gris, essas tecnologias são uma camada relevante, mas também podem sofrer tentativas de remoção ou alteração. Carla também considera insuficiente depender de uma única tecnologia. Segundo ela, diferentes sistemas de detecção, rotulagem e autenticação precisam ser acompanhados por medidas de governança e transparência das plataformas.

A multiplicação de deepfakes ainda abre espaço para um problema inverso: conteúdos autênticos podem ser contestados sob a alegação de terem sido fabricados por IA. O Observatório não quantificou esse fenômeno no Brasil, mas Carla afirma que a possibilidade merece acompanhamento e reforça a necessidade de mecanismos capazes de demonstrar a procedência dos arquivos.

Na visão de Gris, o principal gargalo técnico continua sendo acompanhar a velocidade de evolução da IA generativa. Um detector eficiente contra as tecnologias disponíveis hoje pode perder desempenho diante de novas formas de síntese de voz.

“Mais do que desenvolver um detector muito bom em determinado momento, o grande desafio é conseguir criar sistemas que se atualizem e generalizem melhor diante de técnicas novas”, indica. Com a restrição a novos conteúdos sintéticos já em vigor nesta reta final do primeiro turno, o desafio passa, portanto, por duas velocidades diferentes: a capacidade de produzir e distribuir conteúdo sintético e o tempo necessário para identificá-lo, contextualizá-lo e verificar sua origem.

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!