Por maioria de votos, o Tribunal Superior Eleitoral (TSE) aprovou, na última terça-feira, a proposta que estabelece parâmetros para a caracterização de deepfakes nas eleições.
O entendimento do presidente da Corte, Kassio Nunes Marques, deverá orientar a análise de outros casos envolvendo conteúdos produzidos ou manipulados por inteligência artificial durante a campanha eleitoral.
Segurança: Com vídeos e áudios falsos, uso de inteligência artificial para aplicar golpes cresce nas redes, aponta pesquisa
Teste: Com qual candidato a presidente você mais se identifica? Faça o teste do GLOBO e descubra
A discussão ocorreu no julgamento da ação do PT pelo vídeo produzido com inteligência artificial que simulava uma manifestação do ex-presidente Jair Bolsonaro durante a convenção do PL que oficializou a candidatura de Flávio Bolsonaro.
A maioria do tribunal seguiu o voto de Nunes Marques e decidiu não aplicar multa pela exibição do vídeo do candidato do PL.
Prevaleceu o entendimento de que a manifestação ocorreu ainda no período de pré-campanha e, nas circunstâncias em que foi apresentada, não se caracterizou como propaganda eleitoral.
Com isso, a maioria entendeu que não incidia no episódio a vedação específica ao uso de deepfake prevista nas regras do TSE.
Nas campanhas pelo país, o uso de IA já é uma realidade.
Entre os casos em destaque, o criador de conteúdo Caio Fiori, neto do influenciador Vovô Anésio e candidato a deputado estadual em São Paulo, virou alvo de críticas por divulgar um vídeo do parente que aparentemente usava deepfake.
Na publicação, Vovô Anésio, já falecido, pede votos para o neto.
Na vida cotidiana, a IA também está por toda parte.
Segundo pesquisa do projeto Brief, 58,4% dos brasileiros utilizam ferramentas de IA no dia a dia.
Ao mesmo tempo, 54,2% afirmam que a tecnologia pode dificultar a identificação do que é real ou falso, enquanto 60,7% acreditam que o recurso pode ser usado para enganar ou manipular pessoas.
Como identificar uma deepfake?
Deepfake é um conteúdo em áudio, imagem ou vídeo criado ou manipulado por inteligência artificial para simular a voz ou a aparência de uma pessoa real em falas ou ações que não aconteceram, explica Diogo Cortiz, doutor em tecnologias digitais e professor da PUC-SP.
Nem todo material produzido com IA, porém, é um deepfake, como animações e cartuns digitais.
Para Cortiz, a ideia de “ver para crer” ficou para trás.
Nada do que aparece na tela deve ser considerado verdadeiro sem verificação.
Alguns sinais podem ajudar na identificar: elementos que desaparecem ou mudam de forma, expressões faciais pouco naturais, sombras desalinhadas e erros nas mãos ou nos cabelos.
No áudio, vozes clonadas podem apresentar um som mais “metálico”.
Desinformação: 'Deepfake caseiro' dispara e vira nova ameaça de golpes e fraudes financeiras
Esses sinais, porém, não são suficientes para confirmar uma fraude.
O contexto e a checagem da informação também são fundamentais, pois o maior risco, segundo o especialista, está nas falsificações sutis.
— O maior perigo está naqueles vídeos, imagens e conteúdos que são muito próximos da realidade e que poderiam, de fato, ter acontecido, mas que distorcem levemente uma situação ou o seu desdobramento.
Você consegue identificar se o vídeo é verdadeiro ou falso?
Para mostrar como essas manipulações aparecem na prática, selecionamos vídeos de deepfakes das redes e destacamos os principais pontos de atenção.
As observações são de Alexandre Fontoura, jornalista especializado em tecnologia do Jornal Extra:
Vídeo 1: A produção aparenta ser perfeita demais.
O fundo permanece completamente estático, e há uma sincronização excessiva e pouco natural das expressões faciais, que parecem simétricas demais.
Além disso, considerando o contexto, trata-se de um vídeo teoricamente impossível, pois a pessoa retratada estaria em prisão domiciliar e impedida de gravar e publicar conteúdos.
Vídeo 2: apresenta qualidade duvidosa.
A voz não parece compatível com a da pessoa retratada, o olhar permanece perdido e pouco natural, e o conteúdo da fala é incompatível com o posicionamento político que ela costuma demonstrar publicamente.
Vídeo 3: Os gestos soam desproporcional à fala.
O próprio conteúdo também é incompatível com o contexto, pois mostra um presidente candidato à reeleição pedindo votos para seu principal adversário político.
Os movimentos de cabeça são incomuns, a articulação labial não está perfeitamente sincronizadas, e os lábios e dentes apresentam qualidade inferior à do restante do vídeo.
Vídeo 4 - O áudio da pessoa retratada soa estranho e não parece compatível com as imagens.
A voz transmite a impressão de ter sido gravada em um ambiente fechado, enquanto o vídeo mostra um espaço aberto.
O conteúdo da fala também é improvável.
Outros indícios são o movimento excessivo das sobrancelhas e a falta de definição dos dentes.
Vídeo 5: O vídeo apresenta movimentos robotizados e pouca expressão facial.
Também é possível observar cortes mal-executados, dentes pouco definidos e uma articulação da boca excessivamente forçada.
Além disso, o conteúdo é incompatível com aquilo que normalmente seria dito pela pessoa retratada.
Ferramentas como o Hive AI Detector, o Deepware Scanner e o Resemble AI Deepfake Detector também podem auxiliar na análise de conteúdos suspeitos.
A checagem automatizada, porém, tem limitações.
Os metadados, por exemplo, podem indicar a origem e o histórico de um arquivo, mas são facilmente perdidos.
Uma simples captura de tela (print) gera um novo arquivo e pode apagar essas informações.
Desafios da Justiça Eleitoral
O TSE publicou neste ano uma resolução que veda o uso de conteúdo sintético produzido ou manipulado digitalmente para prejudicar ou favorecer uma candidatura.
A regra abrange materiais em áudio, vídeo ou na combinação dos dois que criem, substituam ou alterem a imagem ou a voz de uma pessoa viva, falecida ou fictícia.
Na prática, porém, o avanço dos deepfakes cria um novo desafio para a Justiça Eleitoral.
O problema está na capacidade dessas ferramentas de alterar opiniões e fatos de forma convincente, a ponto de enganar até eleitores mais escolarizados, explica Yasmin Curzi, professora de Direito da FGV-Rio.
Um conteúdo manipulado pode, por exemplo, atribuir a um candidato uma declaração que nunca foi feita ou relacioná-lo a um falso caso de corrupção.
Para Curzi, parcerias com as plataformas digitais são essenciais para combater redes coordenadas que disseminam mentiras, monetizam a desinformação e promovem discursos de ódio.
A professora também defende a punição de quem produz e financia conteúdos falsos para prejudicar figuras públicas ou confundir o eleitor.
Já o compartilhamento, segundo ela, exige uma análise diferente.
A punição deve considerar o alcance da publicação e o impacto que ela teve sobre o público.
— Uma coisa é um político, uma pessoa ou um ator de televisão, alguém que tenha, de fato, uma audiência muito grande, compartilhando esse fato inverídico.
Outra coisa são pessoas comuns que não têm ciência de que o conteúdo é falso e que não têm um potencial de dano tão grande com esse compartilhamento — explica.
Por que as pessoas compartilham conteúdos falsos?
A dificuldade de identificar um deepfake é apenas parte do problema.
Mesmo quando o usuário sabe que um conteúdo é falso, isso não significa que deixará de compartilhá-lo.
A perda de confiança em instituições como a imprensa e o Judiciário, somada à polarização política, pode fazer com que convicções pessoais se sobreponham à verificação dos fatos.
É o que explica Carla Montuori Fernandes, cientista política e docente do programa de pós-graduação em Comunicação da Unip.
Segundo a pesquisadora, parte dos usuários compartilha conteúdos manipulados não porque acredita que sejam verdadeiros, mas porque eles reforçam aquilo em que já acreditam.
— Eu sei que essa informação é falsa, eu sei que isso é um deepfake, mas como eu acredito, eu tenho fé naquilo, eu passo para frente.
Como eu odeio o PT, eu odeio o Bolsonaro, apesar de saber que isso é falso, eu reproduzo pelo simples fato de alimentar uma crença que eu possuo em torno dessa pessoa.
A inclusão da educação midiática no Plano Nacional de Educação (PNDE), obrigatória em escolas públicas e privadas desde 2025, busca resolver a falta desse letramento digital desde a educação básica.
No entanto, Fernandes alerta que a medida só terá resultados práticos se o país investir primeiro no treinamento dos professores.
Esse comportamento também é potencializado pelo funcionamento das redes sociais.
Conteúdos que provocam indignação, medo ou outras reações emocionais tendem a gerar mais interação e, consequentemente, maior circulação.
Fernandes cita como exemplo o vídeo manipulado por IA de Jair Bolsonaro exibido na convenção do PL, que confirmou Flávio como candidato à Presidência.
Para a pesquisadora, a demora do TSE em analisar casos como esse pode ampliar os efeitos da desinformação e abrir espaço para a judicialização da política.
A velocidade de disseminação também preocupa.
Um vídeo pode alcançar milhares de pessoas antes mesmo de ser identificado, analisado e retirado do ar.
Na avaliação da professora, combater esse tipo de conteúdo exige a regulamentação das plataformas digitais e a responsabilização pela retirada de materiais que representem risco à democracia.
*Alunas do curso Jornalismo do Futuro sob a supervisão de Cibelle Brito