Deepfakes e IA desafiam a confiança; como saber o que é verdade?

A inteligência artificial ampliou a capacidade de criar imagens, vídeos e narrativas convincentes, mas também colocou em xeque a forma como identificamos o que é verdadeiro.
Em meio à popularização de deepfakes e com a circulação cada vez mais rápida de conteúdos manipulados, a confiança se tornou um dos principais desafios da era da IA.
O TechTudo acompanha nesta terça-feira (11), em São Paulo*, a mesa "Deepfakes, Algoritmos e o Colapso da Confiança: A Verdade Sobreviverá à IA?", realizada durante o SP2B, a convite do evento.
O painel reúne Andrea Janér, fundadora e CEO da Oxygen, e Beatriz Farrugia, pesquisadora sênior da Agência Lupa, com mediação da jornalista e editora Fernanda Almeida.
A discussão aborda os novos critérios para definir o que é confiável em um cenário no qual imagens podem ser manipuladas, algoritmos influenciam a distribuição de informações e diferentes versões de um mesmo fato disputam a atenção do público.
Mesa "Deepfakes, Algoritmos e o Colapso da Confiança: A Verdade Sobreviverá à IA?", realizada durante o SP2B
Cecile Mendonça/TechTudo
IA pode combater e ampliar a desinformação
A inteligência artificial ocupa uma posição ambígua nesse cenário.
Ao mesmo tempo em que ela pode ajudar a identificar conteúdos falsos, detectar manipulações e acelerar processos de checagem, a tecnologia também facilita a produção e a distribuição de informações enganosas em larga escala.
Durante o painel, Beatriz Farrugia, da Agência Lupa, destacou o avanço da automação de postagens, da microssegmentação e da manipulação de modelos de linguagem (LLMs).
Com ferramentas de IA, uma mesma narrativa pode ser produzida, adaptada e direcionada para diferentes públicos de maneira automatizada, aumentando o potencial de alcance de conteúdos manipulados.
Antes de entender como a tecnologia interfere nesse processo, porém, é preciso diferenciar os conceitos usados para falar sobre informações falsas.
Segundo Beatriz, o termo "fake news", por exemplo, embora popular, tem forte conotação política e, por isso, não é recomendado pela Lupa.
Desinformação é uma informação falsa ou manipulada, criada e disseminada intencionalmente para enganar.
Já misinformation é uma informação falsa ou imprecisa compartilhada sem a intenção de enganar.
A propaganda, por sua vez, pode ser verdadeira ou falsa e é utilizada para promover uma agenda política, ideológica ou comercial.
A Lupa também classifica a desinformação em sete tipos: falsa conexão, falso contexto, manipulação de conteúdo, sátira ou paródia, conteúdo enganoso, conteúdo impostor e conteúdo fabricado.
A divisão mostra que uma informação não precisa ser completamente inventada para enganar alguém, visto que até mesmo uma imagem verdadeira pode ser retirada de contexto, uma pessoa pode ser falsamente apresentada como autora de determinada declaração, entre muitas outras possibilidades de distorção.
IA pode combater e ampliar a desinformação, sendo ambígua
Cecile Mendonça/TechTudo
Notícias falsas ganham escala nas redes
A capacidade de produzir conteúdo é apenas parte do problema.
A velocidade com que uma informação circula nas redes também favorece a desinformação.
Durante a mesa, Fernanda Almeida citou um estudo de pesquisadores do MIT (Instituto de Tecnologia de Massachusetts), publicado na revista Science, que analisou cerca de 126 mil notícias compartilhadas no X (antigo Twitter) entre 2006 e 2017.
A pesquisa identificou que notícias falsas eram 70% mais propensas a ser retuitadas do que as verdadeiras.
O estudo também apontou que uma notícia falsa chegava a 1.500 pessoas cerca de seis vezes mais rápido do que uma notícia verdadeira.
Segundo os pesquisadores, a novidade e o apelo emocional dos conteúdos ajudavam a explicar parte desse comportamento, especialmente no caso de informações políticas.
O cenário se torna ainda mais relevante quando se considera o tempo que as pessoas passam conectadas.
Fernanda também citou uma pesquisa da NordVPN, segundo a qual o brasileiro médio passa cerca de 116 horas por semana na internet.
Mantido esse ritmo ao longo da vida, a estimativa é de 52 anos, 9 meses e 16 dias no ambiente digital.
Com uma parcela cada vez maior da rotina concentrada no universo online, principalmente nas redes sociais, a exposição a informações falsas também aumenta.
É nesse ambiente de alta circulação e disputa por atenção que a inteligência artificial adiciona uma nova camada ao problema, pois além de acelerar a distribuição, ela pode tornar a produção de conteúdos manipulados mais barata, rápida e personalizada.
Em vez de desconfiar de tudo, é preciso reconhecer os sinais
A discussão levou também à crise de confiança no próprio jornalismo.
Andrea Janér perguntou a Beatriz como lidar com um público que já recebe uma quantidade enorme de informações falsas e pode passar a desconfiar de tudo.
Beatriz explicou que a Lupa evita recomendar que as pessoas simplesmente desconfiem de tudo o que recebem, porque isso também pode prejudicar a confiança na imprensa e em fontes confiáveis.
A estratégia é trabalhar caso a caso e ensinar quais características devem despertar desconfiança.
Segundo ela, muitas das mentiras chegam pelo WhatsApp, acompanhadas de recursos como emojis de alerta e textos sensacionalistas.
Os verificadores procuram identificar os apelos, gatilhos e padrões de linguagem utilizados nessas mensagens para ensinar o público a reconhecer estratégias de manipulação.
A ideia é ir além do desmentido individual.
Como exemplo, Beatriz citou um vídeo falso atribuído ao médico Drauzio Varella, no qual ele supostamente apareceria vendendo uma "pílula vermelha".
Se a pessoa aprende a reconhecer os sinais que tornam aquele conteúdo suspeito, ela pode identificar o mesmo padrão caso o vídeo volte a circular com outra versão - por exemplo, uma suposta "pílula verde".
Assim, em vez de depender de uma checagem diferente para cada novo vídeo, imagem ou texto falso, o usuário aprende a reconhecer como uma narrativa enganosa é construída.
Para Beatriz, essa educação é uma forma de tornar o público mais preparado para lidar com novos formatos de desinformação.
Regulamentação pode ajudar a identificar conteúdos feitos com IA
Cecile Mendonça/TechTudo
Regulamentação pode ajudar a identificar conteúdos feitos com IA
A necessidade de identificar conteúdos produzidos ou modificados por inteligência artificial também entrou na discussão.
Fernanda perguntou a Andrea sobre a importância de marcar materiais feitos com IA e sobre a necessidade de regulamentação.
Andrea defendeu que é preciso avançar na regulamentação da tecnologia.
Ela contou uma situação que viveu após a eleição de Luiz Inácio Lula da Silva.
Em uma corrida de táxi, o motorista perguntou se Lula "ia subir a rampa".
Depois de uma resposta genérica de Andrea, ele afirmou que o presidente estava morto e que quem aparecia publicamente seria um sósia usando uma máscara.
Para sustentar a afirmação, o motorista mostrou um vídeo do TikTok que supostamente mostrava uma pessoa chegando ao Palácio do Planalto e, depois, retirando uma máscara em casa.
Andrea fez outras perguntas até entender a narrativa que havia levado o motorista a acreditar naquela história.
O caso mostra como um vídeo pode ser apresentado como se fosse uma evidência, mesmo quando não há comprovação da história contada.
E a teoria não está restrita a casos isolados, já que uma pesquisa do Instituto Meio/Ideia apontou que 12,5% dos eleitores brasileiros acreditam que Lula foi substituído por um clone ou sósia.
Outros 58,9% rejeitaram a hipótese e 28,5% não souberam responder ou preferiram não responder.
Para Andrea, o avanço de ferramentas capazes de produzir conteúdos cada vez mais convincentes reforça a necessidade de discutir regras e formas de identificação.
A questão não envolve apenas descobrir se determinado material foi feito por IA, mas permitir que o público tenha informações suficientes para avaliar sua origem e confiabilidade.
Como checar uma informação suspeita
Apesar dos avanços da IA na produção de conteúdos falsos, Andrea também contou que a Oxygen utiliza bastante a própria tecnologia para ajudar a verificar informações.
Ela, no entanto, ressaltou que a própria resposta da IA precisa ser conferida, já que modelos podem "alucinar" e apresentar informações ou fontes incorretas.
Para evitar que isso aconteça, uma das estratégias adotadas é orientar a ferramenta a buscar informações em veículos tradicionais e fontes confiáveis.
Mesmo assim, quando há dúvida, a recomendação é perguntar à IA qual é a fonte utilizada.
Depois, é preciso abrir o link, conferir se a publicação realmente existe e avaliar quem está por trás daquele conteúdo.
Beatriz recomenda também não depender de um único buscador.
Afinal, uma informação suspeita pode ser pesquisada em diferentes mecanismos, como Google e Safari, para verificar se outras fontes independentes apresentam o mesmo dado.
Também é possível colocar um trecho exato da mensagem entre aspas, o que ajuda a encontrar páginas que reproduziram a mesma frase.
Para imagens, a recomendação seria fazer uma busca reversa.
Ferramentas como o Google Lens permitem enviar uma imagem e procurar páginas que contenham aquela mídia ou versões semelhantes.
Isso pode revelar quando uma fotografia foi publicada originalmente e em qual contexto, ajudando a identificar casos em que uma imagem verdadeira foi usada para sustentar uma história falsa.
Outra opção é o Google Fact Check Explorer, que reúne verificações realizadas por organizações independentes.
A ferramenta pode ajudar a descobrir se uma determinada afirmação já foi checada e também é útil para investigar conteúdos que surgiram em outros países e depois foram traduzidos ou adaptados para circular no Brasil.
Também existem tecnologias de procedência voltadas a conteúdos gerados por IA.
O SynthID, do Google, utiliza marcas d’água digitais invisíveis para identificar conteúdos produzidos ou modificados por ferramentas compatíveis.
A OpenAI também utiliza mecanismos de procedência em conteúdos gerados por suas ferramentas, enquanto a ElevenLabs oferece recursos para identificar sinais associados a áudios produzidos por suas próprias tecnologias.
Essas ferramentas, porém, não são detectores universais de IA.
Em geral, elas conseguem procurar sinais relacionados a tecnologias ou plataformas específicas.
Por isso, a ausência de uma marca d’água ou de um sinal de procedência não significa, sozinha, que determinado conteúdo seja verdadeiro ou tenha sido produzido por uma pessoa.
Não depender de um único buscador é um bom caminho para detectar problemas com a veracidade da IA
Cecile Mendonça/TechTudo
Como identificar fake news e desinformação na internet
Em um cenário de deepfakes, imagens falsas, vídeos manipulados e textos produzidos por inteligência artificial, saber verificar a fonte, comparar informações e identificar padrões de desinformação se torna uma habilidade cada vez mais importante.
Mais do que descobrir se um conteúdo específico é falso, o objetivo é entender como a manipulação funciona para não cair novamente no mesmo tipo de golpe ou narrativa.
Na prática, algumas medidas simples podem ajudar a verificar se uma informação é verdadeira antes de compartilhá-la:
Verifique a fonte: pergunte à IA de onde veio a informação, abra o link indicado e confira quem publicou o conteúdo;
Compare com outras fontes: pesquise a mesma informação em diferentes buscadores e veículos de imprensa para verificar se há outras confirmações;
Pesquise trechos entre aspas: se uma mensagem parecer suspeita, copie uma frase e faça uma busca entre aspas para descobrir onde ela já foi publicada;
Faça busca reversa de imagens: use ferramentas como o Google Lens para descobrir a origem de uma foto, quando ela foi publicada e em qual contexto;
Consulte sites de checagem: o Google Fact Check Explorer pode mostrar se determinada afirmação já foi analisada por organizações especializadas;
Observe os sinais de alerta: textos sensacionalistas, emojis de alerta, apelos emocionais, promessas exageradas e pedidos urgentes de compartilhamento podem indicar uma tentativa de manipulação;
Verifique conteúdos gerados por IA: ferramentas como o SynthID podem ajudar a identificar sinais de procedência em conteúdos produzidos por tecnologias compatíveis, embora não funcionem como detectores universais de inteligência artificial.
*A jornalista foi a São Paulo a convite da SP2B