Ferramentas de fraude por deepfake ainda são muito fracas, diz pesquisa
Softwares que criam deepfakes têm evoluído rapidamente de uma curiosidade para algo bastante eficiente, técnico e perigoso, ao menos aos olhos humanos. Uma pesquisa do Fórum Econômico Mundial (WEF), no entanto, indicou que a progressão dessas ferramentas ainda fica bem aquém das contramedidas de instituições como bancos e empresas. O que é deepfake? Deepfakes estão fora de controle? Entenda os riscos e como se proteger Foram revisados 17 programas de deepfake de código aberto e comerciais disponíveis do mercado, disponíveis entre julho de 2024 e abril de 2025, avaliados a partir de suas habilidades de contornar algoritmos de reconhecimento facial. A eficiência deles ao driblar verificações de segurança “know your costumer” (KYC) foi um elemento especialmente estudado. Os deepfakes do crime estão atrasados? Os resultados da pesquisa, vale notar, foram mistos, e os testes limitados, se baseando apenas na documentação das ferramentas e informações vindas de outras fontes de código aberto. As conclusões, no entanto, afirmam que a maioria dos programas de deepfake é barato e superficial, produzido para uso em mídias sociais e demais formas de entretenimento, com poucos sendo vendidos para uso profissional. -Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.- A verificação de reconhecimento facial das empresas ainda está na frente no que tange aos deepfakes, para o alívio dos clientes de banco (Imagem: Vecstock/Freepik) Uma minoria bem diminuta, segundo a pesquisa, realmente possui capacidade de cometer fraude de identidade de maneira séria. Disponíveis no mercado negro, essas ferramentas custam entre 850 e 1.000 reais por conta e são compradas por criminosos que lavam dinheiro. São três tipos de programa: há os que somente editam vídeos pré-produzidos, e os que são serviços web, ambos capazes de criar arquivos modificados. Só o terceiro tipo, que mescla faces em webcams em tempo real, realmente ameaça algoritmos de reconhecimento facial. Das 17 plataformas estudadas, 5 afetam webcams em tempo real, e apenas três conseguem injetar imagens falsas diretamente no feed de vídeo de reconhecimento facial. Seis das 17 usam captura de movimentos capaz de refletir pequenos movimentos e expressões faciais complexas, mas apenas duas trabalham bem com iluminação dinâmica, e somente em conteúdo pré-gravado. Embora enganem mesmo os olhos humanos mais treinados, os deepfakes ainda têm dificuldade de passar em reconhecimento facial e checagens KYC, já que boas tecnologias se apoiam em outros dados, como os metadados do usuário, e usam truques como piscar a tela do cliente, o que já revela se a luz se comporta como deveria no rosto. Os defensores estão à frente nesse caso: ao estudar um ataque, pesquisadores de segurança possuem todo o tempo do mundo, e conseguem descobrir o que os hackers estão fazendo. Já os criminosos não fazem ideia do que estão fazendo errado, visto que a resposta da plataforma é apenas “sim” ou “não”: não há como saber no que melhorar para que o deepfake se saia melhor na fraude. O essencial, ao que parece, realmente é invisível aos olhos. Confira ainda no Canaltech: Europol prende 34 hackers da Black Axe, que roubou R$ 37 milhões mundialmente Transações ilícitas de criptomoedas atingem recorde de US$ 158 bilhões em 2025 Instagram nega vazamento de dados de 17,5 milhões de usuários na dark web VÍDEO | Você sabe IDENTIFICAR um DEEPFAKE? Leia a matéria no Canaltech.