'Era claramente eu': quando séries geradas por IA nas redes sociais roubam rostos
Christine Li não é atriz; por isso, quando se viu em um microdrama nas redes sociais interpretando uma personagem cruel, sua surpresa se misturou com raiva e medo.
A imagem dessa influenciadora e modelo chinesa de 26 anos foi utilizada sem seu consentimento em um episódio gerado por inteligência artificial que fez grande sucesso em março em um aplicativo da ByteDance, a empresa que lançou o TikTok.
Imagem manipulada: Imagem de lobo feita com IA causa pânico e leva sul-coreano à prisão
Modelos mais baratos: Aposta em aplicações práticas leva China à dianteira da corrida global de IA
— Fiquei em choque. Era claramente eu — declarou Christine desde a cidade de Hangzhou, no leste da China, onde vive. — Era evidente que haviam utilizado uma série de fotos que eu havia tirado há dois anos e publicado nas redes sociais — acrescentou.
Foram seus seguidores que a alertaram depois de verem The Peach Blossom Hairpin (“O grampo de flor de pêssego”) na Hongguo, plataforma especializada na difusão de microdramas, minisséries ultracurtas extremamente populares na China e em plena expansão em outros países.
Christine Li afirmou que ficou especialmente horrorizada ao ver sua versão digital esbofeteando mulheres e maltratando animais.
—Também senti um medo profundo, perguntando-me que tipo de pessoa poderia fazer algo assim — explicou a jovem, que pretende apresentar uma ação judicial.
Initial plugin text
Em um comunicado publicado no início de abril, a Hongguo indicou ter retirado o episódio porque seus produtores haviam infringido as normas da plataforma, que oferece gratuitamente milhares de formatos curtos e ultracurtos.
Feio e suspeito
Em um mercado de microdramas em rápido crescimento e que já movimenta bilhões de dólares, o uso da IA é extremamente frequente. Não apenas a personagem de Christine Li, mas também a de seu “marido” no episódio em questão, foi baseada em imagens roubadas.
‘Poder totalmente desmedido’: Ex-executiva do WhatsApp no Brasil quer enfrentar as big techs
Tratava-se de fotos de Baicai, estilista especializado em vestimentas e maquiagem tradicionais, que havia publicado imagens suas caracterizado no Xiaohongshu.
Assim como Li, o microdrama o retratou como “feio e suspeito”, lamentou o homem, que pediu para ser identificado sob pseudônimo.
Apesar do escândalo, 'The Peach Blossom Hairpin' continuou sendo exibido por vários dias antes de ser retirado. Em um primeiro momento, os personagens foram discretamente substituídos.
Não quer que descubram que você escreve com ajuda da IA? Aplicativo insere erros para ‘humanizar’ texto
Desde então, a Hongguo afirmou estar reforçando seus procedimentos de revisão de conteúdo e declarou ter tratado 670 microdramas que violavam as normas, eliminando a maioria deles. A aplicação disse que sancionará em caso de reincidência.
Quando consultada, a ByteDance encaminhou a AFP às declarações do Hongguo.
Enquanto isso, Christine Li e Baicai seguem esperando que os responsáveis pelo uso indevido de suas imagens sejam identificados.
Direito à própria imagem
Ao serem contatadas pela AFP, uma empresa identificada no sistema oficial de registro chinês como produtora do episódio e outra que o publicou na versão chinesa do TikTok não responderam.
Esqueça o iPhone: Febre entre crianças nos EUA agora é um telefone fixo 'retrô' de US$ 100
A capacidade da IA de se apropriar dos traços de pessoas reais gera preocupação em todo o mundo, especialmente pelo risco de que os “deepfakes” sejam usados com fins maliciosos.
Representar alguém de forma degradante sem sua autorização constitui uma violação “tanto do direito à imagem quanto do direito à reputação”, destacou a advogada de Li, Zhao Yijie.
As autoridades chinesas também endureceram o marco legal. Desde abril, a lei exige que a criação de microdramas por meio de IA esteja sujeita à obtenção de uma licença. No entanto, ainda é fácil se esconder por trás de empresas temporárias ou utilizar servidores no exterior, avalia Zhao.
DeepSeek: Chinesa lança novo modelo de inteligência artificial: 'Supera significativamente outros modelos'
Em 2024, um tribunal de Pequim condenou uma empresa a pagar indenização a uma celebridade porque seu software de IA permitiu que usuários desviassem a imagem e o nome dela para trocar mensagens íntimas.
Mas, no caso de pessoas menos conhecidas, como Christine Li e Baicai, as chances de receber uma indenização adequada são baixas, estimam advogados consultados pela agência francesa de notícias.
Pior ainda, a influenciadora e modelo teme ser prejudicada profissionalmente, já que agora está “associada a uma controvérsia”.
— Que impacto isso terá sobre mim, meu trabalho e minhas oportunidades profissionais? — questiona, por sua vez, Baicai.
Initial plugin text