UE prepara medidas para banir ferramentas de IA que criam imagens sexualizadas sem autorização
Ferramentas de inteligência artificial que criam imagens sexuais sem consentimento podem ser proibidas na União Europeia. A discussão ganhou força depois que usuários usaram o Grok, serviço de Elon Musk, para gerar milhares de imagens de mulheres e crianças como se estivessem nuas.
Longo prazo: Google fecha acordo inédito de 20 anos para garantir energia para data center nos EUA
Veja vídeo: Mulher hospitalizada após se assustar e discutir com robô humanoide em Macau passa bem, diz polícia
Nesta quarta-feira, a comissão de liberdades civis do Parlamento Europeu aprovou o texto preliminar da chamada "Lei Omnibus de Inteligência Artificial" do bloco. O texto inclui uma emenda para proibir qualquer sistema de IA que gere imagens realistas “com o objetivo de retratar atividades sexualmente explícitas ou partes íntimas de uma pessoa natural identificável” sem seu consentimento.
A proibição não vale para empresas que já tenham mecanismos eficazes para impedir esse tipo de uso, como travas contra deepfakes. Com isso, a aprovação da emenda alinha o Parlamento aos governos europeus, o que aumenta a chance de a medida virar lei ainda neste ano.
Editorial: Uso da IA para conteúdo ilegal expõe necessidade de maior vigilância
Já é ilegal na Europa produzir ou compartilhar imagens íntimas sem consentimento. A novidade é que, agora, o foco passa a ser também nas ferramentas de IA, e não só em quem usa. Os legisladores optaram por focar na tecnologia, e não apenas nos usuários, diante da rápida evolução dos modelos, capazes de criar representações cada vez mais convincentes de pessoas reais.
O caso do Grok ajudou a acelerar esse movimento. O chatbot, disponível na rede social X, foi usado para gerar e publicar online grandes volumes de imagens sexualizadas a partir de fotos de pessoas totalmente vestidas, em janeiro. Após críticas, a empresa responsável, xAI, limitou a função.
Procurado, um representante da xAI não respondeu imediatamente a um pedido de comentário.
Teste do GLOBO: Grok, de Elon Musk, ignora direito autoral e ‘derruba’ paywall no jornalismo
A nova proposta se soma a outras leis europeias contra abuso sexual infantil e divulgação de imagens íntimas sem autorização. Uma regra de 2024 sobre violência contra mulheres já tornou crime o uso de IA para produzir imagens sexuais sem consentimento, e a Lei de Serviços Digitais também pune redes sociais que permitem a disseminação de conteúdo ilegal, incluindo material de abuso infantil.
Barreira a data centers: Guerra no Irã põe em xeque investimentos das big techs dos EUA no Golfo Pérsico
Se a nova proibição entrar em vigor, empresas de IA terão que provar que seus sistemas têm barreiras contra esse tipo de imagem. Ainda não está claro, porém, como as plataformas vão checar se houve consentimento da pessoa retratada.
A União Europeia também trabalha em uma atualização mais ampla da sua legislação de IA, que deve simplificar regras e adiar prazos para adaptação das empresas.
Initial plugin text
O pacote também deve adiar a implementação de partes da lei relacionadas a aplicações de alto risco, originalmente previstas para agosto de 2026, agora postergadas para dezembro de 2027 e agosto de 2028. A mudança permitirá que organizações especializadas elaborem orientações detalhadas sobre como cumprir as regras, além de dar mais clareza às empresas.
Levantamento: Grok, ferramenta de IA de Musk, gera 85 vezes mais imagens de pessoas sexualizadas por hora que outros sites
Além disso, autoridades da União Europeia e do Reino Unido investigam a rede X e a xAI pelo caso do Grok, em janeiro, para saber se houve violação de leis de moderação de conteúdo e segurança online.