Adolescentes processam xAI nos EUA por imagens sexualizadas geradas por chatbot
Três adolescentes entraram nesta segunda-feira com uma ação coletiva nos Estados Unidos contra a xAI, empresa de inteligência artificial (IA) de Elon Musk, após acusarem seu chatbot de gerar imagens pornográficas delas a partir de fotos reais, anunciaram suas advogadas. A ação está relacionada à proliferação, no fim do ano passado, de deepfakes de mulheres e crianças nuas. A publicação dessas imagens em redes sociais provocou uma onda de indignação mundial e levou a investigações em vários países e no estado americano da Califórnia.
Leia também: Grok, de Elon Musk, ignora direito autoral e ‘derruba’ paywall no jornalismo
Nada de letras miúdas no rodapé: Nova York exige aviso visível quando campanhas de moda usarem modelos criados por IA
O processo cita o caso de uma pessoa, já detida, que usou o chatbot Grok para transformar fotos comuns das jovens, retiradas de redes sociais ou outras fontes, em imagens hiper-realistas sexualizadas.
As montagens circularam no X, no Discord e no Telegram, e depois migraram para a dark web como moeda de troca para outros conteúdos de pornografia infantil, diz a ação, movida em um tribunal federal de San José.
"Ver a minha filha ter um ataque de pânico ao perceber que essas imagens haviam sido criadas e espalhadas sem nenhuma esperança de apagá-las foi horrível", descreveu em comunicado a mãe de uma das adolescentes, do estado do Tennessee.
Uma das autoras da ação tem pesadelos recorrentes, e outra precisa de remédios para dormir e tem medo de comparecer à própria cerimônia de formatura. A xAI "projetou deliberadamente o Grok para produzir conteúdo sexualmente explícito com fins lucrativos", sem implementar as proteções usadas por outros grandes atores da IA contra a pornografia infantil, denunciaram as advogadas.
Segundo um estudo do Center for Countering Digital Hate (CCDH), o Grok gerou cerca de 3 milhões de imagens sexualizadas em 11 dias no fim de 2025, das quais 23 mil representavam menores de idade. Em resposta ao escândalo, a xAI restringiu em janeiro exclusivamente aos assinantes a geração de imagens pelo Grok.