'Imagens eróticas' e 'lapsos de salvaguardas': entenda a acusação sobre sexualização de menores contra o Grok, a IA do X
O Grok, ferramenta de inteligência artificial integrada ao X (antigo Twitter), está sendo acusado de gerar imagens sexualizadas de pessoas reais, inclusive menores de idade, dentro da própria plataforma. O sistema, que funciona como um chatbot capaz de responder a comandos para gerar textos e imagens, passou a atender pedidos de edição de fotos para adicionar biquínis, tornar roupas transparentes, alterar ângulos e inserir objetos sexuais nos corpos retratados. O cenário levou a reações de autoridades tanto no Brasil quanto no exterior.
Morte por metanol: homem é preso suspeito de vender bebidas adulteradas na Bahia
Alistamento militar de 2026 começa nesta quinta: mulheres podem se inscrever de forma voluntária pelo segundo ano
Entre os alvos estão figuras públicas. Um dos casos envolve o presidente da Venezuela, Nicolás Maduro, na emblemática imagem na qual aparece vendado e com fones de ouvido durante a operação americana que o capturou no dia 3 de janeiro. Na versão alterada pelo Grok, as roupas foram substituídas por um biquíni listrado nas cores da bandeira dos EUA, mantendo os demais adereços.
Outro exemplo envolve o ativista político de direita Charlie Kirk, em uma foto registrada momentos antes do atentado que resultou em sua morte, em setembro do ano passado. Na imagem editada, a calça jeans e a blusa são transformadas em um biquíni branco, e um usuário ainda solicita que a peça seja mais cavada.
A prática, no entanto, não se restringe a personagens conhecidos. Anônimos e crianças também aparecem entre as vítimas. A deputada federal Erika Hilton (Psol-SP) acionou a Agência Nacional de Proteção de Dados (ANPD) e apresentou uma representação ao Ministério Público Federal (MPF) contra o Grok por gerar e divulgar “imagens eróticas de mulheres e crianças reais”, sem consentimento.
Em postagens nas redes, Hilton afirmou que a ferramenta “ultrapassa todos os limites” ao permitir a disseminação em massa de pornografia infantil por meio de inteligência artificial. A deputada informou ainda que solicitou a suspensão do Grok e de todas as funcionalidades de IA do X, rede social do bilionário sul-africano Elon Musk, em território nacional “até que tudo seja devidamente investigado”.
Na representação enviada ao MPF, ela cita casos anteriores de deepfake pornográficos, como os que atingiram a cantora Taylor Swift, e menciona um pedido de desculpas divulgado pelo próprio Grok em 28 de dezembro de 2025. Na ocasião, a ferramenta reconheceu a violação de “padrões éticos e potencialmente leis americanas sobre abuso sexual infantil online”.
Segundo Hilton, apesar do reconhecimento das falhas, a funcionalidade segue ativa e acessível. Para a deputada, o episódio evidencia um padrão recorrente de violação da imagem, da dignidade e da privacidade, especialmente de mulheres, além de favorecer um ambiente digital permissivo à violência psicológica e digital.
‘Lapsos nas salvaguardas’
Questionado por usuários, o perfil oficial do Grok reconheceu “lapsos nas salvaguardas” que permitiram a geração de conteúdos “inadequados, inclusive envolvendo menores”. A ferramenta disse estar corrigindo o problema com urgência e reforçou que conteúdos de abuso infantil são ilegais e proibidos pela plataforma.
Em outra resposta, a ferramenta afirmou não gerar imagens de crianças nuas ou “qualquer conteúdo pedófilo”. “Meus sistemas de IA, incluindo geradores de imagens, seguem critérios éticos estritos para evitar material prejudicial, ilegal ou não consensual, como deepfakes explícitos”, escreveu o Grok na rede.
Apesar disso, seguem circulando no X centenas de imagens alteradas de forma não consensual, geradas a partir de comandos feitos ao chatbot. Para Fabrício Carraro, especialista em inteligência artificial da Alura, o caso revela uma falha clara nos chamados guardrails — mecanismos de proteção que impedem usos indevidos em plataformas de geração e edição de imagens.
— Musk vende a ideia de que eles vão ser a IA mais “livre”, que você vai poder fazer praticamente o que quiser. Mas tem coisas que, obviamente, são crimes que passam desse nível — pontua Carraro.
Repercussão mundial
O caso também ganhou dimensão internacional e passou a ser analisado por autoridades de diferentes países. A União Europeia informou que examina o Grok de forma “muito séria” após a circulação de imagens sexualizadas, inclusive com aparência infantil. Um porta-voz da Comissão Europeia afirmou que o chamado “Modo Picante” da ferramenta não pode ser tratado como conteúdo sugestivo, mas como material ilegal.
Reguladores do Reino Unido, da França e da Índia uniram-se na condenação à prática. A Ofcom, órgão regulador britânico, informou ter feito contato urgente com o X e a xAI para apurar o cumprimento das obrigações legais de proteção aos usuários.
O governo francês sinalizou que o caso pode violar a Lei de Serviços Digitais (DSA) da União Europeia, que exige das plataformas medidas eficazes para reduzir a disseminação de conteúdo ilegal. O X já é alvo de apuração no âmbito da DSA e, em dezembro, foi multado em 120 milhões de euros por falhas de conformidade.
Na Ásia, a Índia cobrou uma revisão completa dos mecanismos de segurança do Grok. Já autoridades da Malásia abriram investigações após denúncias sobre conteúdos indecentes gerados pelo chatbot.
*Estagiária sob supervisão de Daniela Dariano