MPF, ANPD e Senacon determinam que X adote medidas para conter falhas do Grok envolvendo conteúdos sexualizados
O Ministério Público Federal (MPF), a Autoridade Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) determinaram que o X implemente, de forma imediata, medidas eficazes para impedir que a ferramenta de inteligência artificial Grok gere conteúdos sexualizados envolvendo crianças e adolescentes ou adultos sem consentimento. A decisão foi tomada após as instituições considerarem insuficientes as providências apresentadas pela empresa em resposta a uma recomendação conjunta.
Corregedoria: PMs da Rota faziam escolta particular para Transwolff
STF: Supremo fixa tese e amplia proteção a campanhas de mobilização social com base na liberdade de expressão
Segundo os órgãos, embora o X tenha informado a remoção de milhares de publicações e a suspensão de centenas de contas, além da adoção de medidas de segurança, as explicações não vieram acompanhadas de relatórios técnicos, evidências documentais ou mecanismos de monitoramento que comprovem a efetividade das ações. Testes preliminares realizados pelas equipes técnicas indicaram a persistência das falhas, com a continuidade da geração e circulação de conteúdos incompatíveis com as recomendações.
O caso envolve a utilização do Grok, IA integrada à rede social controlada por Elon Musk, para alterar fotos de usuários e produzir imagens sexualizadas sem consentimento, inclusive de crianças e adolescentes.
Como mostrou O GLOBO, a ferramenta foi usada em larga escala para “despir” mulheres em publicações públicas, após comandos feitos diretamente em postagens. Levantamentos independentes apontaram milhares de imagens sugestivas geradas em poucas horas, com indícios de que parte envolvia menores de idade.
Diante da avaliação de que as medidas adotadas até agora são insuficientes, a ANPD expediu medida preventiva determinando que o Grupo X aprimore e implemente, imediatamente, soluções técnicas e organizacionais capazes de impedir que o Grok gere imagens, vídeos ou áudios que representem crianças, adolescentes ou adultos identificados ou identificáveis em contextos sexualizados ou erotizados, sem autorização. A determinação vale para todas as versões e modalidades do sistema.
A empresa terá cinco dias úteis para comprovar o cumprimento da ordem e apresentar documentação que demonstre a eficácia das providências adotadas.
No âmbito do MPF, foi ordenado que o X envie relatórios mensais detalhando como está atuando para prevenir e reprimir a produção de deepfakes envolvendo menores e adultos sem consentimento. Os documentos deverão informar, entre outros dados, o número de postagens removidas e de contas suspensas em cada período.
O Ministério Público afirmou que a resposta da empresa à recomendação conjunta foi marcada por falta de transparência, com informações genéricas ou que não tratavam diretamente do episódio envolvendo o Grok neste ano.
Já a Senacon, em medida cautelar administrativa, determinou que o X apresente relatório métrico detalhado com dados quantitativos verificáveis sobre identificação, moderação e remoção de conteúdos sexualizados relacionados ao funcionamento da IA. O órgão também apontou indícios de violação aos deveres de segurança e prevenção de danos previstos no Código de Defesa do Consumidor.
As três instituições atuam de forma coordenada na apuração do caso, cada uma dentro de suas competências legais.
Caso as determinações não sejam cumpridas, a ANPD poderá aplicar medidas mais severas, como multa diária, além de instaurar processo administrativo sancionador. A Senacon advertiu que o descumprimento pode resultar na abertura de processo que leve à aplicação de sanções previstas no Código de Defesa do Consumidor, incluindo multa e obrigações de fazer.
No caso do MPF, a ausência de envio dos relatórios pode caracterizar crime de desobediência, além de ensejar medidas investigatórias mais incisivas e eventual ação judicial para reparação de danos e prevenção de novos ilícitos.
Pedidos de suspensão
O episódio ocorre após pressão de entidades de defesa do consumidor e de direitos digitais, que chegaram a pedir a suspensão do Grok no Brasil. Em janeiro, o Idec protocolou denúncia na ANPD alegando que a ferramenta permitia a criação em massa de imagens sexualizadas não consentidas, em violação à Lei Geral de Proteção de Dados, ao Estatuto da Criança e do Adolescente e ao Marco Civil da Internet.
No início do mês passado, a plataforma afirmou que estava tomando "medidas contra os conteúdos ilegais", especialmente pornografia infantil, "removendo-os, suspendendo permanentemente as contas e colaborando com as autoridades locais".
Qualquer pessoa que use o Grok para "criar conteúdo ilegal sofrerá as mesmas consequências que se publicasse conteúdo ilegal", defendeu Elon Musk na semana passada em uma mensagem publicada no X.
O bilionário também atacou os dirigentes políticos que exigem medidas de bloqueio. Para ele, os críticos do X e do Grok "simplesmente querem suprimir a liberdade de expressão".
Ao lançar o Grok em dezembro de, Musk afirmou que o chatbot era uma “IA que buscava a verdade máxima” e que não era politicamente correto. O bilionário descreveu o Grok como tendo uma “veia rebelde” disposta a abordar “questões polêmicas” que outros evitavam, como temas politicamente carregados ou controversos.
"Nossa experiência de contato prévio com as plataformas foi inócuo nos últimos anos. Passamos a entender que elas só agem quando são pressionadas por movimentos fiscalizatórios ou por obrigação legal. Assim, decidimos acionar os órgão de controle", afirmou Abad.