Idec pede suspensão do Grok, IA do X, por violações de direitos
O Instituto de Defesa do Consumidor (Idec) solicitou ao governo a suspensão do Grok, ferramenta de inteligência artificial de Elon Musk integrada à rede social X, por supostas violações aos direitos de crianças, adolescentes e mulheres.
Segundo o instituto, a IA vem sendo utilizada para gerar, editar e disseminar imagens sexualizadas não consentidas, incluindo deepfakes de conteúdo erótico ou pornográfico envolvendo pessoas reais, inclusive menores de idade, sem a adoção de salvaguardas mínimas de segurança, consentimento ou prevenção de abusos.
O pedido foi formalizado por meio de um ofício encaminhado ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, que reúne representantes do Ministério da Justiça e da Segurança Pública, do Ministério dos Direitos Humanos e da Cidadania, da Secretaria de Comunicação Social da Presidência da República e do Conselho Nacional dos Direitos da Criança e do Adolescente. No documento, o Idec solicita a adoção de providências diante das graves violações associadas ao uso da ferramenta de inteligência artificial generativa.
Para o instituto, o caso configura um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor, uma vez que a plataforma não oferece o nível de segurança legitimamente esperado pelos usuários e pelas pessoas afetadas pelos danos. O Idec também aponta possíveis violações à Lei Geral de Proteção de Dados (LGPD), ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente (ECA) e ao recém-aprovado ECA Digital.
O ofício também ressalta que o caso da Grok já gerou reações internacionais relevantes, com investigações e exigências de retirada de conteúdo por autoridades da União Europeia, Reino Unido, França e Índia, reforçando o caráter sistêmico e global do problema.
O instituto ainda reforça a necessidade de que o caso seja considerado nos debates sobre a Política Nacional de Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital (em construção pelo Comitê Intersetorial) e a regulação da inteligência artificial.