X é investigado na Europa devido aos deepfakes sexuais criados com IA pelo Grok
A Comissão Europeia abriu uma investigação para avaliar a atuação do X (antigo Twitter) no caso dos deepfakes sexuais criados com inteligência artificial (IA) por meio do Grok. O inquérito busca verificar se a rede social está seguindo as normas estabelecidas pelo Regulamento dos Serviços Digitais (RSD) na Europa. Deepfakes sexuais no Grok foram bloqueados, afirma xAI de Elon Musk Grok é bloqueado em alguns países após gerar deepfake sensual sem consentimento “A nova investigação avaliará se a empresa avaliou e mitigou adequadamente os riscos associados à implementação das funcionalidades do Grok no X na União Europeia. Isso inclui riscos relacionados à disseminação de conteúdo ilegal na UE, como imagens sexualmente explícitas manipuladas, incluindo conteúdos que possam se enquadrar como material de abuso sexual infantil”, informou o órgão da União Europeia (UE) em comunicado. A UE destaca que há indícios de que esses riscos se concretizaram, e que cidadãos dos países pertencentes ao bloco foram expostos a “danos graves”. -Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.- A Comissão também informou que dará continuidade às investigações que avaliam se o X cumpre obrigações relacionadas ao RSD. Entre elas, estão: Minimizar a disseminação de conteúdos ilegais; Mitigar as consequências negativas decorrentes da implementação das funcionalidades do Grok na plataforma; Elaborar e enviar à UE relatórios sobre avaliações de risco relacionadas aos recursos do Grok na rede social. Possíveis desdobramentos da investigação A Comissão informa que, caso sejam constatadas infrações às regras estabelecidas pelo RSD, a empresa de Elon Musk pode ser alvo de medidas provisórias. A suspensão temporária de funcionalidades específicas da rede social é uma das possibilidades. A não conformidade com os termos impostos pela legislação também pode resultar em multas de até 6% do volume anual de negócios da companhia. Em dezembro de 2025, uma decisão da UE sobre a falta de transparência por parte do X já resultou em uma multa de 120 milhões de euros à empresa. Comissão Europeia afirma que há indícios de que deepfakes gerados pelo Grok causaram danos aos usuários do X (Imagem: André Magalhães/Canaltech) Expansão de inquérito aberto em 2023 Apesar de ter como foco a disseminação de conteúdos ilegais associados aos recursos do Grok, a nova investigação é tratada pela Comissão Europeia como uma expansão de um inquérito instaurado em dezembro de 2023 contra o X. Esse processo, por sua vez, tem como pilar a análise do funcionamento do mecanismo de notificação e ação da rede social, bem como de suas medidas para minimizar o compartilhamento de conteúdos ilegais — como aqueles associados ao terrorismo. A investigação de 2023 também avalia os riscos relacionados ao sistema de recomendação do X, incluindo um novo mecanismo algorítmico baseado nos recursos do Grok que, segundo a Comissão, pode infringir as diretrizes do Regulamento dos Serviços Digitais. Leia também: Idec solicita suspensão do Grok no Brasil após gerar deepfakes sexuais Deepfakes estão fora de controle? Entenda os riscos e como se proteger Como saber se uma foto foi criada por Inteligência Artificial VÍDEO: IA de Musk gera polêmica com deepfakes. Até onde a IA pode ir sem invadir a privacidade? Leia a matéria no Canaltech.