Grok é bloqueado em alguns países após gerar deepfake sensual sem consentimento
A Indonésia e a Malásia bloquearam o acesso ao Grok, chatbot de inteligência artificial (IA) de Elon Musk integrado à rede social X — o antigo Twitter. Os países do sudeste asiático são os primeiros a bloquear a plataforma em seu território após a ferramenta ser amplamente utilizada para criar "deepfakes" sexualmente explícitos — incluindo imagens de menores de idade — sem o consentimento das vítimas. Grok alega restringir geração de imagens e deepfakes, mas ainda há brecha X afirma que vai suspender contas de quem cria conteúdos ilegais com a IA Grok A decisão foi anunciada pelos ministérios de comunicação de ambas as nações neste fim de semana. Autoridades locais classificaram o uso da IA para produzir pornografia falsa como uma violação grave dos direitos humanos e da segurança digital. O bloqueio permanecerá em vigor até que a xAI, empresa responsável pela ferramenta, implemente mecanismos eficazes para impedir a geração desse tipo de conteúdo. -Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.- Na Indonésia, que possui leis anti-pornografia rigorosas, a ministra de Assuntos Digitais, Meutya Hafid, destacou que a medida visa proteger especialmente mulheres e crianças. Já na Malásia, a Comissão de Comunicações e Multimídia (MCMC) afirmou que o X falhou repetidamente em abordar os riscos inerentes da ferramenta, focando apenas em mecanismos de denúncia iniciados pelos usuários, o que foi considerado insuficiente. Deepfakes no Grok Os bloqueios ocorrem após usuários usarem o Grok para editar fotos de pessoas reais — inclusive menores de idade — para simular que elas estão usando biquínis ou roupas íntimas. Diferente de outros modelos de IA que possuem filtros de segurança mais robustos contra a criação de material obsceno, o Grok é apontado como um ponto fora da curva por permitir edições do tipo. Pesquisadores da organização AI Forensics analisaram 20 mil imagens geradas pela ferramenta e descobriram uma alta prevalência de comandos solicitando a remoção de roupas. Risco de efeito dominó Além do bloqueio nos países da Ásia, o Grok corre risco de ser limitado em outros locais. O Reino Unido já iniciou uma investigação formal contra o X, e, se comprovado que a plataforma violou leis de segurança online, a empresa enfrentará multas de até 18 milhões de euros ou 10% de sua receita global. No Brasil, onde o próprio X já foi suspenso por quase um mês em 2024, a legislação local está avançando para criminalizar especificamente a criação de nudes falsos por IA. A União Europeia também pressiona a plataforma com base em suas leis de serviços digitais, exigindo transparência e proteção aos usuários. Veja também: Como saber se uma foto foi criada por Inteligência Artificial "Grok, isso é verdade": por que as pessoas falam tanto isso no X? Não quer que o X use seus posts para treinar IA? Veja como desativar Ouça o Podcast Canaltech: Leia a matéria no Canaltech.