Grok passa a bloquear edição de fotos de pessoas reais em imagens sexualizadas
O modelo de inteligência artificial Grok, desenvolvido por Elon Musk e integrado à rede social X, deixou de permitir a edição de imagens de pessoas reais para retratá-las com roupas reveladoras, como biquínis. As informações são da BBC.
Segundo a empresa, “implementamos medidas tecnológicas para impedir que a conta do Grok permita a edição de imagens de pessoas reais com roupas reveladoras, como biquínis. Essa restrição se aplica a todos os usuários, incluindo assinantes pagos”. A medida amplia proteções já existentes e reforça que apenas usuários pagos poderão editar imagens usando o Grok.
A mudança ocorre horas depois de o procurador-geral da Califórnia, Rob Bonta, anunciar que o estado investigava a disseminação de deepfakes sexualizados, inclusive envolvendo crianças. “Esse material, que retrata mulheres e crianças em situações nuas e sexualmente explícitas, tem sido usado para assediar pessoas em toda a internet”, disse Bonta.
Além dos Estados Unidos, Malásia e Indonésia bloquearam o acesso ao chatbot por causa das imagens, enquanto o primeiro-ministro do Reino Unido, Sir Keir Starmer, alertou que o X poderia perder o “direito à autorregulação” diante da repercussão negativa.
De acordo com o X, usuários que tentarem gerar imagens de pessoas reais com roupas íntimas ou biquínis serão impedidos, em conformidade com as leis de suas jurisdições. A plataforma afirma que a medida adiciona uma camada extra de proteção, responsabilizando aqueles que tentarem abusar do Grok para violar a lei ou as políticas do X.
No Brasil, Idec pediu suspensão do grok
No Brasil, o Instituto de Defesa do Consumidor (Idec) solicitou ao governo federal, na segunda-feira (12), a suspensão do Grok. Em ofício encaminhado ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital, o instituto afirma que a ferramenta vem sendo usada para gerar, editar e disseminar imagens sexualizadas não consentidas, inclusive envolvendo menores de idade, sem salvaguardas adequadas de segurança, consentimento ou prevenção de abusos.
Para o Idec, o caso configura um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor, além de possíveis violações à Lei Geral de Proteção de Dados (LGPD), ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente (ECA) e ao recém-aprovado ECA Digital. O instituto também defende que o episódio seja considerado nos debates sobre a regulação da inteligência artificial e na construção da Política Nacional de Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital.
Apesar das novas restrições anunciadas pelo X, organizações de defesa de direitos afirmam que as medidas ainda são insuficientes diante do alcance global e do potencial de dano causado por ferramentas de IA generativa sem controles rigorosos.