Grok alega restringir geração de imagens e deepfakes, mas ainda há brecha
A inteligência artificial Grok começou a restringir alguns pedidos de geração de imagens a partir de posts no X e limitá-los a assinantes pagos da plataforma. No entanto, ainda existem caminhos para acessar o editor e gerar novos deepfakes. Como saber se uma foto foi criada por Inteligência Artificial Deepfakes estão fora de controle? Entenda os riscos e como se proteger O movimento acontece após a IA ser usada em massa para criar fotos sensuais sem consentimento na rede. Com simples comandos, era possível gerar deepfakes de pessoas de biquíni ou em posições sensuais sem a aprovação dos respectivos perfis. O Canaltech explica a situação: -Entre no Canal do WhatsApp do Canaltech e fique por dentro das últimas notícias sobre tecnologia, lançamentos, dicas e tutoriais incríveis.- Restrição do gerador de imagens do Grok Ainda existe uma brecha Entenda o caso Restrição do gerador de imagens do Grok O serviço de IA começou a barrar pedidos de geração de imagens desde a noite de ontem (8). Quando uma conta gratuita do X menciona o perfil “@grok” e pede uma edição, automaticamente recebe uma resposta com o aviso (em inglês) “a geração e aedição de imagens atualmente estão limitadas a assinantes pagos. Você pode assinar para desbloquear esses recursos”. Grok começou a restringir pedidos de edição feitos em posts no X (Imagem: Captura de tela/André Magalhães/Canaltech) Ainda existe uma brecha No entanto, o bloqueio aparentemente afeta apenas os pedidos feitos em posts do X. A própria rede social conta com um botão para editar imagens e permite ajustá-las com qualquer prompt, conforme observado em testes do Canaltech. O gerador tem um limite diário e para de funcionar gratuitamente após montar algumas imagens. Novamente, aparece o pedido para assinar um dos planos pagos do X. É provável que o X tenha limitado a criação de imagens a partir dos próprios posts na plataforma. Nesses casos, a IA trazia a resposta editada num post público e qualquer pessoa podia vê-lo. Ao usar a janela do Grok, o risco de exposição é menor, mas a ferramenta ainda permite os deepfakes. Editor interno do Grok no X ainda conseguiu manipular imagens postadas na rede social (Imagem: Captura de tela/André Magalhães/Canaltech) Entenda o caso O Grok foi usado dentro do X para criar uma enxurrada de imagens falsas com fotos de pessoas de biquíni e sem autorização. Pessoas que postavam fotos da própria aparência tiveram a imagem editada por IA sem consentimento e disponibilizadas publicamente. A medida gerou uma série de denúncias na própria rede social e reclamações no mundo todo. Autoridades de diferentes países exigiram explicações da empresa — no Brasil, a deputada federal Erika Hilton afirmou protocolar um pedido com a Agência Nacional de Proteção de Dados para suspender o Grok no país. O X afirmou que todas as pessoas que gerarem conteúdo ilegal na plataforma serão punidas da mesma forma que aquelas que publicam materiais impróprios, o que pode levar à exclusão da conta. Em resposta ao portal G1, a empresa disse verificar as respostas da IA para trazer atualizações futuras. Leia também: Fraudes com deepfake: como golpistas burlam biometria no Gov.br Gemini agora identifica fotos criadas por IA; veja como usar É VERDADE que as imagens geradas por IA têm marca d’água oculta que você não vê VÍDEO: Dicas para não cair em deepfakes #Shorts Leia a matéria no Canaltech.