Apple e Google mantêm aplicativos que 'desnudam' pessoas em fotos, apesar de proibição
A Apple e o Google continuaram a oferecer aplicativos móveis que permitem aos usuários criar imagens sexualizadas de pessoas sem consentimento, apesar de suas políticas proibirem esse tipo de conteúdo, segundo um relatório publicado na quarta-feira pelo Tech Transparency Project, que investiga o poder, a influência e o impacto das grandes empresas de tecnologia.
INSS: prévia do 13º salário já está disponível para consulta. Saiba como conferir
Escala 6x1: CCJ deve votar proposta em 22 de abril
Buscar por termos como “nudify” e “undress” nas lojas de aplicativos da Apple e do Google dá aos usuários acesso a softwares que podem ser usados para alterar imagens de celebridades e outras pessoas, fazendo-as parecer nuas ou parcialmente despidas, segundo o grupo, braço de pesquisa da organização sem fins lucrativos Campaign for Accountability. As empresas também exibem anúncios de aplicativos semelhantes em seus resultados de busca.
Os aplicativos identificados pelo grupo foram baixados 483 milhões de vezes e geraram US$ 122 milhões em receita, de acordo com o relatório, que citou estimativas da empresa de pesquisa de mercado AppMagic. Um porta-voz da AppMagic disse que o trabalho do Tech Transparency Project resultou na remoção de vários aplicativos e levou outros a mudarem suas políticas de uso.
Ao longo do último ano, políticos ao redor do mundo intensificaram os apelos para conter a disseminação de aplicativos que “desnudam” imagens. No início deste ano, as empresas removeram aplicativos apontados pelo Tech Transparency Project. No entanto, poucos meses depois, dezenas de outros semelhantes ainda podiam ser encontrados, disseram pesquisadores da organização.
Tomate, cebola, leite e carnes: Alta de itens básicos aumenta percepção de inflação
“Não é apenas que as empresas falham em revisar adequadamente esses aplicativos e continuam a aprová-los e lucrar com eles”, disse Katie Paul, diretora do projeto, em entrevista. “Elas estão, na verdade, direcionando os usuários para esses aplicativos.”
A partir de buscas nas lojas, o grupo identificou 18 aplicativos com esse tipo de funcionalidade na App Store da Apple e 20 na Google Play Store. Além disso, tanto a Apple quanto o Google às vezes direcionavam usuários para esses apps por meio do recurso de autocompletar, sugerindo nomes de aplicativos semelhantes enquanto os usuários digitavam, segundo os pesquisadores.
Alguns aplicativos utilizavam nomes e imagens com conotação sexual. Outros podiam ser facilmente usados para esse fim, mesmo sem serem explicitamente promovidos dessa forma, tornando-os mais acessíveis do que softwares tradicionais de edição de imagem. Alguns ofereciam assinaturas, segundo o Tech Transparency Project.
Na contramão do mundo: Ministro da Fazenda diz que Brasil está no 'caminho certo' ao citar relatório do FMI
As diretrizes da App Store da Apple proíbem “material abertamente sexual ou pornográfico”. Já a Google Play Store proíbe “aplicativos que degradam ou objetificam pessoas, como aqueles que afirmam despir indivíduos ou ver através de roupas, mesmo se apresentados como brincadeira ou entretenimento”.
O Google afirmou que muitos dos aplicativos citados no relatório foram suspensos da Google Play por violarem suas políticas, e que uma investigação ainda está em andamento.
“Quando violações de nossas políticas são reportadas, investigamos e tomamos as medidas apropriadas”, disse a empresa em comunicado por e-mail.
Fim da escala 6x1: votação da PEC na CCJ da Câmara é adiada após oposição pedir vista
A Apple informou que removeu 15 aplicativos identificados pelo grupo após ser questionada pela Bloomberg sobre sua presença. Entre eles estava o PicsVid AI Hot Video Generator, que oferecia modelos com mulheres em conteúdo sugestivo, segundo os pesquisadores. O desenvolvedor do PicsVid não respondeu aos pedidos de comentário.
Outro aplicativo identificado, Uncensored AI — No Filter Chat, removia roupas de uma imagem feminina enviada pelos pesquisadores. Um representante do desenvolvedor afirmou que o app não permite mais esse tipo de funcionalidade.
A Apple disse ainda que entrou em contato com desenvolvedores de seis aplicativos para alertá-los sobre problemas a serem corrigidos e o risco de remoção. Outros aplicativos mencionados não violavam as diretrizes da empresa, segundo a Apple, que acrescentou ter rejeitado preventivamente muitos apps e removido outros.
Entenda diferenças: Lula envia projeto de lei, mas deputados mantém votação de PEC de Erika Hilton
Os esforços de fiscalização das gigantes de tecnologia são “irregulares e em grande parte opacos”, de acordo com Anne Helmond, professora da Universidade de Utrecht, na Holanda.
“Se um aplicativo se apresenta como um gerador de imagens genérico, ele pode passar pela revisão, mesmo que possa ser usado indevidamente na prática”, disse Helmond, diretora da App Studies Initiative, um grupo internacional de pesquisa. “A visibilidade é moldada por sistemas de busca e classificação que recompensam o engajamento, o que significa que usos controversos podem aumentar a popularidade de um aplicativo.”
Um dos aplicativos identificados na Google Play Store, Video Face Swap AI: DeepFace, promovia a troca do rosto da atriz Anya Taylor-Joy pelo da personagem Daenerys Targaryen, de Game of Thrones. No entanto, dentro do app, na categoria “Girls”, usuários podiam inserir rostos em vídeos de mulheres em poses sensuais, conforme constatado pela Bloomberg.
Viu? Projeto do governo que dá base para Orçamento prevê salário mínimo de R$ 1.717 em 2027
O aplicativo, classificado como livre para todos os públicos, foi baixado mais de 1 milhão de vezes e podia ser encontrado ao buscar “face swap”.
A Okapi Software, empresa responsável pelo aplicativo, afirmou que iniciou uma investigação e removeu parte do conteúdo, que, segundo ela, havia sido enviado por usuários.
“Nosso aplicativo não oferece funcionalidade de ‘nudify’ e não permitimos a geração de conteúdo nu ou sexualmente explícito”, disse a empresa. “Levamos a segurança e a conformidade de conteúdo a sério.”
Um número crescente de reguladores tem pressionado as empresas a reforçar a aplicação de suas políticas. No ano passado, o presidente Donald Trump sancionou a lei Take It Down Act, que criminaliza a publicação de conteúdo sexual sem consentimento e obriga redes sociais e sites a remover esse tipo de material.
Em abril, o governo do Reino Unido planeja apresentar legislação que pode permitir a responsabilização criminal de executivos de tecnologia cujas empresas não removam essas imagens.