SaferNet identifica deepfakes sexuais em escolas de 10 estados e alerta para subnotificação
O uso de deepfakes sexuais em ambientes escolares já foi identificado em ao menos 10 dos 27 estados brasileiros, segundo levantamento da SaferNet Brasil divulgado durante a Semana da Internet Segura. O estudo mapeou 16 casos, com pelo menos 72 vítimas e 57 agressores nas cinco regiões do país. Todos os envolvidos tinham menos de 18 anos na época dos fatos.
Conheça software francês que ajudou polícia a localizar suspeito no caso Orelha
Instituto lança ferramenta para detecção de imagens e vídeos manipulados por IA
Os casos envolvem o uso de inteligência artificial para manipular imagens e criar conteúdos falsos de nudez ou caráter sexual com o rosto das vítimas.
Em entrevista ao Jornal da CBN, a psicóloga Juliana Cunha, diretora de projetos especiais da SaferNet, explicou que os números representam apenas uma fração do problema, pois consideram situações que chegaram às autoridades ou foram noticiadas pela imprensa.
"Esses números representam uma parcela muito pequena porque foram os casos que chegaram até o conhecimento das autoridades. São casos que foram denunciados nas polícias, casos que foram cobertos pela imprensa e saíram nas notícias. A gente sabe que o número é muito maior, muitos dos casos têm uma subnotificação e muitas pessoas não procuram denunciar."
Os episódios têm ocorrido principalmente entre colegas de escola e estão associados a práticas como bullying e extorsão sexual. Embora parte dos adolescentes não tenha plena consciência, a prática é considerada crime grave e pode ser enquadrada na legislação como pornografia infantil.
"É um crime de pornografia infantil previsto na legislação do Brasil. Sem dúvida, muitos desses adolescentes nem sequer têm a consciência ou sabem que estão praticando um crime grave para a legislação brasileira. Então, é fundamental que as escolas e as famílias estejam conscientes e possam educar adolescentes exatamente para prevenir a ocorrência desse tipo de crime."
A SaferNet Brasil lançou uma enquete com adolescentes e jovens de até 21 anos para reunir percepções sobre o tema. As respostas vão embasar um relatório com recomendações a autoridades e empresas de tecnologia, previsto para março.