Instituto lança ferramenta para detecção de imagens e vídeos manipulados por IA
O Instituto da Hora lançou nessa quinta-feira (5) uma ferramenta de rastreio e detecção de imagens e vídeos manipulados por Inteligência Artificial. Chamado “HoraLab — Rastreabilidade Digital”, o sistema se baseia na matemática e na arquitetura de dados, sem utilizar nenhuma IA. O funcionamento do novo instrumento foi detalhado por Nina da Hora, cientista da computação e diretora do instituto, no Estúdio CBN.
De acordo com a diretora, foi necessário cerca de um ano de pesquisa para que a ferramenta chegasse ao seu uso atual. A ideia de desenvolver uma tecnologia que não precisasse de algoritmos de Inteligência Artificial veio, justamente, por todo o debate acerca do impacto negativo de seu uso no meio ambiente.
“Quando você usa a IA para combater a IA, você aumenta o uso de data centers e outros impactos, como o desperdício de água”, explica Nina.
A nova ferramenta, portanto, baseia-se em técnicas da matemática, da física e da computação, “deixadas de lado” por conta da evolução tecnológica do mercado e do uso da Inteligência Artificial. A diretora explica que, dessa forma, a identificação das imagens e dos vídeos é feita a partir da análise de suas frequências.
“Imagens e sons trabalham como um conjunto de sinais e frequências, diferentes entre si. São eles que determinam se uma cor que será mais ligada ao vermelho, ao verde ou ao azul”, diz.
No momento, a plataforma está aberta para teste do público. Nela, é possível anexar uma imagem e compreender, em seguida, porque foi considerada como uma gerada por Inteligência Artificial. Segundo Nina, fotos e vídeos enviados não são armazenados na ferramenta, bem como os dados do usuário.
Algo pode 'escapar' do rastreio?
Por hora, imagens e vídeos manipulados por Inteligência Artificial em alguns smartphones e por atualizações recentes do Chat GPT não são identificados no rastreio do “HoraLab”. No caso dos aparelhos celulares, por exemplo, sistemas de iPhones entre os modelos 12 e 16 já contam com IA. Assim, como explica Nina da Hora, há uma correção automática em itens de identificação (como a cor das imagens), o que dificulta a identificação da imagem como real ou manipulada por Inteligência Artificial.
A plataforma, por hora, também tem limitações ao identificar imagens geradas pela versão mais recente do Chat GPT, a 5.2. Segundo a diretora, entre 500 testes feitos com a plataforma, a identificação foi bem sucedida em 350.
“Há limitações técnicas quando não há o uso de Inteligência Artificial para a detecção. Então, estamos buscando aprimorá-la diante de ferramentas mais novas, bem como a identificação e a explicação de que fotos tiradas por determinados smartphones já vêm com IA, mesmo sem o consentimento do usuário”, finaliza.