Google suspende recurso do Nano Banana no Google Earth após onda de imagens falsas

O Google retirou do ar uma ferramenta de inteligência artificial do Google Earth menos 24 horas depois de lançá-la.
A decisão foi tomada após usuários criarem imagens falsas e realistas de locais e acontecimentos, levantando preocupações sobre o uso do recurso para disseminar desinformação.
Integrada à versão web do Google Earth, a funcionalidade utilizava o modelo Nano Banana 2 para combinar imagens de satélite, fotografias aéreas e representações em 3D da plataforma.
Por meio de comandos de texto, os usuários podiam acrescentar objetos ou modificar cenários de lugares reais.
Logo após o lançamento, pesquisadores e especialistas em inteligência de fontes abertas passaram a testar os limites da ferramenta.
Entre os conteúdos produzidos estavam representações fictícias de danos provocados por conflitos, instalações nucleares e campos de refugiados.
As imagens não integravam os mapas públicos do Google Earth, mas podiam ser capturadas e compartilhadas em outras plataformas.
Especialistas alertaram que a associação das criações com o Google Earth poderia aumentar sua credibilidade.
A plataforma é utilizada por jornalistas, pesquisadores e organizações para verificar imagens, acompanhar conflitos e analisar danos causados por desastres.
A presença de um gerador de conteúdo artificial nesse ambiente poderia dificultar a distinção entre registros verdadeiros e cenas fabricadas.
O Google afirmou que todas as imagens geradas recebiam uma marca-d’água digital do sistema SynthID, que poderia ser identificada por ferramentas como Gemini e Google Lens.
No entanto, os pesquisadores questionaram se esse mecanismo seria suficiente para impedir a circulação de conteúdos enganosos, já que capturas de tela podem se espalhar rapidamente sem que os usuários verifiquem sua origem.
Ao anunciar a suspensão, a empresa reconheceu que o público deposita uma confiança particular no Google Earth como representação do mundo.
Segundo a companhia, algumas imagens compartilhadas aparentemente violaram suas políticas.
O recurso foi pausado enquanto o Google trabalha na implementação de mecanismos de proteção mais rigorosos.
Mais Lidas