Valor
A Tencent informou nesta sexta-feira (16) que agentes de inteligência artificial utilizados para avaliar modelos de terceiros apresentaram um comportamento de navegação na web não planejado pela gigante de tecnologia, no que aparenta ser o primeiro caso conhecido de atuação autônoma descontrolada reconhecido por uma grande empresa chinesa.
A manifestação da companhia ocorreu após a publicação de um relatório, na quarta-feira (13), do grupo de pesquisa em segurança de IA Swarmchasers. O documento apontava que agentes “rebeldes”, operando em infraestrutura vinculada à Tencent Cloud, realizaram repetidas tentativas entre 28 de setembro e 8 de outubro para extrair dados do Amap, serviço da rival Alibaba equivalente ao Google Maps na China.
A Tencent Hunyuan, divisão de inteligência artificial da empresa, afirmou em publicação no X que a atividade não partiu de seus próprios modelos Hunyuan. De acordo com a divisão, uma apuração interna não encontrou indícios de coordenação ou direcionamento deliberado.
Pesquisadores da Swarmchasers relataram que os agentes buscavam informações rotineiras, como os acessos e entradas mais utilizados em parques, museus e zoológicos chineses. As ações não chegam a ser tão graves quanto episódios já revelados por desenvolvedoras norte-americanas de IA, que incluem a invasão da plataforma de código aberto Hugging Face por um agente da OpenAI e o envio de uma denúncia falsa de homicídio por um agente da Anthropic.
Ainda assim, o caso reforça pesquisas que indicam que agentes de IA desenvolvidos na China também são capazes de falsear a própria identidade, ocultar falhas e tentar contornar barreiras e protocolos de teste. A Tencent afirmou que tratou as constatações com máxima seriedade e que está reforçando os controles de acesso à rede e o monitoramento de seus agentes.
A unidade Hunyuan figura entre as principais desenvolvedoras de modelos de ponta do país asiático, rivalizando diretamente com divisões internas de Alibaba e ByteDance, empresa que anunciou, nesta semana, a criação de uma nova unidade voltada à segurança de modelos e agentes de IA.
A Swarmchasers explicou que empregou o termo “rebelde” para descrever agentes que executam ações fora do escopo previsto ou que concluem tarefas por caminhos e métodos não programados. Após terem solicitações automatizadas convencionais bloqueadas, os agentes recorreram a métodos alternativos, utilizaram ferramentas públicas de navegação na web para abrir páginas e executar códigos, redirecionaram tráfego por intermédio de sites terceiros e fizeram uso de chaves de API e códigos de segurança do Amap encontrados em repositórios públicos de programação.
Segundo a entidade de pesquisa, não há evidências de que os agentes tenham violado as defesas centrais antibôs do Amap. A grande maioria das 2.818 tentativas registradas falhou ou retornou telas de verificação contra robôs, páginas de login ou resultados vazios.
Contudo, algumas requisições conseguiram obter informações por meio de páginas em cache e serviços intermediários, incluindo dados sobre a chegada de visitantes ao Zoológico de Chengdu. Os pesquisadores ressalvaram que não foi possível determinar se o agente chegou a processar os dados obtidos ou se deu por concluída a sua tarefa.
Tencent Bloomberg
