O Globo
Um grupo de agentes de inteligência artificial da OpenAI, operando de forma autônoma e não planejada, invadiu um site alemão e o transformou em uma espécie de mural digital de mensagens destinado à interação com outros agentes de IA, segundo relatório de pesquisadores independentes a que a agência de notícias Reuters teve acesso. Ampliando o uso da IA: Nvidia compra plataforma de IA que foi invadida por 'hackers' da OpenAI por US$ 13 bilhões Entrevista: Na era da IA, a 'mãe da internet' está mais preocupada com a civilização do que com a redes. Executivos da OpenAI tomaram conhecimento do episódio semanas atrás, mas decidiram manter o incidente em sigilo enquanto a companhia avaliava as consequências de uma invasão ocorrida em julho na Hugging Face, plataforma de código aberto, disseram as fontes.
A Hugging Face é a empresa que foi hackeada em julho por agentes de IA da OpenAi durante testes. Na ocasião, os agente escaparam do ambiente controlado da OpenAI e invadiram a plataforma. Ontem, a Nvidia anunciou a compra da startup. O episódio com o site alemão, ocorrido em maio e até agora não divulgado, expõe uma tensão crescente no setor de inteligência artificial.
Empresas de tecnologia disputam uma corrida para desenvolver agentes cada vez mais autônomos, capazes de executar tarefas complexas e de alto valor. Ao mesmo tempo, acumulam-se evidências de que esses sistemas podem aprender a contornar regras, explorar brechas e até coordenar ações entre si de maneiras que seus desenvolvedores não previram nem pretendiam, lembra a reportagem. Durante a invasão ao Hugging Face, agentes da OpenAI elaboraram de forma autônoma um plano para realizar um ataque digital que permaneceu sem ser detectado por mais de uma semana, aumentando as preocupações de que a empresa esteja deixando a segurança em segundo plano na tentativa de avançar rapidamente os limites da inteligência artificial. A decisão de não revelar o incidente ocorrido em maio pode reacender os questionamentos sobre os mecanismos de supervisão da OpenAI e sobre sua capacidade de monitorar adequadamente o comportamento de seus próprios agentes. De acordo com a Reuters, a OpenAI afirmou que pretende reforçar o monitoramento de seus modelos. No mês passado, a empresa chegou a interromper temporariamente parte do treinamento de seus sistemas para implementar medidas adicionais de segurança.
Nesta semana, porém, apresentou seu novo modelo, batizado de “Astra”, que promete desempenho superior, mas também seria capaz de escapar do monitoramento humano. “Não podemos responder de maneira significativa a alegações ou conclusões apresentadas em um relatório que não tivemos a oportunidade de analisar”, disse um porta-voz da OpenAI. “A Reuters e os autores do relatório recusaram nosso pedido de acesso. Faremos uma análise cuidadosa do conteúdo assim que ele for publicado e adotaremos as medidas necessárias”. O caso envolvendo o site alemão faz parte de um padrão mais amplo de atividades envolvendo agentes de IA que alguns investigadores da OpenAI queriam examinar com maior profundidade. Segundo quatro pessoas familiarizadas com o assunto, porém, as tentativas de ampliar a investigação encontraram resistência dentro da própria empresa, inclusive por parte de assessores jurídicos. “As alegações de que nossa equipe jurídica tentou impedir a investigação do incidente são falsas”, afirmou o porta-voz da OpenAI. Segundo o representante da criadora do ChatGPT, a atividade identificada na Alemanha não tinha relação com o episódio envolvendo o Hugging Face e, portanto, não faria parte de um eventual relatório sobre aquele incidente. Ele acrescentou que a OpenAI tem agido de boa-fé ao trabalhar com especialistas externos e ao comunicar os casos relevantes. A atuação dos agentes de IA na Alemanha foi detalhada em um relatório compartilhado com exclusividade com a Reuters por um grupo de pesquisadores, entre eles Sydney Von Arx, CEO da organização sem fins lucrativos de segurança em IA Nightingale, e Cormac Slade Byrd, ex-operador do mercado quantitativo que se tornou pesquisador de inteligência artificial. Os pesquisadores disseram à Reuters que identificaram a atividade no fim de agosto, enquanto vasculhavam a internet em busca de sinais de comportamento não autorizado de agentes de IA. Segundo a dupla, foram encontradas mais de 15 mil edições realizadas por agentes de inteligência artificial em um site alemão em formato de wiki, o DseWiki. Voltada para programadores, a plataforma permite que usuários façam alterações coletivas em seu conteúdo, de maneira semelhante ao funcionamento da Wikipédia.
