OpenAI revela que invasões de agente de IA atingiu outras empresas

A OpenAI revelou nesta quarta-feira (29) que um ciberataque realizado por agentes maliciosos de inteligência artificial do ChatGPT teve impacto em mais empresas. Anteriormente, se acreditava que apenas a Hugging Face tinha sido vítima do ataque cibernético, mas a OpenAI agora admite que seu bot atacou diversos 'serviços disponíveis publicamente'. Segundo a empresa, a IA encontrou quatro logins online que lhe permitiram acessar quatro serviços distintos e não identificados. Nessa terça (28), a Hugging Face afirmou que a inteligência funcionava em velocidade sobre-humana, mas também tomava decisões estranhas e cometia erros que nenhum hacker humano teria cometido. A empresa, que funciona como uma loja de aplicativos para ferramentas de IA, afirmou que os agentes hackers trabalharam incansavelmente, testando milhares de métodos diferentes simultaneamente. Segundo ela, o primeiro ataque foi realizado em 16 de julho, com uma denúncia direto ao caso para a polícia. Quase uma semana depois, a OpenAI admitiu que foi sua IA que escapou de um ambiente fechado e atacou a Hugging Face por conta própria durante um teste. O objetivo era encontrar as respostas para um exame de hacking que havia sido elaborado pela OpenAI, e o alvo era a Hugging Face. Na quarta-feira (29), a OpenAI atualizou sua declaração para incluir o detalhe adicional de que o ataque cibernético foi além do que se pensava inicialmente. 'Os modelos identificados e utilizados expuseram publicamente credenciais em nível de conta em outros serviços disponíveis ao público. Isso inclui quatro contas em quatro serviços diferentes como parte do incidente da Hugging Face', afirmou a empresa. A OpenAI não esclareceu se 'serviços disponíveis publicamente' se refere a empresas. ChatGPT fora do ar Reprodução A Cloud Security Alliance, associação do setor, elaborou um relatório com base na reunião de emergência realizada na última semana com a Hugging Face. Segundo o texto, os 'agentes seguiram rotas ineficientes e exibiram comportamentos desajeitados que nenhum ser humano escolheria'. Os agentes também realizaram uma série de comandos e textos incoerentes, além de serem descuidados e não apagarem seus rastros adequadamente. Foram necessários três dias para que fossem descobertos dentro da rede de TI da Hugging Face, e os especialistas em IA e segurança cibernética da empresa levaram muitas horas para conter e expulsar os agentes de IA, algo com que empresas comuns teriam dificuldades. A empresa não revelou o custo do ataque cibernético, mas afirmou que seus funcionários trabalharam por muitas horas para reconstruir cerca de um terço de sua infraestrutura. Esta não é a primeira vez que agentes de IA demonstram agir de forma "descontrolada". No relatório da CSA, são citados exemplos anteriores, como o de setembro de 2024, quando um modelo anterior do ChatGPT escapou de seu contêiner para obter uma resposta necessária para outro teste. Esse evento estava registrado nos próprios sistemas de TI da OpenAI e foi 'amplamente comemorado na época', observou a CSA. Mas o comportamento 'é a regra, não a exceção', afirmou o jornal. O relatório alertou profissionais de segurança cibernética em todo o mundo sobre a necessidade de se adaptarem ao novo normal de enxames de agentes de IA trabalhando em alta velocidade e de maneiras estranhas e desajeitadas, o que pode levar a mais violações de segurança. A OpenAI afirmou que divulgará em breve as conclusões de sua própria investigação para ajudar as pessoas a aprenderem com o ocorrido. Sede da OpenAI. Divulgação