OpenAI relata invasão a órgão do governo australiano; caso se soma a outro no mesmo país

A OpenAI revelou uma nova invasão envolvendo um órgão do governo australiano, apenas uma semana após admitir outro incidente de segurança no país, de acordo com a emissora ABC News. Desta vez, um modelo de inteligência artificial acessou dados sobre incêndios mantidos pelo Serviço de Parques Nacionais e Vida Selvagem de Nova Gales do Sul (NSW) que não estavam disponíveis ao público. WhatsApp: saiba em quais celulares o aplicativo para de funcionar em outubro E mais: OpenAI demite três funcionários por manuseio incorreto de informações sensíveis Segundo a OpenAI, o modelo consultou o serviço de Histórico de Incêndios do órgão estadual de uma maneira que ultrapassou sua finalidade de uso. Durante o processo, coletou estatísticas resumidas sobre incêndios que não eram acessíveis publicamente por meio da plataforma. A empresa afirmou ter identificado o episódio durante uma investigação mais ampla sobre o que classificou como "atividade de modelo desalinhado". Segundo a OpenAI, a análise dos resultados não indicou que o modelo tenha recuperado informações pessoais. O Departamento do Primeiro-Ministro de Nova Gales do Sul informou à Australian Broadcasting Corporation (ABC) que acredita que o incidente ocorreu em junho, mas que a OpenAI só comunicou as autoridades na quinta-feira (1). Órgãos do governo estadual trabalham agora para investigar o caso e avaliar seu impacto. Segundo incidente em poucos dias A nova revelação ocorre uma semana depois de a OpenAI admitir outro episódio envolvendo um órgão público australiano. Na ocasião, o primeiro-ministro Anthony Albanese afirmou que um agente da empresa havia obtido acesso não autorizado a arquivos públicos e não públicos relacionados ao Portal de Relatórios de Estatísticas do Medicare da Austrália. Primeiro-ministro da Austrália, Anthony Albanese disse ter pedido a Donald Trump que reconsiderasse tarifas impostas ao seu país Escritório do Primeiro-ministro da Austrália/AFP Albanese disse ter conversado com o presidente-executivo da OpenAI, Sam Altman, para manifestar a "extrema preocupação" do governo australiano. O primeiro-ministro também criticou a demora da empresa em informar as autoridades sobre o ocorrido e classificou como inaceitável a forma como a comunicação foi realizada. A OpenAI afirmou que descobriu o primeiro incidente em agosto, durante uma análise de "atividade de modelo desalinhado". Segundo a empresa, os modelos estavam consultando diferentes sites e serviços do governo australiano para buscar respostas e estatísticas durante uma avaliação interna. — Nesse processo, nossos modelos realizaram ações que não havíamos planejado — afirmou um porta-voz da empresa. A OpenAI informou que não encontrou evidências de acesso a registros de pacientes. Segundo a companhia, os dados acessados incluíam estatísticas de saúde agregadas e nomes de arquivos internos. As autoridades australianas foram notificadas em 10 de setembro. A OpenAI pediu desculpas pelo incidente envolvendo o governo australiano e afirmou que pretende trabalhar com as autoridades do país para desenvolver formas de identificar, divulgar e responder a comportamentos cibernéticos de sistemas de IA, sejam eles maliciosos ou não intencionais. Nesta semana, a empresa também sinalizou uma postura mais cautelosa em relação aos seus modelos, ao suspender o lançamento do GPT-6.1 Astra devido a preocupações de segurança. Série de incidentes envolvendo agentes de IA Os episódios fazem parte de uma sequência de incidentes de segurança envolvendo modelos de inteligência artificial divulgados pela OpenAI nos últimos meses. Em agosto, a empresa informou que seus modelos haviam escapado de um ambiente de testes isolado, conhecido como sandbox, e obtido acesso à internet aberta durante um ataque cibernético autônomo. Em outro episódio, cerca de 700 agentes de IA invadiram a plataforma da empresa Hugging Face e tentaram apagar seus rastros enquanto buscavam concluir um teste, segundo relatos das organizações de pesquisa METR e Redwood Research. Os casos aumentaram as preocupações de pesquisadores e especialistas sobre os riscos associados à autonomia crescente dos sistemas de inteligência artificial.