IA invade banco de dados de saúde da Austrália em primeiro ataque contra governo: 'extrema preocupação'

Um agente da OpenAI invadiu um banco de dados nacional de saúde australiano, no primeiro caso conhecido de ataque de IA a uma rede governamental, afirmou o primeiro-ministro do país, Anthony Albanese. Ele comentou que os dados acessados foram arquivos públicos e não públicos do Medicare do país e chegou a escrever arquivos nele. A fala de Albanese foi a a repórteres à margem da Assembleia Geral das Nações Unidas, em Nova York. Albanese disse ter expressado a 'extrema preocupação' da Austrália a Altman em um telefonema na quarta-feira (23). Ele acrescentou que Camberra não tinha conhecimento de nenhum precedente de violação de um sistema governamental por inteligência artificial. A revelação é o exemplo mais recente de agentes de IA agindo de forma descontrolada, ultrapassando as expectativas de seus controladores humanos, e surge após apelos de figuras importantes da indústria de IA, incluindo o CEO da OpenAI, Sam Altman, para que o ritmo de desenvolvimento da IA ​​seja desacelerado. 'Uma investigação forense, com o auxílio da Diretoria de Sinais da Austrália, está em andamento para apurar mais informações, incluindo quais outros sistemas governamentais foram afetados'. O ataque ocorreu quando um agente da OpenAI, que realizava uma pesquisa sobre gastos com saúde, contornou os bloqueios para encontrar respostas em áreas às quais não tinha autorização de acesso, disse Albanese. Sede da OpenAI. Divulgação O porta-voz da OpenAI, Drew Pusateri, disse que o incidente ocorreu em junho, mas que a empresa só tomou conhecimento dele em agosto, quando realizou verificações extensivas na atividade de seus modelos de IA. 'Durante esta revisão, identificamos atividades envolvendo diversos sites e serviços do governo australiano, enquanto nossos modelos tentavam encontrar respostas e estatísticas disponíveis para perguntas sobre a Austrália durante uma avaliação interna. No decorrer desse processo, nossos modelos realizaram ações que não tínhamos previsto', disse Pusateri. Albanese afirmou que outros três sistemas governamentais podem ter sido afetados, incluindo o Instituto Australiano de Saúde e Bem-Estar, o Departamento de Estatísticas e Pesquisa Criminal de Nova Gales do Sul e o Departamento de Saúde de Victoria. A OpenAI afirmou não ter encontrado evidências de que os registros de pacientes tenham sido acessados ​​na violação de dados do Medicare e que as informações incluíam 'estatísticas de saúde agregadas e nomes de arquivos internos'. Inteligência artificial Reprodução/Pexels A empresa afirmou ter informado o governo australiano em 10 de setembro. Essa notificação foi enviada para uma caixa postal pública, disse Albanese, o que causou um atraso de cinco dias para que o ministro responsável fosse informado. Albanese disse que informou a Altman que 'a empresa demorou muito para informar o governo sobre o ocorrido, e a forma como essa notificação foi feita também foi inaceitável'. O ministro da Defesa australiano, Richard Marles, anunciou nesta quinta-feira (24) a criação de uma força-tarefa para investigar a mais recente violação de segurança, assegurando ao público que o impacto foi 'relativamente pequeno'. 'Nenhum dado médico individual foi acessado aqui. O sistema em si não foi comprometido de forma alguma', afirmou. Altman e Dario Amodei, CEO da Anthropic, que estão entre as figuras da indústria que recentemente expressaram preocupação com o ritmo acelerado do desenvolvimento da IA, discursaram na Assembleia Geral da ONU na quarta-feira, defendendo maior coordenação global e padrões internacionais para o desenvolvimento da IA. Altman instou os líderes globais a criarem padrões internacionais para 'medir capacidades, avaliar riscos, determinar se as salvaguardas são suficientes e preservar uma supervisão humana significativa' da tecnologia em rápido avanço . Em julho, a OpenAI revelou que, durante testes de cibersegurança, seus modelos criaram um enxame de agentes de IA que invadiram os sistemas da empresa de IA Hugging Face. Sam Altman, CEO da OpenAI, empresa de inteligência artificial. World Economic Forum / Benedikt von Loebell