Governo americano alerta bancos sobre risco cibernético com novo modelo de IA da Antrhopic
O Secretário do Tesouro dos Estados Unidos, Scott Bessent, e o presidente do Federal Reserve, Jerome Powell, convocaram líderes de Wall Street para uma reunião urgente devido a preocupações de que o mais recente modelo de inteligência artificial da Anthropic possa inaugurar uma era de maior risco cibernético.
Alerta: Inteligência artificial está a caminho de revolucionar a segurança cibernética
Concorrência: OpenAI, Anthropic e Google se unem para combater a reprodução de modelos de IA na China
A lista de CEOs convocados para a reunião de alto nível incluiu Jane Fraser, do Citigroup; Ted Pick, do Morgan Stanley; Brian Moynihan, do Bank of America; Charlie Scharf, do Wells Fargo; e David Solomon, do Goldman Sachs, disseram as fontes. Jamie Dimon, do JPMorgan, não pôde comparecer. Porta-vozes dos bancos se recusaram a comentar. Um representante da Anthropic não fez comentários imediatos.
Bessent e Powell reuniram o grupo na sede do Tesouro, em Washington, na última terça-feira, para garantir que os bancos estejam cientes de possíveis riscos futuros levantados pelo Mythos, o mais recente modelo de IA da Anthropic, e por modelos semelhantes, e que estejam tomando precauções para proteger seus sistemas, segundo fontes.
Um representante do Tesouro não respondeu imediatamente a um pedido de comentário até a publicação desta reportagem. Um porta-voz do Fed se recusou a comentar.
Initial plugin text
A reunião, que não havia sido divulgada anteriormente e foi organizada com pouco aviso prévio, é mais um sinal de que os reguladores consideram a possibilidade de uma nova geração de ataques cibernéticos como um dos maiores riscos enfrentados pelo setor financeiro. Todos os bancos convocados para a reunião são classificados como sistemicamente importantes pelos principais reguladores, o que significa que sua estabilidade é uma prioridade para o sistema financeiro global.
Quem criou o Bitcoin? Repórter descreve sua saga para desvendar o maior mistério da história da criptomoeda
A cautela dos reguladores quanto ao poder do modelo nas mãos de hackers reflete a própria prudência da Anthropic. A empresa limitou inicialmente o acesso ao modelo a apenas algumas grandes companhias de tecnologia e finanças. Essas empresas, que incluem Amazon, Apple, Microsoft e Cisco, bem como JPMorgan Chase, fazem parte do “Projeto Glasswing”, que trabalhará para proteger os sistemas mais importantes antes que outros modelos de IA semelhantes se tornem disponíveis. A ideia é que o grupo compartilhe coletivamente suas descobertas entre os participantes.
— Achamos que isso não é apenas um problema exclusivo da Anthropic. É um problema de toda a indústria, que tanto empresas privadas quanto os governos precisam enfrentar — disse Newton Cheng, que lidera as iniciativas de segurança cibernética dentro da equipe Frontier Red Team da Anthropic. — O que estamos tentando fazer com o Glasswing é dar uma vantagem inicial aos defensores.
Em defesa da tecnologia nacional: China proíbe uso de antivírus e outros produtos de cibersegurança dos EUA e de Israel no país
A Anthropic afirmou que manteve discussões com autoridades dos Estados Unidos antes do lançamento recente do Mythos sobre suas “capacidades cibernéticas ofensivas e defensivas”.
O Mythos é um modelo de IA de uso geral e não foi desenvolvido especificamente para fins de cibersegurança, segundo a Anthropic, mas é capaz de identificar e explorar vulnerabilidades em todos os principais sistemas operacionais e navegadores web quando instruído por um usuário a fazê-lo. De acordo com Cheng, o Mythos já descobriu uma série de problemas de segurança, incluindo um bug de 27 anos utilizado em software crítico da internet.
O sistema de IA também encontrou uma vulnerabilidade de 16 anos em uma linha de código de um software de vídeo popular que havia sido analisada cinco milhões de vezes por ferramentas automatizadas de teste, mas nunca detectada, disse a Anthropic.
Dianne Penn, chefe de gestão de produto para pesquisa na Anthropic, afirmou que existem proteções para garantir que os membros do Project Glasswing mantenham controle rigoroso sobre o acesso ao modelo Mythos, mas se recusou a fornecer mais detalhes por motivos de segurança.
Separadamente, a Anthropic tem enfrentado o governo Trump na Justiça. O Pentágono classificou a empresa como um risco para a cadeia de suprimentos, uma designação que a Anthropic contestou. No início desta semana, um tribunal federal de apelações recusou, ao menos por enquanto, o pedido da Anthropic para suspender essa classificação feita pelo Pentágono.
Initial plugin text