Big techs dão aval para que o governo americano avalie previamente seus modelos de IA
Google, da Alphabet, Microsoft e xAI concordaram em conceder ao governo dos Estados Unidos acesso antecipado aos seus modelos de inteligência artificial para avaliar as capacidades dos sistemas e ajudar a melhorar sua segurança antes que a tecnologia seja lançada ao público.
Uso legal: Nvidia, Microsoft e Amazon fecham acordo com Pentágono para uso militar confidencial de IA
Em meio à briga judicial: Elon Musk admite que usa OpenAI, do ChatGPT, para treinar a sua própria IA, diz Forbes
Com os acordos, os desenvolvedores de IA se juntam à OpenAI e à Anthropic ao permitir revisões de seus modelos antes do lançamento pelo Centro de Padrões e Inovação em IA do Departamento de Comércio dos EUA, de acordo com um comunicado da agência divulgado na terça-feira. A OpenAI e a Anthropic renegociaram suas parcerias existentes com o centro para melhor alinhá-las às prioridades do Plano de Ação de IA do presidente Donald Trump, informou a agência.
Os novos acordos de avaliação vêm após reportagens do New York Times e do Wall Street Journal de que o governo Trump está considerando uma ordem executiva para criar um processo de revisão governamental para ferramentas de IA. Esse processo funcionaria como uma forma de supervisão, segundo as reportagens. Um funcionário da Casa Branca afirmou que qualquer anúncio virá diretamente de Trump e classificou as discussões sobre possíveis ordens executivas como especulação.
Desde 2024, o órgão vem acessando e avaliando modelos da OpenAI e da Anthropic antes de seu lançamento público. Já foram concluídas mais de 40 avaliações de modelos de IA, incluindo modelos de ponta que ainda não foram divulgados, segundo o comunicado.
Initial plugin text
Os acordos estão sendo anunciados no momento em que o sistema Mythos, da Anthropic, preocupa autoridades dos EUA, sinalizando um mandato mais amplo para o centro relativamente novo, que foi criado no governo do presidente Joe Biden como Instituto de Segurança em IA em 2023 e rebatizado pela administração Trump no ano passado.
Segurança jurídica: Governos e empresas correm contra o tempo para criar regulação adequada às mudanças provocadas pela IA
O centro se descreve como o “principal ponto de contato da indústria dentro do governo dos EUA” para testes, pesquisa colaborativa e desenvolvimento de melhores práticas. Sua existência ainda não foi formalizada em lei, embora alguns legisladores americanos tenham apresentado projetos de lei para dar ao centro uma base mais permanente.
— Essas colaborações ampliadas com a indústria nos ajudam a expandir nosso trabalho no interesse público em um momento crítico — comentou Chris Fall, diretor do centro, sobre os novos acordos.
Fall assumiu o cargo após a saída repentina de Collin Burns, ex-pesquisador de IA da Anthropic que havia sido escolhido para a função, mas foi afastado poucos dias depois de começar, segundo reportagens no mês passado.
O céu é o limite: IA leva big techs a ampliarem investimentos em 92% este ano, para US$ 725 bi
O Plano de Ação de IA de Trump, divulgado em julho, determina que o Centro de Padrões e Inovação em IA faça parte de um chamado ecossistema de avaliações de IA e lidere avaliações de modelos de IA relacionadas à segurança nacional.
O documento acrescenta que os reguladores devem “explorar o uso de avaliações na aplicação das leis existentes a sistemas de IA”. É possível que a ampliação das avaliações de modelos pelo centro abra caminho para uma nova aplicação de leis que já estão em vigor.
Os esforços do governo americano para moldar a política de IA se intensificaram desde que a Anthropic anunciou, no mês passado, que seu modelo inovador Mythos era eficaz em encontrar pontos fracos nas defesas de cibersegurança.
Glossário da IA: Saiba o que são prompts, alucinações, redes neurais e outras palavras que entraram no dia a dia
A chefe de gabinete da Casa Branca, Susie Wiles, o secretário do Tesouro, Scott Bessent, e o diretor nacional de cibersegurança, Sean Cairncross, passaram a se envolver mais nas iniciativas relacionadas ao Mythos, e a Casa Branca já se opôs a um plano da Anthropic de ampliar o acesso ao seu modelo.
Qualquer acordo de avaliação com o Departamento de Comércio envolvendo a Anthropic pode ser complicado pela disputa do Pentágono com a empresa, que continua se desenrolando em dois processos judiciais sobre se o Departamento de Defesa pode legalmente declarar a empresa de IA um risco para a cadeia de suprimentos.
Tanto o secretário de Defesa, Pete Hegseth, quanto Trump delinearam um período de transição de seis meses para que o governo deixe de usar as ferramentas da Anthropic, enquanto um memorando da Casa Branca, ainda a ser divulgado, sobre o uso de IA pelas agências aborda pontos de tensão nas negociações contratuais, reconhecendo as perspectivas de ambos os lados.
Initial plugin text