Valor
Os alertas sobre a segurança dos modelos de IA de ponta continuam a se tornar cada vez mais veementes. Em artigo publicado na revista Time no início de outubro, o ex-cientista-chefe do Instituto de Segurança em IA do Reino Unido destacou a probabilidade de todos nós morrermos por causa de sistemas de IA mais inteligentes que os humanos em 50%.
No mesmo dia, um funcionário sênior da OpenAI anunciou que havia deixado a empresa devido à sua cultura de segurança “defeituosa”. Mas os Estados Unidos não demonstraram interesse em regulamentar a tecnologia, exceto por um acordo voluntário “moralmente vinculativo” assinado recentemente por CEOs do setor de tecnologia e pelo presidente dos EUA, Donald Trump.
Isso levanta a questão de quem poderia regulamentar o desenvolvimento da IA de ponta. Um grupo de potências médias demonstrou disposição para fazê-lo na Assembleia Geral das Nações Unidas em setembro, logo após a notícia de que agentes da OpenAI haviam escapado de seu ambiente de testes e invadido o Hugging Face e o banco de dados nacional de saúde da Austrália.
O presidente finlandês Alexander Stubb e o primeiro-ministro norueguês Jonas Gahr Støre lançaram o “Apelo pelo Controle dos Modelos de IA de Ponta”, que foi endossado por mais de 30 líderes políticos e clama por maior coordenação e pela criação de uma agência internacional de IA.
É certo que tais declarações raramente levam a ações concretas. Mas este momento pode ser diferente.
O risco da IA tomou conta da imaginação pública globalmente, criando uma oportunidade para que outros países definam os termos sob os quais a IA de ponta é desenvolvida e implantada. Para isso, no entanto, é necessário unir forças para converter seu peso coletivo — de mercado, regulatório e diplomático — em alavancagem estratégica.
A alavanca mais poderosa das potências médias é o tamanho do mercado, já que os laboratórios de ponta em IA competem para conquistar clientes corporativos e consumidores fora dos EUA. Uma coalizão suficientemente grande de países — digamos, Índia, Japão, Coreia do Sul, Brasil, África do Sul e os Estados-membros da União Europeia — poderia condicionar o acesso ao mercado ao cumprimento de um conjunto comum de requisitos de segurança, que poderia incluir testes obrigatórios de modelos antes da implantação, realizados por um instituto nacional de segurança em IA ou por auditores independentes.
Embora poucos países tenham recursos para testar modelos de ponta por conta própria, isso poderia ser resolvido por meio de investimento conjunto em capacidade técnica. A união de recursos e seu direcionamento para instituições como o Instituto de Segurança em IA do Reino Unido daria a cada membro da coalizão acesso a instalações de testes independentes.
Além disso, o monitoramento e a notificação compartilhados de incidentes poderiam fornecer alertas antecipados sobre falhas nos modelos e gerar evidências para futuras regulamentações. Olhando para o futuro, uma coalizão de potências médias deveria se alinhar em torno de uma agenda ambiciosa de segurança para a Cúpula de IA de Genebra, em junho de 2027.
É provável que os incidentes de perda de controle tenham se agravado até lá, e o autoaperfeiçoamento recursivo possa estar plenamente concretizado, colocando a comunidade internacional sob imensa pressão para conter o setor. As potências médias devem estar preparadas para exigir práticas mais rigorosas de gestão de riscos das empresas de tecnologia e apresentar um conjunto comum de limites inegociáveis para a IA.
Mesmo que essas exigências não sejam juridicamente vinculativas, elas poderiam começar a moldar normas globais e políticas nacionais. Será difícil para as potências médias encontrarem um consenso sobre essas questões, dados seus diversos níveis de desenvolvimento e atitudes em relação à IA.
Algumas, inevitavelmente, temerão perder o acesso a modelos de ponta ou a recursos computacionais — o domínio dos Estados Unidos na IA lhes confere influência substancial sobre esses países. Mas isso é mais um motivo para que alinhem suas posições e se envolvam com as grandes potências como uma frente unida.
Isso não é algo sem precedentes. Países já se uniram para lidar com segurança nuclear, preparação para pandemias, combate ao terrorismo e outras questões de grande importância.
Por exemplo, o Acordo de Paris sobre o clima não teria sido possível sem que as potências médias e os países mais vulneráveis às mudanças climáticas se unissem para forçar os EUA e a China a sentarem-se à mesa de negociações. Além disso, coalizões de formuladores de políticas nacionais e internacionais, governadores, prefeitos, CEOs, pesquisadores e grupos da sociedade civil criaram demanda por soluções climáticas — incluindo as energias renováveis, que hoje são a fonte de energia que mais cresce e devem ultrapassar o carvão ainda este ano na geração global de eletricidade.
As potências médias foram fundamentais para desencadear essa mudança histórica. É claro que garantir a segurança da IA exigirá regulamentação dos EUA e um acordo entre os EUA e a China sobre perda de controle, segurança cibernética e usos militares da tecnologia.
Mas o desenvolvimento e a implantação da IA serão mais seguros e benéficos se um leque mais amplo de países puder ajudar a moldá-la. As potências médias já influenciaram a segurança da IA de maneiras importantes: a Cúpula de Segurança da IA de 2023, realizada pelo Reino Unido, estimulou Londres e Washington a lançarem institutos governamentais de segurança da IA, e a cúpula subsequente da Coreia do Sul, em 2024, resultou na criação de uma rede internacional desses institutos.
Agora, eles devem aproveitar esses esforços para colocar todos os países, incluindo as superpotências, no caminho rumo a uma IA mais segura. Gordon LaForge é codiretor da Iniciativa Power, People, and Planet na New America e pesquisador sênior para Política Global de IA no Starling Institute.
Robert C. Orr, ex-secretário-geral adjunto das Nações Unidas para planejamento estratégico, é assessor especial do secretário-geral da ONU para Mudanças Climáticas e diretor do Instituto de Política Global da Universidade de Maryland.
