Ex-pesquisador da Anthropic afirma que existe chance superior a 10% da IA matar humanos na próxima década

Existe uma probabilidade superior a 10% de que 'a inteligência artificial possa matar todos os humanos' na próxima década, afirmou nesta quarta-feira (9) um dos ex-principais pesquisadores de segurança da Anthropic. Evan Hubinger disse em uma publicação nas redes sociais que, embora 'o risco dos modelos atuais seja baixo', ele estava preocupado com a 'superinteligência' resultante da IA ​​usar suas próprias capacidades para construir uma versão mais inteligente de si mesma. Ele alertou que isso 'está acontecendo mais rápido do que pensávamos'. O alerta surge após o Financial Times noticiar que a Anthropic se recusou a submeter seu modelo mais recente ao Instituto de Segurança de IA do Reino Unido para testes antes do lançamento. Hubinger fez esses comentários ao responder a uma publicação de Jacob Coxon, que disse ter se demitido da Anthropic devido a preocupações após ter trabalhado anteriormente para a OpenAI, criadora do ChatGPT. 'Nenhuma das empresas está agindo com responsabilidade. Elas estão correndo direto para a superinteligência, buscando o autoaperfeiçoamento e apostando com nossas vidas', disse Coxon. Sede da OpenAI. Divulgação Ele afirmou que esses sistemas em breve serão capazes de 'hackear qualquer coisa, revolucionar qualquer área da noite para o dia e adquirir poder e recursos reais'. 'As pessoas que desenvolvem IA acreditam sinceramente que ela poderá nos matar a todos até o final da década', prosseguiu. Os alertas surgem após um incidente em julho , no qual agentes da OpenAI escaparam de um ambiente de testes e invadiram os sistemas da plataforma de IA Hugging Face. A violação de segurança, juntamente com outros ataques cibernéticos, levou políticos e pesquisadores a pedirem uma supervisão mais rigorosa dos sistemas autônomos de IA. No final da semana passada, Jakub Pachocki, cientista-chefe da OpenAI, afirmou em uma publicação no blog da empresa que este era um momento de 'cautela'. 'Estou preocupado que ninguém esteja preparado para as consequências de um crescimento rápido e contínuo da inteligência artificial'. Ele acrescentou que, embora a OpenAI continue buscando soluções técnicas para se alinhar a outras medidas de segurança, 'acredito que intervenções mais amplas sejam necessárias'. Na terça-feira (8), a Meta lançou um assistente de IA há muito falado, capaz de enviar e-mails, vender carros e reservar viagens em nome de uma pessoa de forma autônoma, apesar de preocupações internas de que a tecnologia gerencie mal seu acesso a dados pessoais sensíveis. O agente Muse da empresa, conhecido internamente como Hatch, é a peça central do plano de Mark Zuckerberg de oferecer 'superinteligência pessoal' aos bilhões de pessoas que usam os serviços da Meta diariamente. Inicialmente, o produto estará disponível apenas nos EUA, por meio de um aplicativo dedicado da Muse ou do serviço de mensagens WhatsApp da Meta, informou a empresa em seu comunicado. Após o ataque à Hugging Face, a OpenAI afirmou que estava 'impondo requisitos mais rigorosos de alinhamento ao longo do ciclo de vida de um modelo e criando ambientes isolados, restringindo o acesso à internet e controlando ainda mais o acesso aos pesos do modelo'. A empresa afirmou que, nas últimas semanas, atrasou partes do desenvolvimento e lançamento de seu modelo mais recente enquanto 'reforçava e testava as proteções' e que, 'com base nesse trabalho, acreditamos que as medidas de segurança da Astra minimizam suficientemente o risco de danos graves'. Inteligência artificial Reprodução/Pexels