CBN
Um novo estudo sugere que os sistemas de inteligência artificial podem causar incidentes de segurança 'graves' dentro de dois anos, caso não sejam tomadas medidas adequadas para garantir sua segurança à medida que suas capacidades aumentam.
A afirmação é de Demis Hassabis, presidente do Google DeepMind, em uma conferência de IA em Dublin. Este é mais um alerta sobre as inteligências artificiais. Hassabis, vencedor do Prêmio Nobel de Química de 2024, descreveu os casos que já ocorreram recentemente como 'sinais de alerta' de sistemas que 'ainda não são tão poderosos'.
'Como resultado, os incidentes não são tão graves. No entanto, eles podem se tornar graves no próximo ano ou nos próximos anos se nós, como indústria e individualmente como empresas e governos, não trabalharmos mais para torná-los seguros'. A preocupação aumentou depois que vários modelos desenvolvidos pela OpenAI e pela Anthropic se envolveram em incidentes de segurança durante testes neste verão, alimentando a pressão por uma regulamentação da tecnologia.
Hassabis sugeriu que novos modelos de IA sejam inicialmente testados em ambientes isolados e offline ("sandboxes"), já que modelos de IA já escaparam anteriormente dos ambientes fechados usados para avaliar suas capacidades. Henna Virkkunen, diretora de tecnologia da UE, afirmou que as empresas de IA precisam investir mais tempo em testes de seus sistemas para manter o controle.
'A competição global é tão acirrada que as empresas parecem não estar investindo tempo e recursos suficientes para testar seus modelos', disse Virkkunen ao chegar à cúpula de Dublin.
'Elas precisam ser capazes de controlar esses sistemas', continuou, destacando que a União Europeia enviou solicitações de informações às principais empresas de IA sobre suas medidas de segurança. Anthropic alerta que modelos da IA poderão se replicar em fornos inteligentes e aparelhos de TV em breve Empresa de inteligência artificial Anthropic. SEBASTIEN BOZON / AFP A Anthropic emitiu um novo alerta nesta terça-feira (13) afirmando que pequenos modelos de IA podem estar a meses de distância de serem capazes de se autorreplicar em dispositivos como fornos inteligentes e aparelhos de TV Android de marcas genéricas. A 'equipe vermelha' da Anthropic, a equipe que investiga possíveis problemas de segurança e alinhamento com os modelos, analisou se os modelos de IA conseguiam encontrar dispositivos vulneráveis, se copiar para esses dispositivos e continuar se espalhando sem ajuda humana. 'Nossos experimentos sugerem que pequenos modelos de IA podem estar a meses de distância de serem capazes de se autorreplicar em dispositivos comerciais da Internet das Coisas (IoT), como fornos inteligentes e aparelhos de TV Android genéricos', disse a Anthropic em seu site na segunda-feira . 'Um replicador como esse seria difícil de desligar, já que não há um ponto centralizado para o desligar.' A Anthropic alertou que esses pequenos modelos podem ser capazes de se replicar autonomamente até o final deste ano, com pequenos replicadores baseados em peso seguindo o exemplo logo em seguida. A Anthropic também afirmou que tais sistemas autônomos de IA provavelmente se replicariam lentamente e dependeriam de recursos computacionais amplamente disponíveis e relativamente inseguros. 'Devemos ter como objetivo fortalecer nossos sistemas para dificultar a disseminação desses replicadores, mas também nos preparar para lidar com um mundo onde eles vieram para ficar', disse Anthropic. Inteligência artificial Reprodução/Pexels
