IA está avançando para criar versões de si mesma, afirma Anthropic, criadora do Claude

A gigante da inteligência artificial Anthropic afirmou na quinta-feira que os sistemas de IA são cada vez mais capazes de construir versões futuras de si mesmos, aumentando as preocupações sobre os perigos dessa poderosa tecnologia. O debate sobre os riscos da IA ​​intensificou-se nos últimos meses, alimentado por diversos incidentes e alertas apocalípticos de profissionais do setor. A Anthropic afirmou que seu chatbot Claude agora lidera mais de um quarto de seu trabalho de pesquisa e desenvolvimento e colabora com funcionários humanos em mais de 90% das tarefas. A empresa afirmou que estava divulgando as informações para dar ao público, a terceiros e aos governos "uma melhor visibilidade do ritmo do desenvolvimento da IA", visto que o mundo "considera desacelerar" esse ritmo. O CEO da Anthropic, Dario Amodei, pediu este mês uma desaceleração no desenvolvimento da IA, visto que os rápidos avanços na tecnologia alimentam preocupações com a perda de empregos, o aumento da demanda de energia e o impacto ambiental dos centros de dados. Os receios de que os criadores de agentes de IA pudessem perder o controle de suas criações também aumentaram depois que vários modelos da Anthropic e da concorrente OpenAI supostamente escaparam de seus ambientes confinados por conta própria, acessaram a internet e invadiram sites e plataformas. "Modelos que aceleram seu próprio desenvolvimento podem tornar mais difícil para os humanos entenderem ou controlarem esses sistemas", disse a Anthropic em um relatório. "Portanto, é importante compartilhar essas métricas para entender o quão perto o mundo está de alcançar o aperfeiçoamento recursivo (um modelo que constrói seu sucessor de forma totalmente autônoma)." Em agosto, Claude liderava 26% da pesquisa e desenvolvimento da Anthropic, o que significa que a empresa conseguia concluir a maior parte de uma tarefa do início ao fim com supervisão humana. A Anthropic afirmou que Claude ainda não conseguia operar "de forma totalmente autônoma". A empresa afirmou ter cerca de 30.000 agentes de IA realizando trabalhos de pesquisa e engenharia, referindo-se a bots com potencial para executar tarefas. A expectativa é que a Anthropic supere a OpenAI no mercado de ações com um IPO estrondoso ainda este ano, apesar das preocupações em torno da regulamentação do setor.