Valor
Jacob Coxon, ex-pesquisador da Anthropic, declarou nesta segunda-feira (5) que a atual corrida para desenvolver a inteligência artificial traz riscos que a própria indústria ainda não compreende plenamente. Ele fez a afirmação durante audiência na Câmara Municipal de Nova York, em encontro no qual legisladores e executivos de empresas de IA debateram possíveis formas de conter os riscos da tecnologia.
“Ainda não sabemos como controlar nenhum sistema de inteligência artificial”, disse Coxon durante o depoimento.
Entre as propostas em análise pelos legisladores está a instalação do chamado “botão de desligamento”, pensado para interromper sistemas de IA que apresentam comportamento fora de controle.
Coxon concordou com a eficácia desse recurso, mas afirmou que teria alcance limitado no longo prazo, em termos de segurança. “O que precisamos é desacelerar o desenvolvimento da IA de fronteira [modelos mais avançados]”, afirmou ele.
Alguns executivos do setor e o presidente americano, Donald Trump, consideram que a melhor solução é a autorregulação do setor, o que não encontra respaldo entre a maioria dos legisladores de Nova York.
Coxon deixou a Anthropic no mês passado, alertando que a IA poderia se tornar poderosa demais para ser controlada pelos seres humanos e acusando sua antiga empregadora e a OpenAI de “apostarem nossas vidas” com a tecnologia.
Jacob Coxon, ex-pesquisador da Anthropic, voltou a alertar sobre o descontrole da IA X/Reprodução
