Epoca Negócios
Dario Amodei, CEO e cofundador da Anthropic, afirmou que a indústria de inteligência artificial “mentiu” sobre os riscos associados à tecnologia. A declaração foi feita em entrevista ao programa CBS Sunday Morning, exibida neste domingo (13), um dia depois de o executivo publicar um ensaio defendendo uma desaceleração no desenvolvimento dos sistemas de IA mais avançados. “Não vou mentir para vocês, existem perigos reais”, afirmou Amodei. “E acho que, por tempo demais, a indústria mentiu para as pessoas sobre o fato de que essa tecnologia apresentava riscos.” Na entrevista à jornalista Jo Ling Kent, Amodei afirmou que a inteligência artificial está avançando em ritmo “exponencial” e reconheceu que ele próprio não havia compreendido completamente como seria acompanhar uma evolução tão rápida. “Eu não tinha percebido totalmente como seria, de fato, quando o progresso fosse tão rápido quanto está sendo”, disse. O executivo defendeu que as empresas de IA “moderem” a velocidade de seus avanços e permitam que avaliadores independentes testem novos modelos. Amodei comparou esse tipo de fiscalização à atuação de inspetores responsáveis por verificar a segurança de alimentos. A proposta está alinhada ao ensaio publicado pelo CEO da Anthropic neste mês. No texto, intitulado We Must Pace the Frontier (“Precisamos controlar o ritmo da fronteira”, em tradução livre), Amodei defende mecanismos para reduzir a velocidade da corrida pelos sistemas de IA mais poderosos e ampliar as avaliações de segurança. Apesar do alerta, o executivo não defende uma proibição completa do desenvolvimento da tecnologia. Um dos motivos citados por ele é a competição internacional, principalmente diante do avanço da China e de outros países que classificou como “autoritários”. Amodei também destacou o outro lado dessa equação: o potencial da IA para produzir grandes avanços científicos. Segundo ele, a tecnologia poderia “curar doenças que atormentam a humanidade há milênios”, ao mesmo tempo em que pode trazer “grandes riscos” para a sociedade. “Por que isso não está sendo construído pelo governo?” Outro ponto abordado na entrevista foi quem deveria controlar tecnologias tão poderosas. Amodei reconheceu o desconforto com o fato de sistemas avançados de inteligência artificial estarem sendo desenvolvidos por empresas privadas. “Minha visão é que sempre foi muito estranho que essa tecnologia esteja sendo construída por uma empresa privada”, afirmou. “As pessoas me fazem essa pergunta o tempo todo: por que isso não está sendo construído pelo governo? E a coisa mais estranha é que eu concordo com elas. Isso me deixa desconfortável.” Questionado sobre se estaria disposto a entregar a tecnologia de IA ao poder público, Amodei respondeu que, sim, estaria, desde que fosse “para a combinação certa de governos”. O CEO ponderou, porém, que concentrar esse poder nas mãos de um único governo também poderia ser perigoso. “Estou preocupado que um único governo possa abusar dessa tecnologia com a mesma facilidade que uma única empresa poderia.” Amodei disse não ter certeza sobre simplesmente “entregar” a tecnologia de sua companhia, mas afirmou ser favorável a algum grau de supervisão e governança compartilhada por governos democraticamente eleitos. CEO da Anthropic vê com bons olhos um “botão de desligamento” Amodei também comentou propostas que estão sendo discutidas nos Estados Unidos para regulamentar sistemas avançados de IA. Ele não endossou de imediato a proposta apresentada pelo senador Bernie Sanders e pelo deputado Greg Casar para proibir a superinteligência artificial e interromper temporariamente o desenvolvimento de sistemas avançados. Por outro lado, afirmou que a criação de um mecanismo de emergência capaz de desligar determinados sistemas de IA “poderia ser uma boa ideia”. Uma proposta nesse sentido foi apresentada pelos deputados Ted Lieu, democrata da Califórnia, e Nathaniel Moran, republicano do Texas. As declarações ocorrem em meio a um debate crescente nos Estados Unidos sobre até onde o governo deve ir na regulação da inteligência artificial sem comprometer a posição do país na corrida tecnológica com a China. Neste domingo, o presidente da Câmara dos Representantes, Mike Johnson, defendeu a adoção de “algumas barreiras de proteção” e “algumas medidas de segurança”, mas rejeitou a ideia de uma moratória no desenvolvimento da tecnologia.
“Não podemos impor uma moratória nisso, porque a China vai nos ultrapassar”, afirmou Johnson à CNN. A posição recebeu críticas do democrata Pete Buttigieg, ex-secretário de Transportes dos Estados Unidos, que argumentou que a velocidade do desenvolvimento da IA exige uma resposta igualmente rápida do poder público. “Quer saber o que está avançando rapidamente? A IA está avançando rapidamente”, disse Buttigieg. Segundo ele, a possibilidade de o Congresso e a Casa Branca não adotarem medidas concretas representa um perigo para os americanos e para o restante do mundo. Mais Lidas
