'Ih, deu errado?': EUA querem criar um 'telefone vermelho' com a China para incidentes graves de IA

Os Estados Unidos querem criar uma espécie de “telefone vermelho” com a China para lidar com possíveis emergências envolvendo inteligência artificial. A ideia é estabelecer um canal bilateral de comunicação que permita aos dois países se avisarem rapidamente caso sistemas avançados de IA provoquem algum incidente grave. A proposta foi revelada pelo secretário do Tesouro dos Estados Unidos, Scott Bessent. Em entrevista ao Axios, ele afirmou que pretende sugerir ao governo chinês a criação de um processo de notificação para situações em que “algo dê errado” com a tecnologia. Bessent disse que já discutiu segurança de IA com o vice-premiê chinês He Lifeng. Segundo o secretário, embora Washington e Pequim tenham preocupações diferentes em relação à tecnologia, os dois governos enxergam riscos associados ao avanço dos sistemas. Entre as ameaças mencionadas pelo americano estão agentes de IA e o uso da tecnologia por pessoas mal-intencionadas para realizar ataques cibernéticos. Bessent também demonstrou preocupação com a disseminação dos modelos chineses de código ou pesos abertos. “Acho que eles não perceberam o quão poderosos são seus modelos open source”, afirmou Bessent. Na avaliação do secretário, a China teria passado a perceber riscos maiores na disseminação desses sistemas. Pequim também enfrenta outra preocupação: o potencial da IA para afetar seu controle sobre a circulação de informações. Autoridades chinesas já alertaram para possíveis impactos da tecnologia sobre a estabilidade política e ideológica do país. Do lado americano, Bessent defendeu que a discussão sobre IA não fique concentrada apenas na corrida por modelos cada vez mais poderosos. Segundo ele, os Estados Unidos também precisam dedicar mais atenção à proteção de sistemas e infraestruturas críticas contra ameaças relacionadas à tecnologia. Mais Lidas