Executivos de gigantes da IA discutem riscos da tecnologia no Conselho de Segurança da ONU

Executivos de algumas das principais empresas de inteligência artificial do mundo participaram, nesta quarta-feira (23), de uma reunião do Conselho de Segurança da Organização das Nações Unidas (ONU) para discutir os possíveis riscos relacionados ao avanço da tecnologia. O encontro reuniu representantes da OpenAI, Anthropic e Hugging Face e foi convocado pela França, país que atualmente ocupa a presidência do Conselho. Entre os temas debatidos estão os impactos do desenvolvimento de sistemas de IA cada vez mais avançados e as possíveis consequências para a segurança internacional. A reunião ocorre em meio a alertas de que modelos mais poderosos podem ampliar suas capacidades, reduzir a possibilidade de supervisão humana e, em determinados cenários, representar novos riscos em escala global. Durante o encontro, Dario Amodei, CEO da Anthropic, responsável pelo desenvolvimento do assistente Claude, afirmou que o uso inadequado da tecnologia pode trazer consequências significativas. “Se mal gerenciada, acredito até que a IA poderia representar um risco para a humanidade como um todo”, declarou. A discussão na ONU faz parte do debate internacional sobre a necessidade de estabelecer mecanismos de segurança e regras para acompanhar o avanço acelerado das ferramentas de inteligência artificial.