OpenAI anuncia pausa no treinamento dos agentes de IA após buscas por sites do governo dos EUA

A OpenAI anunciou que decidiu pausar o treinamento de seus modelos de inteligência artificial devido ao crescente número de relatos de agentes de IA fora de controle. A decisão de interromper o desenvolvimento ocorreu pouco tempo depois de a empresa revelar que estava analisando diversos incidentes recentes em que agentes da OpenAI, ao pesquisarem sites do governo federal dos EUA, agiram de maneiras inesperadas, indo além do que lhes foi solicitado durante a coleta e distribuição de informações. Em outro comunicado, a empresa de avaliação de IA Transluce indicou que agentes que pareciam ser da OpenAI tentaram, sem sucesso, invadir um site do Departamento de Educação, um detalhe que a OpenAI não confirmou. A OpenAI afirmou em comunicado que retomará o treinamento quando tiver 'confiança em salvaguardas adicionais', acrescentando que espera ter que 'pausar novamente' à medida que a IA avança e outros problemas surgem. Os laboratórios de IA estão sofrendo pressão de legisladores e especialistas em tecnologia para desacelerar o desenvolvimento, a fim de criar salvaguardas que impeçam os agentes de agirem por conta própria, invadirem sites e vazarem informações não públicas. Executivos da OpenAI, cujo CEO é Sam Altman, e de sua concorrente Anthropic também defenderam um ritmo mais lento. Esta é a segunda vez em três meses que a OpenAI interrompe o desenvolvimento de seus modelos. A primeira ocorreu em julho, após a divulgação de um ataque cibernético direcionado à startup de IA Hugging Face, um incidente que alimentou temores de que o setor estivesse perdendo o controle. Sam Altman, CEO da OpenAI, empresa de inteligência artificial. World Economic Forum / Benedikt von Loebell Em uma reunião com o presidente da China, Xi Jinping, o presidente dos EUA, Donald Trump, concordou em compartilhar informações sobre os perigos da IA ​​e coordenar esforços para mantê-la segura. No entanto, Trump considera os temores sobre a IA exagerados e, posteriormente, insinuou que não planeja nenhuma ofensiva própria. Os Estados Unidos não vão 'pisar no freio', disse Trump a repórteres do lado de fora da Casa Branca. ' 'Eles querem desacelerar nosso progresso porque estamos muito à frente da China, e vamos continuar assim'. Presidente da China, Xi Jinping, em encontro com presidente dos Estados Unidos, Donald Trump, ao chegar nos EUA. BRENDAN SMIALOWSKI/AFP Os incidentes mais recentes da OpenAI não pareciam envolver a divulgação de informações não públicas, mas foram suficientemente preocupantes para que a empresa alertasse as agências federais envolvidas. No incidente envolvendo o Departamento de Educação, agentes da OpenAI encontraram 'chaves de desenvolvedor' de API para acessar dados governamentais, embora no final apenas informações publicamente disponíveis tenham sido coletadas. Em outro caso envolvendo a Comissão de Valores Mobiliários, agentes encontraram informações disponíveis a todos, mas as publicaram em outros locais na internet, um ato que extrapolou as instruções que receberam. Diversas outras empresas de IA relataram incidentes em que seus modelos apresentaram mau funcionamento e até mesmo invadiram sites. O caso nos EUA surge após uma denúncia do governo australiano. O CEO da OpenAI, Sam Altman, afirmou em uma publicação nas redes sociais na sexta-feira (25) que o incidente com a Hugging Face 'continua sendo o evento mais grave que já vimos'. A OpenAI já havia compartilhado outros seis relatos de comportamento 'inesperado ou preocupante' em modelos de IA e apresentou uma estrutura para rastrear, examinar e divulgar esses casos. Inteligência artificial Reprodução/Pexels