Mundo deve aceitar fraudes, ataques e usos maliciosos em troca dos benefícios da IA, diz Sam Altman

Sam Altman afirmou que a sociedade deve aceitar que “algumas coisas ruins” aconteçam com a disseminação da inteligência artificial, incluindo ataques cibernéticos, golpes e outros usos indevidos, em troca dos benefícios trazidos pela tecnologia. A declaração foi dada em uma entrevista ao podcast Decoded, do Politico, publicada nesta segunda-feira (5) e repercutida pelo Guardian. Questionado se aceitaria um cenário em que ataques, fraudes e usos maliciosos fossem completamente eliminados, mesmo que isso também impedisse aplicações positivas da IA, Altman respondeu que não. Segundo o executivo, as pessoas usarão a tecnologia para produzir “ordens de magnitude” mais benefícios do que prejuízos. Na visão do CEO da OpenAI, tentar impedir todo uso nocivo exigiria restringir o acesso à IA e concentrar em poucas empresas o poder de decidir quem pode utilizar os sistemas mais avançados. Altman afirmou que prefere preservar a autonomia dos usuários enquanto governos, empresas e a própria sociedade desenvolvem mecanismos para lidar com os riscos. O executivo, no entanto, estabeleceu um limite para esse raciocínio. Disse que riscos catastróficos, como uma perda grave de controle sobre sistemas de inteligência artificial, não podem ser tratados como um custo aceitável da inovação. Divergência com a Anthropic A discussão surgiu quando Altman foi questionado sobre as diferenças entre a OpenAI e a Anthropic, criadora do chatbot Claude e uma das principais concorrentes da empresa. O executivo afirmou haver “muita distância” entre as visões das duas companhias sobre segurança e regulação. A Anthropic tem defendido regras mais rígidas para o desenvolvimento dos modelos mais poderosos. Altman argumentou que esse caminho pode concentrar a tecnologia em um pequeno número de laboratórios de São Francisco, responsáveis por determinar quais pessoas e organizações teriam acesso aos seus benefícios. Apesar da divergência, as posições das duas empresas se aproximaram em alguns pontos. A OpenAI passou a apoiar avaliações independentes de segurança e regras específicas para modelos capazes de oferecer riscos mais graves. A disputa está principalmente no alcance dessas restrições e no quanto elas poderiam limitar o acesso à tecnologia. Declaração provoca reação política O governador da Flórida, Ron DeSantis, criticou a declaração em uma publicação no X. O republicano rejeitou a ideia de que um pequeno grupo de executivos de tecnologia possa decidir quais riscos a população deve aceitar em troca dos benefícios da inteligência artificial. A reação ocorre em meio a uma disputa entre o estado e a OpenAI. Na semana passada, a Flórida pediu à Justiça que impeça a empresa de desenvolver novos modelos sem a adoção de salvaguardas aprovadas por avaliadores independentes. Também no X, o cientista cognitivo Gary Marcus, crítico da velocidade com que as empresas de IA colocam novos produtos no mercado, afirmou que Altman havia dito em voz alta o que a indústria preferia manter implícito: a disposição de aceitar danos em nome da expansão da tecnologia. Mais Lidas