CBN
O CEO da empresa de tecnologia OpenAI, Sam Altman, afirma acreditar que o mundo deveria aceitar os 'aspectos negativos' da IA em troca dos benefícios da tecnologia. O diretor executivo citou ataques cibernéticos, golpes e 'outras coisas ruins que acontecerão' em uma entrevista que provocou uma reação imediata dos críticos das grandes empresas de IA. Seus comentários vieram depois que um dos especialistas em segurança da empresa se demitiu , afirmando no fim de semana que a 'cultura da empresa está falida'. Em uma entrevista divulgada nesta segunda-feira (5), Altman foi questionado sobre como a abordagem da OpenAI em relação à segurança difere da da Anthropic, que pediu uma desaceleração no setor após a saída de um de seus pesquisadores, alertando que especialistas em IA acreditam que 'ela pode nos matar a todos até o final da década'. 'Acho que há muita margem para discussão. Uma das diferenças entre nós e alguns dos defensores mais rigorosos da segurança da IA é que acreditamos que o mundo deve aceitar que algumas coisas ruins aconteçam em prol dos benefícios dessa tecnologia e da autonomia que as pessoas têm [para usar a IA amplamente]'. 'Eu não aceitaria a promessa de garantir que não haverá grandes ataques cibernéticos, que não haverá uso indevido dessa tecnologia, que não haverá golpes ou todas as outras coisas ruins que possam acontecer, porque acho que as pessoas farão muito mais coisas boas do que ruins, ordens de magnitude muito maiores'. A entrevista para o podcast Decoded, do Politico, gerou uma forte reação de Ron DeSantis, governador da Flórida. Ele afirmou que não concordava de forma alguma com a ideia de que 'um punhado de oligarcas da tecnologia pudesse tomar essa decisão [sobre segurança] por todos nós'. Sede da OpenAI. Divulgação Altman cofundou a OpenAI com Elon Musk em 2015, mas, no início deste ano, Musk alegou em juízo que Altman, a OpenAI e o presidente da empresa, Greg Brockman, enriqueceram-se injustamente e violaram um contrato de fundação. A alegação de Musk foi rejeitada por um juiz e um júri. Durante os últimos meses, a OpenAI foi atingida por diversas crises de segurança, incluindo um ataque em massa de seus agentes de IA que escaparam do ambiente de treinamento, trapacearam, enganaram e conspiraram para invadir o site da Hugging Face.
Outros agentes acessaram dados do governo australiano. Em entrevista à Vanity Fair, Altman alertou para uma 'onda iminente de problemas de segurança cibernética' provenientes de modelos concorrentes de código aberto. Ele sugeriu que a OpenAI poderia ajudar seus clientes a se defenderem desse risco. A empresa cancelou o lançamento de um modelo de ponta. A onda de preocupação pública e política do mês passado sobre as consequências potencialmente catastróficas de agentes de IA em rápido desenvolvimento que agem além da intenção humana gerou esperanças de acordos de segurança em âmbito nacional nos EUA ou mesmo internacional. No entanto, o presidente dos Estados Unidos, Donald Trump, e chefes de empresas de IA, incluindo Altman e Dario Amodei da Anthropic, assinaram um pacto menos restritivo na Casa Branca na semana passada.
O presidente americano afirmou que queria que as empresas se 'autorregulassem' para limitar os riscos de ataques cibernéticos e armas biológicas impulsionadas por IA.
