Epoca Negócios
Sam Altman, da OpenAI (à esq.) conversa com Marc Benioff, CEO da Salesforce, durante evento em São Francisco Marisa Adán Gil Para quem se interessa por discussões sobre a ética da inteligência artificial, o primeiro dia do Dreamforce, evento anual da Salesforce, foi fascinante. Não apenas tivemos as conversas reveladoras entre Marc Benioff (CEO da companhia anfitriã) com Dario Amodei, da Anthropic, e Jensen Huang, da Nvidia, na parte da manhã, como uma entrevista um tanto quanto surpreendente com Sam Altman, o CEO da OpenAI, na parte da tarde.
O conteúdo em si não foi uma surpresa, já que o criador do ChatGPT já havia se declarado a favor da desaceleração do ritmo de desenvolvimento da IA no último sábado. Mas a forma como foi apresentado, sim. No palco, Sam Altman, com olhar tímido e frases curtas, parecia realmente arrependido pelos erros que sua companhia cometeu e disposto a mudar sua forma de atuação. Até que ponto isso é verdade ou não, só o futuro poderá dizer. Mas o discurso, esse sim, foi digno de um Oscar. Marc Benioff assumiu o papel de advogado do diabo, tentando levar Altman a admitir que a inteligência artificial, no final das contas, não era tão culpada assim. Mas Altman permaneceu firme em seu papel de CEO consciente, disposto a tudo para não deixar que algo tão ruim quanto a invasão da Hugging Face pelos agentes da OpenAI acontecesse novamente. Ao final, a conversa deixou até mesmo um gosto de "quero mais". Faltou alguém perguntar, por exemplo, se o que a OpenAI e a Anthropic estão oferecendo é uma ação real para controlar a IA, ou apenas uma peça de marketing. Ou se não seria tarde demais para desacelerar agora. Confira abaixo os principais trechos das falas de Sam Altman. "As pessoas têm razão em ter medo" "Existem alguns receios em relação à inteligência artificial que são reais, e as pessoas têm razão de ter medo. Temos o risco de perder o controle sobre os agentes de IA, e que outras coisas graves aconteçam por causa disso. Há quem tema que algumas empresas que desenvolvem IA possam adquirir poder excessivo e exercer influência indevida na economia. E elas têm razão em temer isso. O mundo deveria acreditar que faremos a coisa certa simplesmente porque é a coisa certa a fazer que nós vamos nos unir, coordenar ações e garantir tempo suficiente para desenvolver a IA com segurança. Mas, quando surge qualquer indício de que, devido às pressões comerciais da corrida tecnológica, alguma empresa ou país possa não agir corretamente, acho isso muito assustador. Existe uma linha tênue que deve ser percorrida com pragmatismo e firmeza: precisamos transmitir ao mundo confiança, para que as pessoas acreditem que estamos tomando decisões coerentes ao longo desse processo. Tenho muita confiança na capacidade da nossa empresa — e da nossa indústria — de fazer isso da maneira certa, garantindo o alinhamento e a segurança dos modelos, e honrando nossa capacidade de desacelerar ou interromper o processo quando necessário." A invasão da Hugging Face "O incidente provocou uma verdadeira mudança de postura, não apenas na nossa empresa, mas em toda a indústria. Esses modelos evoluíram tanto e tão rapidamente que precisamos tratar o seu alinhamento, o seu monitoramento e os cuidados com a segurança com um novo nível de rigor. E precisamos estar dispostos a ajustar nosso ritmo para isso. Quando conversei com o Clement [Delangue, CEO da Hugging Face], alguns dias depois, uma coisa me chamou a atenção. Ele me disse que pediu ajuda a alguns de nossos concorrentes para obter acesso ao modelo de cibersegurança deles, pois seria muito difícil se defender pelos métodos tradicionais. Acho que, naquela altura, eles não sabiam que nós também tínhamos um modelo para oferecer. Por isso, acabaram recorrendo a modelos de código aberto chineses. Lembro-me de pensar: 'Deveríamos nos empenhar mais em disponibilizar nossos modelos para ajudar as pessoas'. Depois desse incidente, decidi mudar nossa abordagem. Temos orgulho de possuir os melhores modelos de segurança cibernética do mundo, para empresas e corporações de todos os portes. Queremos garantir que as pessoas possam utilizá-los a qualquer momento, mas especialmente em situações críticas." Por que continuar desenvolvendo algo tão perigoso? "A resposta é que, embora essa tecnologia seja capaz de coisas terríveis, como construir armas biológicas, químicas ou cinéticas, é possível nos defendermos dessas ameaças — não apenas nós, que desenvolvemos os modelos, mas a sociedade como um todo. Podemos construir resiliência contra novos tipos de bioataques, contra possíveis ataques cinéticos, e contra todo esse caos cibernético que está por vir. E valerá a pena construir todas essas defesas. Porque o que a IA irá nos trazer é extraordinário: ela vai curar doenças, proporcionar às pessoas essa incrível capacidade criativa e impulsionar o empreendedorismo em expansão que acredito estar a caminho. Por isso, acredito que devemos desenvolver a capacidade para nos defendermos dessas ameaças e, assim, desfrutarmos também de todas essas coisas incríveis. As pessoas merecem isso. Acredito que, com essa tecnologia em mãos, poderão viver uma versão muito melhor de suas vidas e ser uma versão melhor de si mesmas - sem falar dos benefícios para a economia." "A tecnologia não é neutra" "Existe essa teoria de que a tecnologia não é boa nem má, mas não concordo com isso. Acho que essa abordagem de quem vê a tecnologia apenas como uma ferramenta, como algo neutro, é problemática. Serve apenas para elas se justificarem. É como se dissessem: 'Não é nossa culpa se coisas ruins acontecem'. Acredito que as escolhas feitas pelas empresas que desenvolvem essas tecnologias têm consequências reais. Não é admissível que um pequeno grupo de empresas, responsáveis pela criação desses modelos, tome decisões que deveriam caber ao mundo inteiro tomar." O exemplo das redes sociais "Gosto de assistir vídeos curtos antes de dormir, para relaxar. Mas não gostaria que meus filhos tivessem contato com esse tipo de conteúdo. E seria irracional esperar que as crianças conseguissem resistir a esse mecanismo da dopamina que as redes proporcionam. Portanto, não considero os vídeos de formato curto inerentemente malignos, mas acho que são perigosos. E como dividir essa responsabilidade entre pais, empresas e governos? O pessoal das redes sociais pode dar sua própria resposta a isso. Eu tenho algumas dúvidas sobre essa questão das redes sociais. Mas observo claramente que as consequências — o impacto das redes na sociedade — não foram apenas positivas. Me pergunte se as empresas de redes sociais devem ser culpadas por todos os males da sociedade. Certamente que não. Mas elas poderiam ter tomado decisões diferentes? Se eu estivesse no lugar delas, teria tomado decisões diferentes em relação ao impacto que elas exercem sobre as pessoas, especialmente os jovens? Com certeza teria." *Marisa Adán Gil viajou a convite da Salesforce
