Investidores têm o desafio de precificar risco de extinção da humanidade em IPO da Anthropic

Investidores que avaliam o mega-IPO (oferta pública inicial de ações) planejado da Anthropic enfrentam um dilema incomum: como calcular o valor de uma empresa que, segundo alguns exemplos, poderia ajudar a provocar a extinção da humanidade. Pesquisadores que publicaram na rede social X estimativas de 10% ou mais de probabilidade de que a inteligência artificial (IA) leve à extinção da humanidade deram início a uma discussão da qual Dario Amodei, cofundador e CEO da Anthropic, participou. Em um ensaio, Amodei expôs preocupações de que os seres humanos podem perder o controle dos sistemas de IA, de que essas ferramentas podem ser usadas indevidamente em ataques cibernéticos e bioterrorismo e de que podem provocar graves transtornos econômicos caso os principais pesquisadores não reduzam o ritmo de desenvolvimento. Embora os observadores tenham ridicularizado a ideia de que uma empresa possa ser responsabilizada pela extinção da espécie humana — ou até mesmo quantificar esse risco nas informações divulgadas em uma oferta pública inicial de ações —, os riscos para a Anthropic e a rival OpenAI são aos enfrentados por empresas que lidam com materiais perigosos ou equipamentos militares. Um precedente que pode servir de referência para lidar com os riscos de IA é o que ocorreu na esteira da crise financeira de 2008, segundo Sam Lessin, sócio da Slow Ventures. O investidor de venture capital (capital de risco) propôs que o governo dos EUA obrigasse os laboratórios de IA a depositar US$ 1 trilhão em dinheiro em uma conta de garantia para cobrir os possíveis custos futuros de reparação, de forma semelhante à exigência dos reguladores, no período posterior à crise, para que os bancos mantivessem mais capital para absorver perdas. Mesmo esse valor pode não ser suficiente, afirmou. “Os passivos podem representar um risco de US$ 2 trilhões ou US$ 4 trilhões para a sociedade, mesmo antes de considerar a extinção em massa de que eles falam, o que fariam com que as empresas valessem, no total, menos que zero”, disse Lessin em entrevista por e-mail à Bloomberg News. Ainda assim, alguns investidores podem estar dispostos a comprar ações da Anthropic e ignorar um custo indefinido, mas ambientalmente enorme, com base na tese de que outra pessoa acabará pagando a conta, disse Lessin. Um porta-voz da Anthropic não quis comentar. Debate apocalíptico O plano da Anthropic de levantar em seu IPO um valor igual ou superior aos obtidos pela SpaceX na própria listagem recorde, mesmo com o debate sobre segurança da inteligência artificial assumindo contornos apocalípticos, provocou ceticismo e ironia. A questão, porém, não parece ter prejudicado as ações da SpaceX. A empresa de foguetes e satélites do trilionário Elon Musk vinculou grande parte das próprias ambições à IA, e o modelo Grok concorreu com as respectivas ofertas da Anthropic e da OpenAI. Os documentos do IPO da empresa não fizeram menção às ameaças existenciais inerentes à IA e, em vez disso, destacaram riscos como desinformação e “dissimulação da IA”. As ações da SpaceX são negociadas mais de 20% acima do preço da oferta no IPO de US$ 86,2 bilhões realizado em junho. O recente acordo “moralmente vinculante” do presidente dos EUA, Donald Trump, sobre segurança da IA ​​com líderes das grandes empresas de tecnologia, entre eles Amodei, impediu parte da ansiedade dos investidores em relação ao tema mais amplo, disse Luke Lango, analista-chefe de tecnologia da InvestorPlace. Dario Amodei, cofundador e CEO da Anthropic Krisztian Bocsi/Bloomberg