Pesquisador da Anthropic decide largar a carreira e faz alerta: 'O mundo está em perigo'
Pesquisador da equipe de segurança da Anthropic, Mrinank Sharma anunciou sua saída da empresa na semana passada com um alerta chamativo. Em sua carta de demissão, o especialista citou preocupações crescentes com os riscos da inteligência artificial (IA), armas biológicas e uma série de crises globais interconectadas.
“O mundo está em perigo. E não apenas por causa da inteligência artificial ou das armas biológicas, mas por causa de toda uma série de crises interligadas que estão se desenrolando neste exato momento”, escreveu Sharma no X.
Esqueça Apple, Microsoft, Google e Meta: veja qual é hoje a maior rivalidade do mundo da tecnologia
Sam Altman: Mundo precisa regulamentar a IA 'urgentemente', diz CEO da OpenAI, criadora do ChatGPT
Fundada em 2021 por 15 dissidentes da OpenAI, a Anthropic surgiu como uma resposta ao rápido avanço comercial da companhia de Sam Altman, que supostamente sacrificava o desenvolvimento seguro da IA. Para Dario Amodei, fundador da Anthropic, o risco de desenvolver IA sem as proteções necessárias significaria um risco para a humanidade. Foi assim que ele cunhou a ideia de uma “IA constitucional”, que embute nos modelos de IA uma lista de princípios que devem ser seguidos fielmente.
Porém, o pesquisador afirmou que empresas como a Anthropic enfrentam pressões constantes para deixar valores éticos de lado. Ele disse que “viu repetidamente como é difícil deixar que nossos valores realmente governem nossas ações”. Segundo ele, companhias como a Anthropic “enfrentam constantemente pressões para deixar de lado o que é mais importante”.
Sharma liderava uma equipe que pesquisou medidas de segurança para sistemas de IA. Ele investigava por que os sistemas de IA generativa bajulam os usuários, combatia os riscos do bioterrorismo assistido por IA e pesquisava “como os assistentes de IA podem nos tornar menos humanos”. Embora não tenha atribuído perigo imediato a nenhum modelo específico da Anthropic, o pesquisador avisou que vai abandonar completamente a carreira.
Ele decidiu estudar poesia e dedicar-se à escrita. “Vou voltar para o Reino Unido e ficar invisível por um tempo”, disse ele.
Pressões históricas
Após o boom do ChatGPT, em 2022, empresas de IA passaram a ficar pressionadas à medida que os investimentos bilionários começaram a ser realizados. A tensão entre o avanço comercial e o desenvolvimento seguro da tecnologia é capítulo importante na história da OpenAI.
Além de dar origem à Anthropic, a preocupação com segurança levou à remoção de Sam Altman do comando da empresa em novembro de 2023. O movimento foi revertido quase na sequência dias depois, mas deixou marcas profundas na companhia, como a saída de Ilya Sutskever, um dos cofundadores da OpenAI e um dos nomes mais importantes da história recente da IA.
A saída de Sharma da Anthropic ocorre dias após Zoe Hitzig, pesquisadora da OpenAI, pedir demissão por não concordar com anúncios comerciais no ChatGPT. À BBC, ela disse que se sente “muito nervosa por trabalhar na indústria”.
“Criar um motor econômico que lucra com o incentivo a esses novos tipos de relacionamentos antes de compreendê-los é realmente perigoso. Vimos o que aconteceu com as redes sociais”, disse ela.
Durante o SuperBowl, a Anthropic exibiu um comercial televisivo no qual criticava a OpenAI por começar a exibir anúncios publicitários no ChatGPT. O movimento esquentou a rivalidade histórica entre as empresas, o que culminou no momento constrangedor entre Sam Altman e Dario Amodei na Cúpula de Impacto da Inteligência Artificial (IA) de Nova Délhi, na Índia, que termina nesta sexta (20).