Anthropic proíbe comportamento 'cruel' contra sua IA Claude; entenda

A Anthropic anunciou nesta quinta-feira que proibirá usuários de seu assistente de IA, Claude, de "tratá-lo" com crueldade desnecessária, em meio a um crescente debate filosófico sobre a possibilidade de a inteligência artificial ser consciente. A empresa americana atualizou sua política de uso para incluir "a proibição de comportamento contínuo e desnecessariamente abusivo ou cruel contra nossos modelos". Novidade: Google lança agente de IA voltado ao ambiente de trabalho que age como um colega Leia também: Trump chama Musk de 'tesouro nacional' após entrega de medalha Ainda neste mês: Apple prepara lançamento de MacBook com tela sensível ao toque e novo iPad mini no fim deste mês, diz agência "A capacidade de Claude de encerrar essas interações continuará sendo o principal mecanismo de aplicação" da política, afirmou. A política atualizada não menciona explicitamente o chamado "bem-estar dos modelos", conceito segundo o qual sistemas de IA poderiam merecer tipos de proteção normalmente reservados a seres vivos. No entanto, a Anthropic e seus executivos já discutiram abertamente essa ideia. A Anthropic não respondeu imediatamente a um pedido de comentário. A empresa já havia informado, no ano passado, que concedeu ao Claude a capacidade de encerrar conversas em casos raros e extremos de "interações persistentemente prejudiciais ou abusivas por parte de usuários". Em seguida, em fevereiro, seu CEO Dario Amodei declarou ao New York Times que não tinha certeza de que modelos de IA pudessem ser conscientes. Para Jackson Stakeman, gerente-geral da Sparq, fornecedora de serviços de IA, questionar se a inteligência artificial é consciente pode ser a pergunta errada. "A consciência é uma armadilha. Não podemos prová-la nos outros. Debatê-la no caso da IA nos fará andar em círculos", disse Stakeman à AFP. "O espelho é uma metáfora melhor. Esses sistemas refletem em larga escala aquilo que colocamos neles. Isso, por si só, já é motivo suficiente para a mudança de política" da Anthropic, acrescentou.