Epoca Negócios
Claude, da Anthropic Getty Images
A Anthropic atualizou sua política de uso e passou a proibir que usuários adotem “comportamento abusivo ou cruel, persistente e desnecessário” contra o Claude, seu modelo de inteligência artificial. A revisão também amplia restrições relacionadas à interferência eleitoral, ao desenvolvimento de armas e à vigilância.
Segundo o The Verge, em agosto do ano passado, a empresa anunciou que permitiria ao Claude encerrar conversas com usuários “persistentemente prejudiciais ou abusivos”, como parte de suas pesquisas sobre o “bem-estar dos modelos” de inteligência artificial. A nova atualização afirma que o encerramento de conversas continua sendo o “principal mecanismo de aplicação” das regras, mas não detalha se adotará outras medidas para fazer cumprir a política, como possíveis banimentos de usuários.
A empresa disse que a atualização “deve ser aplicada apenas em casos extremos, nos quais os usuários agem repetidamente de maneira cruel com nossos modelos, sem uma finalidade discernível”. A regra não se aplica, portanto, a manifestações comuns de frustração dos usuários, discordâncias, temas sombrios em criações artísticas ou testes e pesquisas com modelos.
Além da mudança relacionada ao "bem-estar dos modelos", a Anthropic reuniu diversas restrições já existentes em sua política, mas que estavam dispersas, em uma nova proibição de campanhas comerciais ou políticas enganosas. A medida busca enfrentar o problema crescente da propaganda gerada por inteligência artificial.
A regra restringe “tentativas de ocultar quem está por trás de uma mensagem ou de ampliar o alcance de conteúdo por meio de contas ou publicações falsas”. A seção sobre eleições também proíbe enganar eleitores e prejudicar o processo eleitoral.
Isso inclui disseminar informações falsas “sobre candidatos ou sobre como votar, se passar por candidatos ou autoridades eleitorais ou tentar reduzir o comparecimento às urnas”, afirmou a Anthropic. Embora sua política de uso já proibisse publicamente o desenvolvimento de armas com o Claude, a empresa identificou várias tentativas de utilizar o modelo para desenvolver orientações e softwares de controle de armamentos.
Por isso, a nova política amplia a proibição para incluir “softwares e componentes que fazem as armas funcionar, além de ações como armar drones e outros veículos autônomos”. Além disso, como seu último relatório de inteligência sobre ameaças indicou que o uso de sistemas de vigilância baseados no Claude para identificar e rastrear “dissidentes políticos” estava se tornando cada vez mais frequente.
“Rastrear pessoas sem seu consentimento é proibido, seja em tempo real ou por meio da análise de dados coletados anteriormente”, afirmou a Anthropic. “O Claude não pode ser usado para decidir ou recomendar quem deve ser investigado, preso ou acusado em um processo policial ou de Justiça criminal.
Também proibimos o uso do Claude para desenvolver ou aprimorar ferramentas destinadas à vigilância.” A empresa também acrescentou uma nova regra para situações em que seus modelos de IA estejam “conectados a equipamentos capazes de realizar ações físicas autônomas e que possam causar ferimentos”.
Nesses casos, um “operador qualificado deve ser capaz de observar o equipamento e interromper seu funcionamento, se necessário”. Não está claro se esse operador precisa ser humano.
A Anthropic afirma que essas regras podem ser modificadas para “contratos com determinados clientes governamentais [...] se, na avaliação da Anthropic, as restrições de uso previstas em contrato e as salvaguardas aplicáveis forem suficientes para mitigar os possíveis danos”. Mais Lidas
