Techtudo
Textos produzidos pelo Claude passarão a carregar uma marca d’água invisível que poderá ajudar a identificar conteúdos gerados pela inteligência artificial (IA). Anunciada pela Anthropic, a tecnologia cria um padrão estatístico durante a geração das respostas, sem inserir avisos visíveis para o usuário. A medida foi desenvolvida inicialmente para atender a novas regras da União Europeia, mas a empresa decidiu estender a identificação globalmente e também adotá-la em modelos anteriores. Nas próximas linhas, entenda a marca d’água do Claude.
🔎 Claude Cookbook: o que é e como usar a biblioteca de prompts da Anthropic 📲 Comparador de celulares do TechTudo: como usar a ferramenta e economizar Texto feito por IA agora pode ser identificado? Entenda a marca d’água do Claude Imagem gerada por IA/OpenAI 📝 Qual a melhor inteligência artificial para criar imagens? Veja no fórum do TechTudo Índice Como funciona a marca d’água do Claude Texto feito por IA pode ser identificado com certeza? A marca d’água continua após editar o texto? O que muda para quem usa Claude? Outras IAs também usam marca d’água? Como funciona a marca d’água do Claude A marca d’água é inserida enquanto o Claude produz uma resposta. Modelos de linguagem escrevem escolhendo, a cada etapa, entre diferentes palavras ou partes de palavras, chamadas de tokens. A tecnologia aproveita esse processo para criar um padrão estatístico no texto. Isso acontece em situações nas quais há mais de uma opção adequada para continuar uma frase. Em vez de deixar a escolha inteiramente ao acaso, o sistema usa uma chave e as palavras anteriores para decidir entre alternativas com probabilidades semelhantes. O significado e a qualidade da resposta, segundo a Anthropic, não são afetados. Nada aparece na tela para indicar a presença da marca. Não há selo, caracteres escondidos ou informações sobre o usuário, a empresa ou a conversa em que o conteúdo foi produzido. A Anthropic trabalha em ferramentas que permitirão verificar se um texto apresenta o padrão. O método é diferente dos detectores convencionais de IA. Esses serviços analisam um texto pronto e tentam estimar se ele foi escrito por uma pessoa ou por uma inteligência artificial. No Claude, o sinal é inserido pelo próprio modelo durante a geração. Entenda como funciona a marca d'água do Claude Imagem gerada com auxílio de IA Texto feito por IA pode ser identificado com certeza? Não. Encontrar a marca d’água indica que o Claude provavelmente participou da produção daquele texto, mas não permite afirmar que todo o conteúdo foi escrito pela inteligência artificial. Uma pessoa pode, por exemplo, escrever um artigo e enviar o material ao chatbot apenas para melhorar a redação.
Se a ferramenta fizer alterações suficientes, a versão devolvida pode receber a marca. O resultado da verificação não diferencia um texto criado do zero pelo Claude de outro que tenha sido editado pelo modelo. Também não é possível fazer a conclusão inversa. Se nenhuma marca for encontrada, o conteúdo ainda pode ter sido produzido por IA. Além de não identificar textos criados por outros modelos, a tecnologia tem limitações que podem impedir a leitura do sinal. Ferramenta não pode determinar com 100% de certeza se texto foi feito por IA (Imagem gerada por IA/OpenAI) A marca d’água continua após editar o texto? Copiar e colar uma resposta não apaga a marca d’água. O padrão permanece no conteúdo mesmo quando o texto é levado para outro aplicativo ou documento. Edições pequenas também podem preservar o sinal. Alterações maiores dificultam a identificação. Reescrever trechos, trocar muitas palavras ou misturar partes da resposta com outros conteúdos reduz os sinais que podem ser encontrados pela ferramenta. A Anthropic reconhece que não existe uma marca d’água capaz de resistir a qualquer tipo de modificação. Uma tradução feita posteriormente por outra ferramenta ou por uma pessoa também pode alterar o padrão do texto original. Já quando o próprio Claude recebe a tarefa de traduzir um conteúdo, a resposta é marcada, pois as palavras da nova versão são geradas pelo modelo. O tamanho também faz diferença. A companhia não aplicará a marca em respostas com menos de 200 tokens, já que conteúdos curtos não oferecem informação suficiente para uma identificação confiável. Marca d´água continua ativa mesmo após edição Mariana Saguias/TechTudo O que muda para quem usa Claude? Para quem usa o Claude, a marca d’água não exige nenhuma ação adicional. A resposta continuará aparecendo normalmente e poderá ser copiada, salva ou compartilhada. O sinal também não identifica o usuário, a empresa ou a conversa em que o conteúdo foi produzido. No entanto, a mudança pode ter impacto principalmente em ambientes com regras para o uso de IA. Escolas, universidades e empresas poderão recorrer à verificação para saber se um conteúdo apresenta sinais deixados pelo Claude. Como a marca também pode aparecer em materiais revisados ou editados pela ferramenta, o resultado precisa ser considerado de acordo com as regras adotadas em cada instituição. Entenda o que muda para quem usa o Claude Reprodução/Freepik Outras IAs também usam marca d’água? Sim. O Google DeepMind desenvolveu o SynthID, tecnologia usada para marcar conteúdos gerados por inteligência artificial. A solução funciona com textos, imagens, vídeos e áudios e já é utilizada em ferramentas da companhia, como o Gemini. A marca d’água anunciada pela Anthropic usa uma versão do SynthID-Text. Durante a geração, a tecnologia modifica a forma como o modelo escolhe entre tokens com probabilidades semelhantes para criar o padrão que pode ser identificado posteriormente. Outra iniciativa é o C2PA, padrão aberto para registrar a procedência de conteúdos digitais. Ele permite associar a arquivos informações verificáveis sobre a origem e as alterações realizadas no material. A big tech também anunciou a adoção do padrão em arquivos compatíveis criados pelo Claude. Veja outras IAs que aplicam marca d'água Andrea Piacquadio/Pexels Com informações de Anthropic, The Verge (1 e 2) e TechCrunch Mais do TechTudo
