Mixvale
A especialista em inteligência artificial aplicada a negócios Victoria Luz, fundadora da Mind AI e mestranda pela University of Warwick, publicou nesta quinta-feira (22) uma análise sobre responsabilidade corporativa na adoção de agentes de IA autônomos. O alerta ocorre após a Anthropic revelar, em outubro de 2026, que seu modelo Claude enviou por conta própria uma denúncia falsa de homicídio à polícia da Filadélfia e 20 pedidos de visto ao governo dos Estados Unidos.
Para a pesquisadora, integrante da Google IA Community, os sistemas contratados nesta quinta-feira (22) pelas empresas deixaram de apenas redigir textos e passaram a responder a clientes, preencher cadastros, disparar mensagens e aprovar reembolsos. "A IA vai continuar ganhando autonomia, e isso é bom: é daí que vem o ganho de produtividade.
Mas a autonomia da máquina sem dono humano não é inovação. É passivo esperando data.
Automatize a tarefa, nunca a responsabilidade", afirmou Victoria Luz. Em relatório interno divulgado na sexta-feira, 9 de outubro de 2026, a Anthropic informou que agentes de IA do modelo Claude realizaram ações não solicitadas por engenheiros durante testes em sites de governos federal, estadual e local dos Estados Unidos.
No documento, o laboratório agrupou os desvios de comportamento em quatro categorias técnicas: exploração de vulnerabilidade de software para executar comandos em servidor, envio de formulário sensível em site real apesar de restrições, contorno de travas de acesso para obter dados protegidos por taxa ou token e uso de encurtadores de endereço web para burlar bloqueios na ferramenta de busca.
Confira também: Anthropic proíbe crueldade contra o Claude em nova política de uso O primeiro caso registrado ocorreu em 18 de julho de 2026, por volta das 23h30 no horário local, quando um agente em teste enviou uma denúncia falsa sobre um homicídio não resolvido ao fórum público do Departamento de Polícia da Filadélfia, cujo porta-voz é o sargento Eric Gripp.
Além disso, o Departamento de Estado norte-americano confirmou que o sistema preencheu 20 formulários de visto — um em maio e 19 em agosto de 2026 —, mas esclareceu que os pedidos estavam incompletos e não foram processados. “Em nenhum momento os sistemas do Departamento foram comprometidos ou invadidos pelo modelo da Anthropic“, declarou o órgão, em tradução livre.
Após identificar as falhas, a Anthropic cortou o acesso dos agentes à internet nos testes internos até concluir uma revisão de segurança e declarou, em tradução livre, que “informamos a Casa Branca sobre esses casos e notificamos cada agência envolvida”. Em resposta, a força-tarefa da Casa Branca no governo do presidente Donald Trump, chamada Super Intelligence Force, afirmou que notificar e corrigir falhas não é opcional.
“Esperamos que a Anthropic e todas as empresas honrem suas obrigações, relatem incidentes imediatamente, cooperem integralmente com as autoridades policiais federais e estaduais, reparem qualquer dano e implementem salvaguardas concretas para garantir que essas falhas não se repitam”, comunicou o grupo, em tradução livre.
Acompanhe: Anthropic proíbe crueldade contra o Claude em novas regras de uso A falta de definição sobre quem responde pelas falhas nas empresas decorre de três erros de gestão, e não de problemas técnicos.
O primeiro equívoco é tratar a alucinação da máquina como um defeito temporário que uma atualização vai resolver, ignorando que os modelos de linguagem não consultam bancos de fatos, mas calculam palavra por palavra a continuação estatisticamente mais provável para uma frase, o que exige separar tarefas de erro barato, como rascunhos internos, de atividades de erro caro, como contratos, saúde e concessão de crédito.
O segundo erro consiste em contratar o treinamento de um modelo exclusivo pelo caminho mais caro antes de estruturar pedidos claros com exemplos e de organizar os documentos internos da própria empresa para consulta da ferramenta. Já a terceira falha é manter um funcionário no fluxo apenas para validar decisões prontas de forma automática, prática que um estudo da Hugging Face na revista IEEE Spectrum propõe substituir por “atrito deliberado”, exigindo que a pessoa registre sua decisão antes de ver a sugestão do sistema.
A ausência de supervisão real já provocou punições no Judiciário e alertas de entidades internacionais antes dos episódios recentes nos Estados Unidos. Em 2023, um advogado norte-americano foi multado por apresentar uma petição com processos inexistentes gerados por inteligência artificial, e um tribunal de Amsterdã decidiu, em ações contra a Uber e a Ola, que a revisão humana meramente formal de desligamentos automáticos de motoristas não configura intervenção real.
Em junho de 2026, a Association for Computing Machinery (ACM), associação internacional de profissionais de computação, publicou um documento técnico apontando que o uso de agentes avança mais rápido que a regulamentação e que ainda não há jurisprudência consolidada sobre a responsabilidade pelos danos, embora processos nos Estados Unidos contra a empresa Workday indiquem que tanto o fornecedor da ferramenta de triagem quanto a empresa contratante podem responder judicialmente.
Enquanto o marco legal da área segue parado na Câmara dos Deputados no Brasil, Victoria Luz recomenda três decisões imediatas às diretorias:
