Info Money
No fim de 2022, um banco global aprovou um sistema de IA desenvolvido para automatizar decisões rotineiras de crédito. No papel, parecia exatamente o tipo de iniciativa inovadora que especialistas vinham incentivando as empresas a adotar.
Nos projetos-piloto, o sistema processava solicitações mais rapidamente do que os humanos, reduzia erros e prometia economias relevantes de custos. A equipe de gestão de riscos aprovou a solução, a área de compliance também, e o CEO a promoveu publicamente como prova de que o banco estava abraçando o futuro.Seis meses depois, o sistema ainda avaliava solicitações e gerava recomendações.
Mesmo assim, a maioria dos processos continuava passando por revisão humana. As exceções tinham se multiplicado, e salvaguardas temporárias — como limites para dupla revisão e sinalizações de confirmação manual — tinham se transformado em etapas permanentes do processo.
Embora o sistema de IA fizesse parte do fluxo de trabalho do banco, ele nunca chegou a tomar a maior parte das decisões finais.
