Notícias Veja
Tem cada vez mais inteligência artificial no atendimento ao consumidor, como você deve ter percebido se precisou conversar com alguma empresa recentemente. Umas são toscas e irritantes, outras dão conta do recado lindamente. Mas e quando uma delas dá mancada? Pode acontecer. Aliás, acontece, a gente sabe. Em casos assim, quem responde pelo prejuízo: a empresa que atende você ou a que desenvolveu a tecnologia?
Essa foi uma das dúvidas que levei para minha conversa com Shana Simmons, diretora jurídica da Zendesk, uma das principais empresas de tecnologia para atendimento ao cliente, que tem investido pesado em IA na jornada do consumidor. Aproveitei uma visita da executiva a São Paulo para a entrevista, cujos trechos mais interessantes você lê abaixo. VEJA: Quando uma IA comete um erro e causa um prejuízo, quem é responsável? Shana Simmons: Acredito que a responsabilidade acompanha o controle. Nossos clientes querem continuar controlando seus processos, sistemas, dados e a configuração dos agentes. Isso significa que continuam responsáveis pelos resultados.
Continua após a publicidade
Se um agente errar numa decisão que envolve dinheiro, como vocês identificam a causa? Se ele cometer um erro ao conceder uma devolução de dinheiro, por exemplo, conseguimos explicar como buscou aquela informação e de onde ela veio. Incorporamos essa capacidade ao produto para permitir a correção da causa. Com humanos isso nem sempre é possível. Às vezes, eu mesma me pergunto por que fiz alguma coisa e não sei responder. Já o sistema pode apontar onde o erro aconteceu. As máquinas ganham autonomia, mas as empresas continuam responsáveis pelos resultados. Como decidir o que fica com as pessoas e o que delegamos à IA? Antes, falávamos em “humans in the loop”, hoje penso em “humans at the helm”. Ou seja, no comando. Minha equipe tem autonomia, mas respeita um orçamento e limites estabelecidos. Vejo a IA da mesma forma, atuando conforme as políticas e o grau de liberdade que cada empresa considera adequado.
Continua após a publicidade
Você é diretora jurídica. Qual é o papel dos advogados no desenvolvimento das ferramentas de IA? Precisamos participar desde o início, para incorporar transparência, controle e cuidados com os riscos. Não dá mais para receber um produto pronto e só então avaliar o que precisa mudar. Nossos advogados comerciais também estão integrados às equipes de produto e privacidade, levando o que os clientes dizem que precisam. E como vocês usam a IA no próprio trabalho? Meu CEO quer saber como podemos reduzir custos e trabalhar com mais eficiência. Não se trata apenas de pedir ao ChatGPT para revisar um e-mail. Nas aquisições, por exemplo, precisamos analisar contratos com clientes. Gastei milhares de dólares com escritórios externos nessa revisão. Agora, estamos trazendo essa atividade para dentro da empresa, com IA.
Continua após a publicidade
Isso preocupa você em relação ao futuro da profissão? Não estou preocupada com o desaparecimento dos empregos de advogados, mas com quem não se reinventa, não sabe usar IA ou continua extremamente conservador nas orientações que dá. Precisamos recorrer às habilidades humanas. Quando pensamos nos médicos, enfermeiros e advogados de quem gostamos, valorizamos a empatia, a conexão e a capacidade de resolver nossos problemas. Esse é o caminho. A humanidade já identificou todos os riscos dessa tecnologia? Não. Ainda não pensamos em tudo, especialmente nos usos de alto risco. Eu me preocupo com o enfraquecimento do pensamento crítico, inclusive quando penso nos meus filhos: depender da IA como uma muleta, substituir o julgamento humano e até a conexão entre as pessoas.
Continua após a publicidade
Como essa conexão pode ser afetada? Você e eu podemos passar um ano trocando e-mails sem escrever nem sequer ler as mensagens. Posso criar um agente para responder e marcar reuniões sem pensar: é isso que quero dizer a alguém? É isso que preciso saber dessa pessoa? Espero que preservemos a conexão humana, inclusive na maneira como respondemos e tratamos uns aos outros. Você, como consumidora, prefere falar com uma pessoa ou com uma IA quando precisa de atendimento? Até este ano, eu ficava apertando zero para falar com um atendente. Isso mudou quando me senti confortável com nosso produto e entendi o que havia nele. Agora, geralmente faço tudo com o robô ou agente de IA.
Continua após a publicidade
─────────────────────────────────────────────── Alvaro Leme é doutorando e mestre em Ciências da Comunicação pela ECA-USP, jornalista e criador do podcast educativo Aprenda
Publicidade
