Epoca Negócios
Bill Gates tem enfatizado que a transição para a era da inteligência artificial (IA) será um dos períodos mais turbulentos da história da humanidade. Para amenizar essa turbulência, ele apresenta a ideia “Reservado aos Humanos” (ou Human Reserved).
Em síntese, ele sugere uma condição de reserva do trabalho humano: assumindo que determinadas tarefas ou funções pudessem ser desempenhadas por máquinas, ainda assim nós deveríamos preservá-las para as pessoas. Trata-se de uma ideia preliminar, na qual ele admite existir uma série de questões ainda sem respostas.
Destaco duas delas: quem decide o que reservamos para os humanos? Que critérios devemos utilizar? IA e as decisões nas organizações
Proponho-me a discutir essas duas questões no contexto do processo decisório das organizações. Para tanto, sugiro adotar a “Matriz de Decisão de IA” proposta por pesquisadores do MIT.
Essa ferramenta determina quando a inteligência artificial pode tomar decisões, avaliando duas dimensões fundamentais: ambiguidade (clareza da situação) e risco (impacto ou consequências envolvidas). A matriz proposta avalia essas dimensões mediante um processo decisório composto por três etapas: estruturação (determina a decisão), ação (executa a decisão) e aprendizado (assume a responsabilidade pelos resultados e os aprimora).
A composição das duas dimensões gera quatro categorias: - Decisões rotineiras (baixa ambiguidade, baixo risco) são fortes candidatas à automação.
Essas decisões são bem definidas e acarretam consequências de baixo impacto caso a escolha seja equivocada. Sugere-se pré-definir a estruturação da decisão e automatizar a execução e o aprendizado.
As pessoas devem manter um envolvimento próximo enquanto se consolida o desempenho da solução de IA (por exemplo, por meio de um agente de IA). - Decisões de alto impacto (baixa ambiguidade, alto risco) são bem definidas, mas possíveis erros podem gerar consequências adversas significativas.
Nesses casos, é fundamental equilibrar automação e intervenção humana, sendo que as pessoas deveriam realizar um monitoramento rigoroso e gerenciar as exceções. - Decisões exploratórias (alta ambiguidade, baixo risco) permitem que as pessoas e a solução de IA definam problemas em conjunto (estruturação colaborativa), sendo necessária a supervisão humana sobre as ações e o aprendizado.
A governança é uma prioridade, visto que a experimentação pode levar a situações de uso de maior risco. - Decisões estratégicas (alta ambiguidade, alto risco) envolvem incerteza e consequências potencialmente significativas.
Dessa forma, exigem liderança e supervisão humanas, enquanto a IA facilita a execução. Nesses casos, as pessoas deveriam se responsabilizar pela estruturação da decisão e pelo aprendizado, enquanto a solução de IA auxilia nas ações (execução das decisões).
Destaco ainda que as dimensões utilizadas na “Matriz de Decisão de IA” não são restritivas. A análise da utilização de IA para apoiar as decisões nas organizações poderia considerar outros elementos, incluindo preocupações éticas, privacidade de dados e a possibilidade da solução de IA gerar conteúdo errôneo ou enviesado.
Exemplo nos serviços de saúde A cadeia de valor da saúde é intensiva em tecnologia e conhecimento.
Dentro dessa cadeia, os serviços de saúde são também intensivos em pessoas. Para esses serviços, há reais preocupações de que a tecnologia – especialmente a IA - possa causar uma disrupção no trabalho dos profissionais de saúde.
Como exemplo, vamos adotar os preceitos da “Matriz de Decisão de IA” para os serviços médicos (prevenção, diagnóstico, tratamento de doenças e recuperação da saúde). Nesse caso, podemos considerar que decisões rotineiras (por exemplo, decisões clínicas com evidências científicas robustas e baixo risco ao paciente) são fortes candidatas à automação (respeitadas as condições impostas por questões regulatórias).
As demais categorias de decisões envolveriam, necessariamente, a liderança ou supervisão médica. Cabe ainda destacar que, no caso dos serviços médicos, além das questões técnicas, há elementos inerentes à interação entre pessoas.
Nesse contexto, uma solução de IA dificilmente substituiria perfeitamente o médico nas dimensões de empatia e acolhimento, elementos críticos em situações de maior risco de saúde e essenciais na denominada relação médico-paciente. Essa relação é fundamentada na confiança (o paciente confia sua saúde ao médico), comunicação efetiva (incluindo sinais não verbais), empatia e acolhimento (o médico enxerga o ser humano, acolhendo seus medos e angústias com respeito e sensibilidade).
Respostas às questões levantadas Antes de responder às duas questões iniciais, trago outra que precede ambas: quanto do trabalho humano será substituído pela inteligência artificial? Minha resposta é: possivelmente uma parte relevante de tarefas automatizáveis.
Porém, ainda não temos evidências para estimar (ao menos, com uma boa precisão). Um relatório da McKinsey estima que mais da metade das horas de trabalho atuais na América Latina poderia, teoricamente, ser automatizada com o uso de IA e outras tecnologias existentes.
Por outro lado, um estudo recente da London School of Economics and Political Science (baseado em análise da árvore interativa da literatura e de base de dados de evidências) concluiu que a substituição do trabalho humano por IA não tem ocorrido conforme apregoado em muitas manchetes, como também não há qualquer garantia absoluta contra essas notícias.
Retomando as duas questões preliminares: quem decide o que reservamos para os humanos? Que critérios devemos utilizar? No contexto do processo decisório das organizações, considero que as lideranças devem assumir a responsabilidade de definir, de forma estruturada, as tarefas reservadas às pessoas e aquelas delegadas para as soluções de IA.
Sugiro adotar os critérios de ambiguidade (clareza da situação) e risco (impacto ou consequências envolvidas) e, se necessário, complementar com outras questões, incluindo preocupações éticas, privacidade de dados e necessidade de interações humanas. *Marcelo Caldeira Pedroso é professor de inovação e empreendedorismo da FEA-USP e coordenador de ambientes de inovação da Secretaria de Ciência, Tecnologia e Inovação de São Paulo
Mais Lidas
