O próximo grande problema da IA em saúde será autoridade

Durante os últimos anos, uma pergunta dominou boa parte das discussões sobre inteligência artificial e medicina: a IA vai substituir os médicos? É uma pergunta compreensível, mas talvez não seja a mais importante. Existe outra, menos óbvia e potencialmente muito mais decisiva: quem decide qual medicina a inteligência artificial considera verdadeira? Essa questão tende a ganhar importância à medida que sistemas de IA deixam de ser apenas ferramentas administrativas e passam a participar diretamente da interpretação de sintomas, exames, riscos, diagnósticos e tratamentos. Porque toda inteligência artificial que responde a uma pergunta médica precisa, de alguma forma, construir uma hierarquia entre informações. Precisa decidir quais estudos são mais relevantes, quais consensos são mais confiáveis, quais fontes merecem mais peso e quais hipóteses devem ser tratadas com cautela. Em outras palavras, a IA não apenas encontra informação. Ela exerce curadoria. E curadoria é uma forma de autoridade. O problema é que o ambiente informacional da saúde nunca foi tão contaminado por ruído. Redes sociais misturam pesquisa científica, experiências individuais, marketing, medicina experimental, pseudociência e desinformação dentro do mesmo fluxo. Influenciadores com diferentes níveis de formação disputam atenção com médicos, universidades e hospitais. Conteúdos produzidos por inteligência artificial começam a aumentar ainda mais esse volume. Nesse contexto, colocar um sistema de IA sobre a internet e esperar que ele simplesmente “descubra a verdade” é uma ideia perigosa. A internet não é um repositório organizado de conhecimento médico. É uma disputa de narrativas. E narrativas populares não são necessariamente verdadeiras. Esse é o ponto em que podemos começar a falar em um risco emergente: AI-powered pseudomedicine. A pseudomedicina tradicional já existe há décadas. A diferença é que ela sempre teve limitações de escala. Um profissional, influenciador ou empresa conseguia produzir determinada quantidade de conteúdo, atender um número restrito de pessoas ou disseminar algumas teorias. A inteligência artificial muda completamente essa equação. Um sistema pode produzir milhares de conteúdos em segundos, traduzir uma mesma mensagem para dezenas de idiomas, criar vídeos com profissionais sintéticos, personalizar recomendações e adaptar argumentos ao perfil psicológico de cada usuário. O problema deixa de ser apenas desinformação. Passa a ser desinformação personalizada em escala industrial. Imagine uma pessoa procurando orientação para insônia. Em vez de encontrar um vídeo genérico recomendando um suplemento, ela conversa com um sistema que conhece sua idade, seus hábitos, os dados do wearable, seu histórico de sono e talvez até seus exames. A recomendação será específica, convincente e aparentemente científica. Isso cria uma nova ilusão de autoridade. Porque tendemos a associar personalização a precisão. Mas são coisas diferentes. Uma recomendação pode ser extremamente personalizada e continuar cientificamente errada. Esse talvez seja um dos maiores riscos da próxima geração de saúde digital: confundir capacidade de processamento com qualidade clínica. Uma IA consegue analisar milhões de informações. Isso não significa que todas essas informações merecem o mesmo peso. Na medicina, conhecimento não funciona por votação. Dez mil posts dizendo que determinado tratamento funciona não valem necessariamente mais do que um ensaio clínico robusto demonstrando o contrário. Cem relatos individuais não substituem uma boa evidência epidemiológica. Um estudo isolado não deveria ter o mesmo peso de uma metanálise bem conduzida. Essa hierarquia parece óbvia para pesquisadores e médicos. Para um algoritmo, ela precisa ser deliberadamente construída. É por isso que o próximo grande desafio da inteligência artificial na saúde pode não ser inteligência. Pode ser governança epistemológica. Ou, colocando de maneira mais simples: definir quais conhecimentos merecem ser considerados confiáveis. Isso exigirá decisões difíceis. Uma IA médica deve seguir apenas guidelines estabelecidos? Como lidar com áreas em que o consenso científico ainda está evoluindo? Quanto peso dar à experiência clínica? Como incorporar pesquisas muito recentes? Como distinguir inovação legítima de terapias experimentais vendidas prematuramente? Como apresentar controvérsias científicas sem criar uma falsa equivalência entre uma posição amplamente sustentada por evidências e uma hipótese marginal? Essas decisões não são detalhes técnicos. São decisões médicas. E algumas delas são profundamente humanas. É por isso que iniciativas que colocam médicos e profissionais certificados dentro dos times que desenvolvem sistemas de IA em saúde são tão importantes. Empresas como a MDisrupt, por exemplo, trabalham justamente na interseção entre tecnologia e expertise clínica, incorporando profissionais de saúde no desenvolvimento de produtos digitais e modelos de inteligência artificial. Essa lógica representa uma mudança importante na forma como pensamos sobre AI health. Durante algum tempo, muitas empresas trataram médicos como usuários finais da tecnologia. A próxima geração provavelmente precisará tratá-los como parte da infraestrutura do modelo. Não apenas para validar uma interface depois que o produto está pronto. Mas para ajudar a construir os critérios que definem como aquele sistema interpreta evidência, reconhece riscos e comunica incerteza. Essa distinção é fundamental. Porque uma IA médica não deveria apenas responder. Deveria também saber quando não tem certeza. Esse talvez seja um dos comportamentos mais valiosos que poderemos ensinar a esses sistemas. A medicina é uma disciplina profundamente marcada pela incerteza. Dois pacientes com sintomas semelhantes podem ter doenças diferentes. Um tratamento que funciona para a maioria pode falhar para um indivíduo. Um exame pode produzir falso positivo. Uma evidência pode mudar com novos estudos. Médicos experientes aprendem ao longo da carreira algo que algoritmos precisam explicitamente incorporar: saber onde termina o conhecimento e começa a dúvida. O risco é que a inteligência artificial faça exatamente o contrário. Modelos são extremamente bons em produzir respostas convincentes. E convicção textual pode ser facilmente confundida com competência clínica. Um sistema que diz “não sei” pode parecer menos impressionante do que um sistema que entrega imediatamente uma explicação sofisticada. Mas, em saúde, talvez seja justamente o contrário. Saber quando não responder pode ser uma das maiores demonstrações de inteligência. Esse debate também muda a ideia de responsabilidade. Se uma IA recomenda determinado exame ou tratamento, quem responde por essa decisão? O desenvolvedor do modelo? A empresa que oferece o serviço? O médico que utiliza a ferramenta? A instituição que contratou a plataforma? A fonte científica utilizada para treinar o sistema? À medida que a IA se aproxima da decisão clínica, essa cadeia se torna cada vez mais complexa. Por isso, transparência será parte importante da próxima geração dessas tecnologias. Talvez precisemos de sistemas capazes de mostrar não apenas a resposta, mas também: qual evidência sustenta aquela recomendação; qual o nível de confiança; quais guidelines foram considerados; quando os estudos foram atualizados; e quais alternativas clínicas existem. Em outras palavras, a IA médica precisará desenvolver algo semelhante a uma rastreabilidade do conhecimento. Isso pode se tornar uma vantagem competitiva. Hoje, grande parte da corrida em inteligência artificial é baseada em performance: quem responde mais rápido, quem tem o modelo mais poderoso, quem processa mais dados. Na saúde, talvez outra métrica se torne mais relevante: quem merece mais confiança? E confiança não será construída apenas com tecnologia. Será construída com governança clínica, transparência, evidência e responsabilidade. As empresas que entenderem isso podem construir posições extremamente fortes. Imagine duas plataformas de IA para saúde. A primeira entrega respostas excelentes, mas funciona como uma caixa-preta. A segunda mostra a fonte das recomendações, o nível de evidência, o grau de incerteza, os especialistas envolvidos e os limites do sistema. Qual delas um hospital provavelmente escolherá? Qual delas um médico terá mais segurança para utilizar? Qual delas um paciente usará quando a decisão envolver algo realmente importante? Essa pode ser a nova fronteira de competição em AI health. Não apenas inteligência artificial. Inteligência confiável. Existe ainda uma implicação maior. Durante séculos, instituições como universidades, revistas científicas, associações médicas e hospitais ajudaram a definir o que era considerado conhecimento médico legítimo. Agora, parte dessa função começa a migrar para plataformas digitais. Se bilhões de pessoas passarem a perguntar primeiro a uma inteligência artificial antes de procurar um médico, esses sistemas se tornarão alguns dos maiores distribuidores de conhecimento médico da história. Isso lhes dará um poder extraordinário. Eles não apenas responderão perguntas. Influenciarão como populações inteiras entendem doenças, prevenção, alimentação, medicamentos e tratamentos. Por isso, a discussão sobre inteligência artificial na saúde precisa ir muito além de perguntar se máquinas substituirão médicos. Talvez o verdadeiro problema seja justamente o oposto. Precisaremos de médicos, pesquisadores e instituições de confiança dentro da inteligência artificial. A pergunta decisiva da próxima década não será: “Essa IA sabe responder?” Será: “Por que deveríamos acreditar nela?” Porque, em saúde, informação nunca foi suficiente. E quando máquinas começarem a produzir respostas médicas em escala quase infinita, autoridade, evidência e confiança podem se tornar os ativos mais importantes de todos. *Rodrigo Rocha é especialista em longevidade de negócios, com mais de 20 anos de experiência em marketing, inovação e crescimento no Brasil e no exterior Mais Lidas