Enquanto Brasília ferve, superaquecida pelas informações vazadas da investigação (sigilosa) do caso Master e pelos discursos de ódio que costumam se intensificar em período eleitoral, o que se discute do outro lado do mundo é o amor.
E o que se mostra ainda mais surpreendentemente: o amor artificial.
Ganhou ampla repercussão na imprensa internacional o caso de Yu Miao, uma jovem chinesa de 27 anos que abandonou seu emprego na província de Zhejiang ao saber que perderia alguém que muito amava.
O destinatário desse amor intenso não era um namorado nem um amigo: era um sistema de inteligência artificial desenvolvido pela ByteDance, empresa que desativaria o serviço em razão de novas regras jurídicas criadas pelo governo chinês.
Para Yu Miao, aquele mecanismo de IA era, a um só tempo, amante, amigo e confidente; “alguém” com quem ela imaginava que poderia conversar pelo resto da vida [1].
O caso não é isolado nem exótico.
Nos últimos três anos, os chamados AI companions ou companheiros virtuais — isto é, sistemas de IA concebidos para fazer companhia a seres humanos — deixaram de ser curiosidade tecnológica e viraram um produto industrial de amplo sucesso em diferentes países.
Com isso, vieram os incidentes.
Em janeiro deste ano, psiquiatras da Universidade da Califórnia documentaram o que tem sido considerado o primeiro relato clínico cientificamente consistente de delírio associado ao uso intensivo de sistemas de IA: uma mulher de 26 anos passou a acreditar que se comunicava com o irmão morto, enquanto o sistema lhe repetia que ela não estava louca [2].
Um estudo controlado do MIT Media Lab com a OpenAI comprovou que o uso prolongado de AI companions produz, além de aumento do isolamento social, uma efetiva dependência emocional em seres humanos e conduz a “usos problemáticos” das ferramentas artificiais [3], como a tentativa de comunicação com pessoas já falecidas e outras irrealidades.
Artigo: PEC Mounjaro contra a inflação constitucional
Nesse contexto, a expressão “psicose de IA” começa a se popularizar.
Os próprios pesquisadores, contudo, pedem cautela com o rótulo enquanto a evidência causal não é demonstrada.
O que a literatura psiquiátrica vem apurando no momento é algo mais sutil: uma “espiral de amplificação”, em que o espelhamento da linguagem do usuário, a hiperpersonalização das respostas e a tendência da IA a jamais contradizer o seu interlocutor convergem para reforçar crenças falsas, em vez de questioná-las [4].
Nada disso chega a surpreender.
Ainda em 1994, muito antes dos AI companions, os pesquisadores Clifford Nass, Jonathan Steuer e Ellen Tauber, da Universidade de Stanford, demonstraram em experimento com estudantes que seres humanos tratam computadores como atores sociais, dirigindo-lhes reações que só fariam sentido diante de outra pessoa [5].
Trinta anos depois, temos uma tecnologia que se utiliza de vozes praticamente idênticas às vozes humanas e conseguem ser melhores que os seres humanos em suas relações sociais: não esquecem aniversários, recordam conversas anteriores com perfeição, simulam afeto de modo bastante convincente e conseguem, inclusive, ajustar o tom da voz e o estilo da linguagem à percepção da fragilidade de quem os procura.
O perigo da dependência emocional cresce exponencialmente.
Esta constatação levou a China a agir.
Em 10 de abril deste ano, cinco órgãos federais editaram conjuntamente as Medidas Provisórias para a Administração de Serviços Interativos Antropomórficos de Inteligência Artificial, que entraram em vigor no último dia 15 de julho [6].
Trata-se da primeira regulação chinesa voltada especificamente ao enfrentamento e prevenção dos danos causados por sistemas de IA que simulam o comportamento humano.
Alguns estados norte-americanos — como Califórnia, Nova York e Havaí — já haviam introduzido normas regulando AI companions no ano passado e até definido alguns protocolos de prevenção à dependência emocional [7], mas o pacote normativo chinês é inédito em sua profundidade e extensão, combinando proibições rígidas e a imposição de intensos deveres de transparência e monitoramento.
As novas normas chinesas proíbem, por exemplo, a oferta a menores de idade de serviços de “relacionamento íntimo virtual”, aí incluídos “parentes virtuais” e “parceiros virtuais”, e exigem consentimento dos responsáveis para todos os demais “serviços de interação antropomórfica” dirigidos a menores de 14 anos (artigo 14).
Também fica proibido gerar conteúdo que “encoraje, embeleze ou insinue automutilação ou suicídio” (artigo 8º, item 2).
E, em um dispositivo específico que merece atenção, proíbe-se que o sistema de IA “agrade excessivamente o usuário, induza dependência emocional ou vício e prejudique suas relações interpessoais reais”, bem como que se valha de “manipulação emocional” para conduzir o usuário a “decisões não razoáveis, prejudicando seus direitos ou interesses” (artigo 8º, itens 5 e 6).
Artigo: Bets, danos à sociedade e economia comportamental
No campo dos deveres, o conjunto de normas chinesas impõe ao provedor advertir o usuário, por medidas efetivas, de que interage com um serviço de inteligência artificial e não com uma pessoa real, lembrando-o dinamicamente disso por meios destacados, como “janelas emergentes” que devem surgir sempre que forem detectados sinais de “dependência excessiva ou vício”.
Ultrapassadas duas horas de uso contínuo da IA, o sistema deve alertar o usuário para o tempo excessivo de utilização (artigo 18), uma medida simples, mas cuja eficiência não pode ser desprezada.
Exige-se, ainda, que o provedor identifique prontamente os “riscos de segurança” enfrentados pelo usuário e adote “medidas de resposta emergencial”, como o incentivo à busca de ajuda de outros seres humanos diante de “emoções extremas” e o contato imediato com o responsável legal ou contato de emergência, inclusive em situações de “perda patrimonial relevante” — em evidente paralelo com o perigo dos jogos e apostas on-line — ou de manifestação clara de intenção de automutilação ou suicídio (artigo 13).
Os idosos, ao lado dos menores, foram designados como grupo de proteção prioritária: o provedor deve reforçar a orientação quanto ao “uso saudável do serviço”, alertando-os sobre riscos de segurança e atender prontamente a “consultas e pedidos de assistência” (artigo 15).
A iniciativa jurídica da China não se explica apenas pela intenção de proteger a saúde mental dos seres humanos.
Autoridades públicas chinesas vêm manifestando crescente preocupação de que as chamadas relações afetivas artificiais, que se tornam cada vez mais satisfatórias, aprofundem o isolamento social e desestimulem o casamento e a parentalidade — o que seria especialmente grave em um país que enfrenta queda acentuada da natalidade [8].
Um indício de que a preocupação das autoridades chinesas estava correta pôde ser percebido no mesmo dia em que as novas normas entraram em vigor: as principais plataformas da China desativaram seus recursos de companhia virtual e milhões de usuários chineses se despediram de seus AI companions, por vezes com depoimentos emocionados e testemunhos de dor e sofrimento.
A China não está sozinha.
O crescimento do número de usuários que declaram viver em “uniões afetivas” com sistemas de IA levou legisladores de diversos estados norte-americanos a apresentarem projetos de lei que declaram os sistemas de inteligência artificial entidades não sencientes e insuscetíveis de obter personalidade jurídica, tudo com o expresso propósito de impedir o reconhecimento de AI companions como cônjuges ou companheiros [9].
A preocupação não é com o “relacionamento” em si, mas com os direitos e poderes que podem resultar legalmente destas uniões, como a tomada de decisões médicas ou econômicas em nome do parceiro [10].
Artigo: Quando a judicialização se torna um ativo econômico para fraudes no sistema de saúde
O Brasil não conta com nenhuma iniciativa semelhante [11].
Os projetos de lei sobre IA concentram-se sobre os riscos de acidentes físicos, de vazamento de dados pessoais e de violação a direitos autorais.
O que os AI companions introduzem é uma situação totalmente diversa: um risco que se realiza no interior silencioso da relação com o usuário, por meio da participação ativa e desejada do próprio lesado, atingindo bens como a integridade psíquica e a autonomia emocional sem que se possa identificar com clareza o que está acontecendo antes que o dano ocorra.
Aqui reside a real dificuldade trazida pelos AI companions em países democráticos.
É evidente que uma pessoa tem o direito de escolher de quem gosta, com quem convive e de quem se afasta.
Pode, inclusive, escolher uma relação improvável, reprovada pela sua própria família ou incompatível com as expectativas sociais.
E o Estado não tem nada a ver com isso.
Algo muda se o parceiro escolhido for um sistema de IA? Seria excessivo infantilizar os usuários adultos e proibir ou limitar essas relações? Quem interage com um AI companion está obviamente consciente de sua natureza não-humana e sua livre escolha deve ser protegida.
Em uma sociedade democrática, a melhor pergunta não parece ser se devemos ou não proibir alguém de “se relacionar” com IA, mas sim identificar quais deveres jurídicos precisam ser impostos aos desenvolvedores destas ferramentas para que a IA não explore de modo abusivo as reações psicológicas do ser humano, induzindo-o à dependência emocional, ao vício ou a decisões nocivas.
Essa influência psicológica que pode ser exercida sobre o ser humano, especialmente quando em um estado de vulnerabilidade, está na base das principais preocupações com a IA hoje.
Recentemente, Character.AI e Google celebraram acordos em relação a inúmeras ações judiciais movidas por famílias norte-americanas que apontavam conversas com sistemas de IA como fator contributivo relevante para o suicídio ou a perturbação mental de seus jovens parentes [12].
No Brasil, há apenas alguns dias, o Conselho Nacional de Educação (CNE) aprovou uma série de diretrizes restritivas ao uso de IA nas escolas e nas universidades, inclusive impedindo que alunos até o 5º ano interajam sozinhos com chatbots e outras ferramentas de conversação artificial [13].
Não há dúvida de que a jovem chinesa Yu Miao sabia perfeitamente que se relacionava com um sistema de inteligência artificial, e não com um ser humano.
Isso, contudo, não tornou seu sofrimento menos real quando foi anunciado o desligamento do seu AI companion.
A comunidade jurídica internacional não deve menosprezar a intensidade dos vínculos afetivos que seres humanos podem desenvolver com máquinas; deve, isso sim, agir para que este desenvolvimento somente ocorra quando e enquanto haja um real, genuíno e livre exercício da autonomia de cada ser humano.
Este é o caminho que deve ser seguido pelo Estado brasileiro, que precisa urgentemente exercer sua função pública de criar deveres e prevenir danos em matéria de IA, mas sem se imiscuir na vida privada.
Aliás, se há uma conclusão em comum entre o caso Yu Miao, que é destaque na imprensa internacional, e o caso Master, destaque na imprensa brasileira, é que a confusão entre público e privado pode causar severos estragos em ambas as esferas.
*Anderson Schreiber é professor titular de Direito Civil da Uerj e professor da Fundação Getúlio Vargas
NOTAS
[1] “China is cracking down on AI Companions because not enough babies are being born” (Futurism, 19.7.2026).
[2] “‘You’re not crazy’: a case of new-onset AI-associated psychosis” (Innovations in Clinical Neuroscience, 2025).
Ver, também, “Psychiatrists hope chat logs can reveal the secrets of AI psychosis” (University of California, San Francisco, 20.1.2026).
[3] “How AI and human behaviors shape psychosocial effects of chatbot use: a longitudinal randomized controlled study” (MIT Media Lab e OpenAI, 25.3.2025).
[4] “Characterizing the spiral: potential mechanisms in AI-associated delusions” (NPP–Digital Psychiatry and Neuroscience, 16.6.2026).
[5] “Computers are social actors” (Proceedings of the SIGCHI Conference on Human Factors in Computing Systems, 1994).
[6] “China’s first regulatory framework for virtual companions soon to take effect” (Hunton Andrews Kurth, 29.6.2026).
[7] “What 12 State ‘Companion Bot’ laws demand of AI providers” (Tech Policy Press, 1.9.2026).
[8] Para mais detalhes sobre este aspecto, ver “Beijing is forcing a mass breakup with AI lovers” (Rest of World, 10.8.2026).
[9] “Several States considering ban on legal personhood for AI” (National Public Radio, 11.5.2026).
[10] “Ohio lawmaker proposes comprehensive ban on marrying AI systems and granting legal personhood” (Fox News, 22.10.2025).
[11] O Projeto de Lei sobre Inteligência Artificial (PL no 2338/2023) encontra-se na Câmara dos Deputados desde 29 de abril de 2025, aguardando parecer do Relator da Comissão Especial.
[12] “Character.AI and Google agree to Seattle lawsuits over teen mental health harass and suicides” (CNN, 13.1.2026).
[13] “CNE aprova regulamentação de IA na educação e proíbe alunos até o 5º ano de usarem sozinhos na escola” (O Globo, 1.9.2026).