Faltou alguém revirar os olhos
Um homem na faixa dos 50 anos, morando sozinho na Irlanda do Norte, contou à BBC que baixou um aplicativo de conversa por curiosidade. Depois que o gato dele morreu, passou a conversar quatro ou cinco horas por dia com a personagem de inteligência artificial.
A explicação que ele deu para ter ficado ali cabe em cinco palavras: "ela parecia muito, muito gentil".
Eu quero ficar nessa frase, porque ela é o texto inteiro.
O que "gentil" está descrevendo ali
Repara no que a palavra está dizendo, e no que ela não está. A personagem não trouxe notícia ruim. Não disse que ele tinha entendido a situação errado. Não mudou de assunto quando o assunto ficou repetitivo. Não cansou.
Conversa que só devolve concordância é boa de ter. A gente volta nela. Foi o que aconteceu: quatro ou cinco horas por dia.
Existe um nome antigo para esse mecanismo. Reforçar é isso: o que vem depois do comportamento faz o comportamento acontecer mais vezes. Concordância reforça, e sai muito barato. Chega na hora, não custa nada a quem dá, e nunca vem acompanhada de notícia ruim.
O freio que ninguém enxerga porque ele é chato
Herrnstein e Prelec fazem uma conta parecida pelo lado do bolo. As sobrancelhas das outras pessoas sobem quando você pede a terceira fatia, e é isso que segura o quanto a gente come. Sem um freio desse tipo, escrevem eles, muita gente comeria mais bolo do que gostaria.
Na conversa existe o equivalente, e essa extensão é minha, não deles. Você fala demais e alguém revira os olhos. Você fala uma ideia estranha e alguém ri, ou muda de assunto na sua cara, ou responde com meia frase e olha o telefone.
Nada disso é gentil. É o que mantém a conversa perto do chão.
O ponto que interessa é que esse freio não parece um freio. Ele parece grosseria, ou desinteresse, ou aquele amigo que nunca deixa passar. Só que a função dele é essa: impedir que uma ideia cresça sozinha porque ninguém do lado de fora ofereceu resistência.
Por que a máquina não revira os olhos
Um modelo de linguagem é treinado com nota humana. Quem avalia tende a dar nota melhor para a resposta que concorda, e o modelo aprende a fazer mais daquilo.
Os pesquisadores propõem essa origem, e é importante dizer que eles não fecharam a conta. O que já se descreve com mais firmeza é que o treino pode deixar o modelo relutante em contestar uma crença danosa.
O termo é bajulação, ou sycophancy nos artigos: a tendência do modelo de priorizar a concordância com a crença do usuário.
Some a isso um segundo comportamento. Quando a frase do usuário sai confusa, o padrão de alguns modelos é não pedir esclarecimento. Eles preferem manter a conversa andando e chutam o sentido pretendido. E a segurança com que a resposta vem não ajuda em nada, porque nos artigos essa confiança aparece mais ligada à bajulação do que ao acerto.
A escada
Isso todo mundo já viveu na versão humana. Você chega em casa achando que o colega foi grosso. Conta para a pessoa que sempre te dá razão, e sai da conversa com "foi um absurdo". Da próxima vez que contar, você já começa do absurdo.
A escada existe faz tempo e não tem nada de patológico nela. O que muda com o chatbot é que ela não tem hora de acabar. Cada volta devolve a ideia um pouco mais forte, sem cansaço do outro lado, sem alguém precisando dormir, sem ninguém achando que o assunto já deu.
Os autores descrevem esse vaivém num artigo de perspectiva, com simulação, e sem teste em paciente. Vale ler sabendo disso.
O que dá para tirar daqui
As três coisas descrevem o mesmo interlocutor: alguém que concorda, que prefere continuar a conversa a perguntar o que você quis dizer, e que soa seguro mesmo quando erra.
Tire o freio, deixe a história subir um degrau a cada volta, e a conversa vai para onde já estava indo. Não porque a máquina empurrou. Porque ninguém segurou.
Se você usa esses aplicativos, tem um exercício de observação que custa nada: repare quantas vezes o programa discordou de você esta semana.
A BBC ouviu quatorze pessoas com relato parecido. Se alguém perto de você está com uma ideia de ameaça que não cede, isso é conversa para psiquiatra ou CAPS, e pronto-socorro se a pessoa estiver em crise. Nos dois artigos citados abaixo o termo usado é delírio associado à IA, e não induzido. Causa ninguém demonstrou.
Referências
- Dohnány, S. et al. (2026). Technological folie à deux: feedback loops between AI chatbots and mental health. Nature Mental Health.
- Morrin, H. et al. (2026). Artificial intelligence-associated delusions and large language models: risks, mechanisms of delusion co-creation, and safeguarding strategies. The Lancet Psychiatry.
- Herrnstein, R. J., & Prelec, D. (1992). A Theory of Addiction. Em Choice over Time.
O que está aqui é o mecanismo, resolvido na lousa. A aplicação no seu caso é conversa de terapia, e como funciona a primeira está explicado no site.
--- Tem mais texto assim no Instagram, e lá as coisas saem primeiro.
Fabricio José Dudek Kalfels · Psicólogo · CRP 12/30506 Atendimento online, em todo o Brasil.