O Efeito ELIZA: por que um código de 1966 fez as pessoas pedirem privacidade
Em 1966, Joseph Weizenbaum escreveu no MIT um programa chamado ELIZA. A intenção dele era satírica. Ele queria mostrar que a conversa entre pessoas é mais superficial do que a gente gosta de admitir, e que dava para imitar um pedaço dela com quase nada.
A lógica do código era mesmo infantil. Ele pegava o que você digitava e devolvia em forma de pergunta.
Você: "Estou triste." ELIZA: "Por que você diz que está triste?"
Quando faltava palavra-chave para trabalhar, o programa mandava a resposta coringa: "conte-me mais sobre isso". E bastava. As pessoas ficavam ali por horas.
O episódio que estragou a piada
A parte que Weizenbaum contou depois, e que ficou famosa, envolve a secretária dele. Ela sabia o básico de programação e sabia perfeitamente o que era aquele programa.
Em poucos dias, ela pediu que ele saísse da sala. Queria conversar com a ELIZA em particular.
Tem um detalhe que costuma ficar de fora e que é o melhor da história: quando ela descobriu que ele lia as transcrições das conversas, ficou indignada e o acusou de bisbilhotar a intimidade das pessoas. Ou seja, ela não só tratou o programa como interlocutor. Ela reivindicou sigilo.
O que os profissionais fizeram com aquilo
Aqui eu preciso corrigir uma coisa que eu mesmo publiquei numa versão anterior deste material. Eu escrevi que médicos da época publicaram que o programa logo substituiria terapeutas humanos. Fui conferir e a frase não se sustenta.
O que Colby e colegas publicaram em 1966 foi outra coisa, e na minha leitura é pior. Eles propuseram que várias centenas de pacientes por hora poderiam ser atendidas por um sistema de computador projetado para isso, e fizeram questão de dizer que o terapeuta humano não seria substituído: ele se tornaria um homem muito mais eficiente.
Ninguém prometeu trocar o terapeuta pela máquina. Prometeram escalar o terapeuta. "Várias centenas de pacientes por hora" é uma frase que merecia ficar emoldurada em alguma sala de aula.
O que assustou Weizenbaum não foi o programa. Foi a quantidade de psiquiatras em exercício que achou a ideia boa e começou a trabalhar para viabilizá-la.
Não tinha ninguém ali
Convém lembrar do que a máquina era. Ela não entendia uma única palavra de inglês. Sem memória, sem consciência, sem nada parecido com sentimento. Um casamento de padrões e uma tabela de respostas.
A máquina não entregou afeto nenhum, porque não tinha afeto para entregar. Quem fez cem por cento do trabalho emocional foi o cérebro da secretária.
O nome disso é Efeito ELIZA: a compulsão de enxergar mente, intenção e acolhimento onde só existe código devolvendo texto.
Por que a gente cai, e cai fácil
A explicação que eu acho mais econômica é a de história natural. A gente passou alguns milhões de anos num mundo onde a única coisa que produzia linguagem era outra pessoa. Nesse mundo, "isso está conversando comigo" e "tem alguém vivo aqui" eram a mesma informação, e tratar as duas como a mesma coisa nunca custou nada.
O aparelho que faz essa inferência continua instalado e não veio com interruptor. Saber que é um programa não desliga a impressão, do mesmo jeito que saber o nome de uma ilusão de ótica não faz as linhas pararem de entortar.
O truque continua o mesmo
O ChatGPT escreve muito melhor que a ELIZA. A estrutura do que acontece com você não mudou.
Ele não te escuta. É um espelho bem polido, e o calor que aparece na conversa nunca veio do servidor. Ele vem do seu próprio cérebro, fazendo hora extra para preencher o outro lado.
Isso não é defeito de caráter e não é sinal de nada. É a mesma máquina que faz você ver cara na tomada. Só que agora a tomada responde.
Referências
- Weizenbaum, J. (1966). ELIZA: a computer program for the study of natural language communication between man and machine. Communications of the ACM, 9(1).
- Weizenbaum, J. (1976). Computer Power and Human Reason: From Judgment to Calculation. W. H. Freeman.
- Colby, K. M., Watt, J. B., & Gilbert, J. P. (1966). A computer method of psychotherapy. The Journal of Nervous and Mental Disease.
- Turkle, S. (2011). Alone Together: Why We Expect More from Technology and Less from Each Other. Basic Books.
O que está aqui é o mecanismo, resolvido na lousa. A aplicação no seu caso é conversa de terapia, e como funciona a primeira está explicado no site.
--- Se você já agradeceu à Alexa, a gente tem assunto. Eu publico essas coisas primeiro no Instagram.
Fabricio José Dudek Kalfels · Psicólogo · CRP 12/30506 Atendimento online, em todo o Brasil.