Intimidade artificial (IA): gentileza não é confiança

Todo médico já viveu esta cena. O paciente chega, senta e, antes de falar da dor, avisa que “já perguntou para a IA”. Há alguns anos, a frase era “vi no Google”. A diferença é que o Google entregava respostas, e o chatbot conversa. Ele acolhe, concorda, tem paciência infinita e nunca olha para o relógio. Há várias pesquisas e discussões sobre acertos e erros nos diagnósticos. Mas há outra questão menos discutida e bastante desconfortável: o que acontece com os relacionamentos quando a IA passa a ocupar o espaço da conversa?

Essa pergunta está no centro do novo livro de Sherry Turkle. Professora do MIT, socióloga e psicóloga clínica, ela estuda há mais de quatro décadas a relação entre pessoas e computadores. Artificial Intimacy: who we become when we talk to machines é uma crítica direta aos chatbots que assumem o papel de confidente e conselheiro. O conceito central é o de “empatia de faz de conta”: a máquina simula compreensão, mas não tem a responsabilidade nem a reciprocidade de uma relação humana com quem está do outro lado. Nas palavras dela, o sistema não se importa se você vai se matar ou cozinhar um macarrão.

Para Turkle, as redes sociais disputavam nossa atenção, enquanto os chatbots vêm atrás de algo mais profundo: a nossa capacidade de criar vínculo. O efeito colateral que mais me preocupa vem daí. Como o chatbot tende a sempre concordar, nunca se cansa e nunca interrompe, as relações humanas começam a parecer trabalhosas demais. O amigo que discorda, o médico que está atrasado. Tudo isso vira atrito. E atrito, lembra ela, é justamente o que nos faz crescer. Não existe intimidade sem vulnerabilidade.

Turkle entende por que tanta gente recorre à máquina. Ela cita um levantamento do governo americano segundo o qual só cerca de metade da população dos Estados Unidos tem acesso a um profissional de saúde mental. O chatbot ocupa um espaço que o sistema de saúde ainda não consegue preencher, mas isso não faz dele um bom substituto. Por isso, precisamos olhar para o problema com senso crítico.

O que a máquina faz bem

Pesquisadores do Google e do Beth Israel Deaconess Medical Center, hospital ligado a Harvard, em Boston, colocaram um sistema conversacional de diagnóstico, o AMIE, para entrevistar pacientes reais antes de consultas ambulatoriais de atenção primária, motivadas por demandas clínicas urgentes. Cada conversa foi acompanhada em tempo real por um médico supervisor, pronto para interromper se algo saísse do trilho. Ao final, a transcrição e um resumo seguiam para o médico que faria a consulta.

Os resultados são, em boa parte, animadores. Entre 98 pacientes que completaram todas as etapas, nenhuma conversa precisou ser interrompida por questão de segurança segundo os critérios previamente definidos no estudo. Houve uma alucinação, sem consequência clínica, e em cinco casos o supervisor complementou informações.

Os planos de conduta propostos pela IA tiveram qualidade global semelhante aos dos médicos, embora os humanos tenham se saído melhor em custo-efetividade e praticidade. Em 90% dos casos, o diagnóstico correto estava entre as sete primeiras hipóteses levantadas pela máquina. Entre os médicos que leram a transcrição antes da consulta, 75% disseram que ela ajudou na preparação.

O dado que mais me chamou a atenção, porém, diz respeito à relação. Os pacientes avaliaram muito bem a cortesia do sistema, a sensação de estarem à vontade e, sobretudo, o fato de terem sido ouvidos.

Os autores reconhecem que essa boa avaliação pode refletir, em parte, uma lacuna nossa: a literatura mostra que médicos frequentemente deixam escapar informações importantes da história clínica e interrompem o paciente em questão de segundos. A máquina não precisou ser genial para agradar. Bastou escutar sem pressa.

Gostaram, mas não confiaram

Aqui está, para mim, o ponto em que Turkle e o estudo se encontram. Os mesmos pacientes que elogiaram a escuta deram as notas mais baixas em dois quesitos muito específicos: confiança no sigilo das informações e percepção de honestidade e confiabilidade. Gostaram da conversa, mas demonstraram mais reservas quando o assunto era confiança.

E há um detalhe ainda mais revelador. Quando médicos e pacientes avaliaram as mesmas conversas em aspectos como mostrar empatia e compreender as preocupações do paciente, os médicos deram notas consistentemente mais altas do que os pacientes. Lido no papel, o diálogo parecia empático. Vivido do outro lado da tela, nem tanto.

Os autores chegam a uma conclusão que me parece fundamental: a confiança dos pacientes em sistemas de IA na saúde pode ser fortalecida pela relação que mantêm com seus profissionais humanos. A tecnologia pega carona num vínculo que ela própria não é capaz de construir.

Vale lembrar também o desenho do estudo. Cada interação teve um médico olhando por cima do ombro da máquina. Pacientes com queixas de saúde mental e gestantes foram excluídos. Os próprios pesquisadores dizem que as evidências ainda não sustentam o uso autônomo para diagnóstico, triagem ou conduta. É um passo importante, feito com rigor. O estudo mostra que é possível usar essa tecnologia com segurança, desde que haja supervisão médica. Não mostra que ela possa substituir o médico.

Menos burocracia, mais presença

Continuo otimista com a inteligência artificial na medicina. Acho que ela vai assumir tarefas repetitivas, organizar a história clínica, preparar o terreno para a consulta e liberar o médico para aquilo que só ele pode fazer. Sempre defendi a IA como copiloto, nunca como piloto.

Mas o livro de Turkle me obriga a acrescentar uma condição. Esse tempo liberado precisa voltar para o paciente. Se usarmos a máquina para atender mais rápido, e não para atender melhor, estaremos terceirizando justamente a parte da medicina que mais importa. E entregando ao paciente uma intimidade artificial no lugar de uma relação de verdade.

Isso tem implicações diretas para a formação médica. Durante muito tempo, ensinamos a coletar dados. Agora a máquina coleta dados com competência. O que precisamos ensinar, com ainda mais ênfase, é como sustentar o atrito: ouvir a história que não cabe no formulário, dar uma notícia difícil, lidar com a raiva, a dúvida e o medo de quem está na nossa frente. A simulação com atores, os pequenos grupos, a supervisão próxima, tudo isso ganha mais valor, não menos, num mundo em que o chatbot é sempre gentil.

Turkle defende que é hora de reivindicar uma vida mais rica no mundo real. Na medicina, isso tem nome e endereço: o consultório, o leito, a conversa olho no olho. A máquina pode nos ensinar a escutar sem interromper. Seria uma ironia triste se, ao aprender isso com ela, desistíssemos de fazer o mesmo.