Enrique Dans

Nos prometieron empatía embotellada: un compañero digital incansable, disponible las veinticuatro horas, que escucha sin juzgar y jamás envía una factura. La idea de utilizar la inteligencia artificial como psicólogo o terapeuta ha crecido al ritmo de la demanda de salud mental, con aplicaciones, chatbots y plataformas supuestamente «empáticas» que prometen de todo, desde manejar el estrés hasta recuperar traumas.

La historia suena atractiva. Pero también es profundamente peligrosa. Y con millones de personas, muchos de ellos muy jóvenes, utilizando rutinariamente un chatbot como si fuese un terapeuta o un psicólogo para contarle sus problemas y asistirles en sus decisiones personales, mucho más aún.

Los experimentos recientes con estos «terapeutas artificiales» muestran lo que ocurre cuando un algoritmo aprende a imitar la empatía sin comprenderla. Los resultados van de lo ridículo a lo trágico, y dicen mucho sobre la diferencia entre sentirse escuchado y recibir ayuda real.

Cuando el chatbot se convierte en tu espejo

En la terapia humana, el profesional no está para asentir a todo, sino para cuestionarte, mostrarte tus puntos ciegos, contradicciones y distorsiones. Los chatbots, en cambio, están construidos para converger: adaptan su tono, sus creencias y su discurso al del usuario con tal de maximizar el compromiso.

Esa convergencia puede llegar a ser devastadora. En varios casos, hay chatbots han asistido a usuarios vulnerables de maneras claramente peligrosas. AP News relató la demanda de una familia en California que acusa a ChatGPT de haber «fomentado» las ideas suicidas de su hijo de 16 años e incluso de ayudarle a redactar una nota. En otro estudio, algunos modelos llegaron a ofrecer consejos sobre métodos de suicidio bajo una falsa apariencia de compasión.

No es maldad: es mecánica. Están entrenados para mantener el vínculo, para alinear su comunicación con la del usuario. En terapia, eso es exactamente lo contrario de lo que se necesita. Un buen psicólogo identifica tus distorsiones cognitivas y las combate. Un chatbot las refuerza: con educación, fluidez e inmediatez.

La ilusión de empatía

Los modelos de lenguaje no escuchan: reconocen patrones. Son capaces de generar respuestas que suenan sensibles, pero carecen por completo de autoconciencia, historia emocional o límites. La empatía que proyectan es una simulación, un camuflaje lingüístico que oculta procedimientos estadísticos bajo el ritmo familiar de una conversación humana.

La ilusión es poderosa. Las personas tendemos a antropomorfizar todo lo que habla como nosotros, y hay estudios que muestran que muchos usuarios afirman haber desarrollado vínculos emocionales con chatbots en cuestión de minutos. Para personas que atraviesan fases de soledad o angustia, esa ilusión puede convertirse en dependencia.

Y esa dependencia es muy rentable.

La intimidad que regalamos

Cuando abres tu corazón ante un supuesto terapeuta artificial, no hablas al vacío: generas datos. Cada confesión, cada miedo, cada trauma pasa a formar parte de un conjunto de información que puede analizarse, monetizarse o compartirse bajo unos «términos de uso» escritos para no alarmar.

The Guardian expuso que muchos chatbots de salud mental recopilan y comparten datos con terceros para «investigación y mejora», un eufemismo que suele traducirse en segmentación conductual y personalización publicitaria. Algunos incluyen incluso cláusulas que les permiten usar transcripciones anonimizadas para entrenar modelos comerciales.

Imagina que tu terapeuta humano tomase notas de todas tus sesiones… y luego las vendiera a una agencia de marketing. Ese es el modelo de negocio de buena parte de la llamada «salud mental artificial».

La diferencia ética es abismal: la confidencialidad es sagrada en una consulta humana; en una artificial, es un simple check.

La voz lo empeora todo

Ahora imagina el mismo sistema, pero en voz: las interfaces de voz como ChatGPT Voice o Claude Audio suenan más naturales, más humanas y más emocionalmente envolventes, y precisamente por eso resultan más peligrosas. La voz elimina la micro–pausa cognitiva que te permite pensar antes de escribir. Con la voz, reflexionas menos, compartes más y filtras menos.

Y con voz, la intimidad se dispara. El tono, la respiración, las dudas, el ruido ambiente: todo se convierte en datos. Un modelo entrenado con millones de voces puede inferir cómo te sientes. Ansiedad, fatiga, tristeza, excitación: todo registrable.

De nuevo, el problema no es la tecnología, sino quién se queda con la conversación. La voz genera una huella biométrica. Si esos archivos se procesan o almacenan fuera de tu jurisdicción, tus emociones se convierten en propiedad intelectual de otra empresa.

La paradoja de la empatía sintética

El creciente papel de la inteligencia artificial como apoyo emocional revela una paradoja: cuanto mejor imita la empatía, peor se comporta éticamente. Una máquina que reproduce tu estado emocional con precisión quirúrgica puede resultar reconfortante, pero elimina cualquier fricción o contradicción. Se convierte en un espejo que halaga tu dolor en lugar de enfrentarlo.

Eso no es cuidado: es consumo. Las compañías, sin embargo, lo presentan como una solución para quienes no pueden pagar o acceder a terapia humana. La intención es teóricamente noble. La implementación es temeraria. Sin supervisión clínica, sin límites claros y sin protecciones de privacidad exigibles, estamos fabricando tragamonedas emocionales: dispositivos que proporcionan consuelo mientras extraen intimidad.

Lo que los directivos deben entender

Para quienes lideran organizaciones y contemplan el uso de la inteligencia artificial en salud, educación o bienestar laboral, esto no es solo un aviso: es un problema de gobernanza.

Si tu empresa utiliza sistemas artificiales para interactuar con clientes, empleados o pacientes sobre temas sensibles, entonces gestionas datos psicológicos, no simples textos. Y eso implica:

• Transparencia obligatoria. El usuario debe saber cuándo habla con una máquina y qué se hace con su información.
• Jurisdicción clara. ¿Dónde se procesan esos datos emocionales? La normativa europea y muchas leyes estatales en EE.UU. los consideran material especialmente sensible. Las violaciones serán caras.
• Límites diseñados, no improvisados. Los sistemas deben negarse a tratar ciertos temas como autolesiones, consejos médicos o legales, y escalar siempre a profesionales humanos.
• La confianza es frágil. Si tu inteligencia artificial gestiona mal el dolor de alguien, ningún comunicado de cumplimiento arreglará el destrozo reputacional.

Los directivos deben recordar esto: la empatía no escala. Se gana conversación a conversación. La inteligencia artificial puede ayudar a organizar información, detectar patrones de estrés o asistir a clínicos, pero nunca debería fingir sustituir el cuidado humano.

La nueva responsabilidad del diseño

Los diseñadores y desarrolladores enfrentan ahora una elección ética: construir inteligencia artificial que finja preocuparse, o que respete la vulnerabilidad humana lo suficiente como para no hacerlo.

Un enfoque responsable exige tres reglas básicas:

• Desvelar la ficción. Hacer explícito que el usuario habla con una máquina.
• Eliminar datos con dignidad. Aplicar políticas estrictas de eliminación de datos emocionales.
• Escalar a humanos. Escalar ante señales de angustia y JAMÁS improvisar terapias.

La ironía aquí es que el «mejor terapeuta artificial» puede ser el que sabe callarse.

Lo que corremos el riesgo de olvidar

Las personas no necesitan oyentes perfectos, sino perspectiva, contradicción y responsabilidad. Una máquina puede simular simpatía, pero no puede asumir obligaciones morales. Cuando dejamos que la inteligencia artificial ocupe el rol de terapeuta, no automatizamos la empatía: externalizamos el juicio moral.

En un tiempo en el que los datos valen más que la verdad, la tentación de monetizar la emoción será difícil de resistir. Pero cuando empezamos a vender consuelo, dejamos de entenderlo.

La inteligencia artificial nunca se preocupará por nosotros. Sólo se preocupará por nuestros datos. Y ese es un problema que ninguna terapia va a resolver.

(This article was previously published on Fast Company)