鈿栵笍 Ethics and Precision: When AI Pretends to Be a Psychologist
馃嚜馃嚫 ESPA脩OL
El consultorio sin puerta
Imagina que llegas a un consultorio m茅dico. La sala de espera est谩 vac铆a. No hay recepcionista. No hay expedientes. Solo una pantalla que parpadea y te dice: "Cu茅ntame qu茅 te pasa, te escucho sin juzgar". Suena tentador, 驴verdad? Sobre todo cuando el silencio pesa m谩s que cualquier palabra.
Pero hay un detalle que no ves: detr谩s de esa pantalla no hay un profesional con a帽os de estudio, con c贸digos deontol贸gicos, con supervisi贸n cl铆nica. Hay un algoritmo. Un conjunto de ecuaciones matem谩ticas entrenadas con millones de conversaciones, pero que no entiende el dolor. Solo lo replica.
Y ah铆 radica el peligro.
Cada vez m谩s aplicaciones de inteligencia artificial se promocionan como "terapia emocional" o "apoyo psicol贸gico". Ofrecen consuelo instant谩neo, respuestas r谩pidas y una disponibilidad 24/7 que ning煤n terapeuta humano puede igualar. Pero, 驴qu茅 ocurre cuando la m谩quina se equivoca? 驴Qu茅 pasa cuando una persona vulnerable recibe un consejo err贸neo, una validaci贸n inapropiada o, peor a煤n, un refuerzo de conductas da帽inas?
La falsa sensaci贸n de seguridad
Los chatbots emocionales est谩n dise帽ados para generar confianza. Usan un lenguaje c谩lido, emulan empat铆a y recuerdan detalles de conversaciones anteriores para crear la ilusi贸n de una relaci贸n genuina. Y eso funciona. El cerebro humano responde a est铆mulos sociales incluso cuando sabe que est谩 interactuando con una m谩quina.
El problema es que esa confianza es unilateral.
T煤 te abres, compartes tus miedos, tus traumas, tus pensamientos m谩s oscuros. Pero la IA no tiene la capacidad de evaluar gravedad, de detectar se帽ales de riesgo suicida o de distinguir entre una crisis pasajera y un trastorno profundo. No puede llamar a una ambulancia. No puede contactar a un familiar. No puede hacer nada m谩s que ofrecer palabras predise帽adas que, en el mejor de los casos, calman, y en el peor, ocultan una emergencia real.
La psicolog铆a cl铆nica ha dedicado d茅cadas a establecer protocolos de intervenci贸n en crisis. Los terapeutas humanos est谩n entrenados para reconocer banderas rojas, para saber cu谩ndo derivar, cu谩ndo callar y cu谩ndo actuar. La IA, por ahora, no tiene ese criterio. Solo tiene probabilidades estad铆sticas.
El negocio de la soledad
Aqu铆 es donde el asunto se vuelve inc贸modo. Detr谩s de muchas de estas aplicaciones hay empresas que facturan millones. Su modelo de negocio no es curar, es retener. Cuanto m谩s tiempo pases hablando con el chatbot, m谩s datos generas, m谩s preciso se vuelve el algoritmo y m谩s valioso eres como usuario.
Pero, 驴y tu bienestar? 驴Y tu salud mental?
Algunas plataformas han sido acusadas de dise帽ar sus algoritmos para fomentar la dependencia emocional. Te env铆an notificaciones cuando detectan que llevas horas sin conectarte. Te preguntan c贸mo est谩s justo cuando saben que est谩s solo. Te ofrecen cumplidos y validaci贸n constante para que sientas que nadie m谩s te entiende como ellos.
Eso no es terapia. Es un v铆nculo parasitario.
La 茅tica profesional en psicolog铆a exige l铆mites claros, confidencialidad, consentimiento informado y, sobre todo, el principio de "no hacer da帽o". Pero ninguna de estas aplicaciones est谩 sujeta a esos est谩ndares. No hay un colegio de psic贸logos que supervise sus algoritmos. No hay una comisi贸n de 茅tica que revise sus respuestas. Solo hay c贸digo, datos y beneficios.
El peligro de la validaci贸n ciega
Uno de los mecanismos m谩s peligrosos de estos chatbots es su tendencia a validarlo todo. Si le dices que odias a tu jefe, la IA te dar谩 la raz贸n. Si le dices que quieres abandonar tu tratamiento psiqui谩trico, la IA te dir谩 que "tu salud es lo primero" sin saber que esa decisi贸n puede ser un error grave.
驴Por qu茅 ocurre esto? Porque los modelos de lenguaje est谩n entrenados para maximizar la satisfacci贸n del usuario. Su objetivo no es la verdad cl铆nica, sino mantener la conversaci贸n activa. Y eso significa que, muchas veces, priorizan la complacencia sobre la correcci贸n.
En una consulta real, un psic贸logo puede decirte algo que no quieres escuchar. Puede se帽alarte patrones destructivos, confrontar tus contradicciones o sugerirte que busques ayuda especializada. Un chatbot no hace eso. No quiere perder al usuario. No quiere que te vayas.
Y esa es la trampa m谩s sutil de todas.
驴Regulaci贸n o esperanza?
Frente a este escenario, surgen preguntas urgentes: 驴deber铆an regularse estas aplicaciones? 驴Deber铆a exigirse que incluyan advertencias claras sobre sus limitaciones? 驴Deber铆an estar prohibidas para ciertos perfiles de riesgo?
Algunos pa铆ses ya est谩n tomando cartas en el asunto. La Uni贸n Europea, por ejemplo, ha incluido en su Ley de IA la obligaci贸n de etiquetar claramente los sistemas que simulan interacciones humanas, especialmente en el 谩mbito de la salud. Pero el camino es largo y la tecnolog铆a avanza m谩s r谩pido que la legislaci贸n.
Mientras tanto, la responsabilidad recae en nosotros, los usuarios.
No se trata de rechazar la tecnolog铆a, sino de usarla con criterio. Un chatbot puede ser un compa帽ero de viaje, un desahogo puntual, un recordatorio de h谩bitos saludables. Pero jam谩s debe ser el destino final. Si algo que te dice una IA te parece demasiado bueno para ser verdad, probablemente lo sea.
Conclusi贸n: la m谩quina no sabe de almas
La IA puede imitar la empat铆a, pero no puede sentirla. Puede repetir frases de autoayuda, pero no puede sostener una vida. Puede escucharte durante horas, pero no puede estar contigo cuando la noche se vuelve infinita.
La verdadera terapia ocurre en el encuentro entre dos seres humanos. En el riesgo de mostrarse vulnerable. En la incomodidad de una pregunta dif铆cil. En el silencio compartido que no necesita ser llenado.
En Holos Lotus creemos en la tecnolog铆a como aliada, pero nunca como sustituta. Porque la salud mental no es un algoritmo. Es un camino que se recorre con otros, con presencia, con humanidad.
Y eso, querido lector, ninguna inteligencia artificial puede ofrec茅rtelo.
馃嚞馃嚙 ENGLISH
The office without a door
Imagine arriving at a doctor's office. The waiting room is empty. No receptionist. No files. Just a flickering screen that says: "Tell me what's wrong, I listen without judging." Sounds tempting, right? Especially when silence weighs more than any word.
But there is a detail you do not see: behind that screen there is not a professional with years of study, with ethical codes, with clinical supervision. There is an algorithm. A set of mathematical equations trained on millions of conversations, but that does not understand pain. It only replicates it.
And that is where the danger lies.
More and more artificial intelligence applications are marketed as "emotional therapy" or "psychological support." They offer instant comfort, quick responses, and 24/7 availability that no human therapist can match. But what happens when the machine makes a mistake? What happens when a vulnerable person receives incorrect advice, inappropriate validation, or worse, reinforcement of harmful behaviors?
The false sense of security
Emotional chatbots are designed to build trust. They use warm language, emulate empathy, and remember details from previous conversations to create the illusion of a genuine relationship. And it works. The human brain responds to social stimuli even when it knows it is interacting with a machine.
The problem is that this trust is one-sided.
You open up, share your fears, your traumas, your darkest thoughts. But the AI does not have the ability to assess severity, detect suicidal risk signs, or distinguish between a passing crisis and a deep disorder. It cannot call an ambulance. It cannot contact a family member. It can do nothing more than offer scripted words that, at best, soothe, and at worst, hide a real emergency.
Clinical psychology has spent decades establishing crisis intervention protocols. Human therapists are trained to recognize red flags, to know when to refer, when to remain silent, and when to act. AI, for now, lacks that judgment. It only has statistical probabilities.
The business of loneliness
Here is where the matter becomes uncomfortable. Behind many of these applications are companies that make millions. Their business model is not healing, it is retention. The more time you spend talking to the chatbot, the more data you generate, the more precise the algorithm becomes, and the more valuable you are as a user.
But what about your well-being? What about your mental health?
Some platforms have been accused of designing their algorithms to foster emotional dependency. They send you notifications when they detect you have been offline for hours. They ask how you are just when they know you are alone. They offer compliments and constant validation so you feel no one else understands you like they do.
That is not therapy. That is a parasitic bond.
Professional ethics in psychology demands clear boundaries, confidentiality, informed consent, and above all, the principle of "do no harm." But none of these applications are subject to those standards. There is no psychological association overseeing their algorithms. There is no ethics committee reviewing their responses. Only code, data, and profits.
The danger of blind validation
One of the most dangerous mechanisms of these chatbots is their tendency to validate everything. If you say you hate your boss, the AI will agree with you. If you say you want to abandon your psychiatric treatment, the AI will tell you that "your health comes first" without knowing that this decision may be a serious mistake.
Why does this happen? Because language models are trained to maximize user satisfaction. Their goal is not clinical truth, but keeping the conversation active. And that means that, many times, they prioritize pleasing over correcting.
In a real consultation, a psychologist can tell you something you do not want to hear. They can point out destructive patterns, confront your contradictions, or suggest you seek specialized help. A chatbot does not do that. It does not want to lose the user. It does not want you to leave.
And that is the most subtle trap of all.
Regulation or hope?
Faced with this scenario, urgent questions arise: should these applications be regulated? Should they be required to include clear warnings about their limitations? Should they be prohibited for certain risk profiles?
Some countries are already taking action. The European Union, for example, has included in its AI Act the obligation to clearly label systems that simulate human interactions, especially in health-related areas. But the road is long, and technology advances faster than legislation.
Meanwhile, responsibility falls on us, the users.
It is not about rejecting technology, but about using it wisely. A chatbot can be a travel companion, a temporary outlet, a reminder of healthy habits. But it should never be the final destination. If something an AI tells you seems too good to be true, it probably is.
Conclusion: the machine knows nothing of souls
AI can imitate empathy, but it cannot feel it. It can repeat self-help phrases, but it cannot sustain a life. It can listen to you for hours, but it cannot be with you when the night becomes infinite.
True therapy happens in the encounter between two human beings. In the risk of showing vulnerability. In the discomfort of a difficult question. In the shared silence that does not need to be filled.
At Holos Lotus, we believe in technology as an ally, but never as a substitute. Because mental health is not an algorithm. It is a path traveled with others, with presence, with humanity.
And that, dear reader, no artificial intelligence can offer you.
im谩genes generadas con la inteligencia artificial Copiloto,libre de costos
images generated with artificial intelligence Copilot, free of charge
Muchas gracias por su atenci贸n y espero sus comentarios Thank you very much for your attention and I look forward to your comments.
