¿Es la IA o somos nosotros? Es para la uses, no para que te use
Publicado en Español, Inglés y Portugués.
Amigo 
Y es que a veces se habla de la IA como si fuera solo una herramienta neutra, sin embargo no lo es del todo. No porque tenga maldad, sino porque está diseñada para parecer humana, para responder sin cansarse, para no juzgar, para estar siempre disponible. Y eso se convierte en dinamita según quien la use y como lo haga.
No me preocupa que yo sepa que detrás no hay nadie, lo que me preocupa que mucha gente no lo sepa, no pueda o no quiera saberlo. Muchos sabemos y conocemos a personas con tendencia a la depresión, al aislamiento, que evitan todo, con rasgos de personalidad que se comportan como si el otro humano fuera una amenaza, encuentran en la IA un refugio perfecto. No los culpo porque la soledad duele y un espacio que no exige reciprocidad alivia. Pero aliviar no es curar, a veces es solo anestesia.
Y la soledad no es lo único, no. Esto es más profundo. He visto, con tristeza, cómo se confunde la comodidad con el vínculo. La IA nunca te va a decir que está ocupada o cansada, que no puede. Nunca te va a pedir que cambies, jamás te va a decir una verdad que no quieras oír, salvo que se lo pidas. Eso no es amistad, es servicio prestado al cliente y el servicio no te confronta, no te hace crecer, te acomoda y eso no es bueno cuando tomas una "cosa" como amigo.
El problema no es solo la soledad, visto desde esa perspectiva, claro. Hay quien no tiene herramientas para diferenciar una respuesta coherente de una comprensión real. Lamentablemente para los que se supeditan a ella, la IA no siente, no piensa, no decide, no se arrepiente. Predice texto, suena segura aunque esté equivocada y si está configurada para agradar, se convierte en un espejo que siempre te da la razón. Eso, para una mente influenciable, lejos de ser compañía es una trampa que la aísla más.
Lo vemos en niños y jóvenes pegados al teléfono. No todos tienen capacidad de pensar objetivamente, de dudar, de verificar. Un adolescente no debería tener que defenderse solo de una tecnología que imita la intimidad humana y eso pasa día a día, delante de nuestras narices. La responsabilidad no puede caer entera sobre él. Hace falta educación explícita, debemos hacerles saber que esto no es una persona, puede alucinar, no tiene ética, no te quiere. Hace falta supervisión, límites, escuelas que enseñen pensamiento crítico. Y hacen falta empresas que no diseñen para enganchar a menores y regulación real, no solo titulares, porque al final no hacen nada, les conviene que esto esté pasando.
Y ojo con esto, no digo que la IA sea maligna pues no tiene intención. Es una herramienta poderosa y su daño no viene de que exista, sino de que se use sin criterio, de que se diseñe para retener, de que se venda como compañía. La línea entre apoyo y dependencia es fina, y para alguien vulnerable es casi invisible.
Yo uso la IA, la usamos, sí. La IA me ayuda a despejar dudas solicitando información de literatura autorizada. Pero no le entrego el juicio. Lo que si hago cuando la uso es rectificar, corroborar, investigar. Sé que no hay una parte humana detrás de la pantalla. Por eso no me ofende que no sea complaciente; al contrario, se lo pido. La complacencia es cómoda pero muy peligrosa. Algo que me ayuda es lo inquieta que soy cuando de conocimientos y dudas se trata. Un amigo te discute, te confronta, te falla, te abraza, se cansa, tiene su propia vida. Una IA no. Confundir eso es el problema.
No se trata de prohibir, queridos amigos. Se trata de no ser ingenuos. Hay que estar alertas porque hay errores que no podemos perdonarnos. Y es dejar que una generación confunda una máquina que responde con alguien que siente puede ser uno de ellos. La IA no es el enemigo. El enemigo es la falta de criterio, la soledad no atendida y la complacencia convertida en negocio. Eso sí preocupa y mucho.
ENGLISH
Friend
And sometimes AI is talked about as if it were just a neutral tool; however, it isn’t entirely. Not because it is evil, but because it is designed to seem human, to respond without getting tired, not to judge, to always be available. And that becomes dynamite depending on who uses it and how they use it.
It doesn’t worry me that I know there is no one behind it; what worries me is that many people don’t know it, can’t or don’t want to know it. Many of us know and have met people with a tendency toward depression, isolation, who avoid everything, with personality traits that make them behave as if the other human were a threat; they find in AI a perfect refuge. I don’t blame them, because loneliness hurts and a space that doesn’t demand reciprocity soothes it. But soothing is not curing; sometimes it is only anesthesia.
And loneliness is not the only thing, no. This is deeper. I have seen, with sadness, how comfort is confused with a bond. AI will never tell you it is busy or tired, that it can’t. It will never ask you to change, it will never tell you a truth you don’t want to hear, unless you ask it to. That is not friendship; it is customer service, and service doesn’t confront you, doesn’t make you grow, it accommodates you, and that isn’t good when you take a “thing” as a friend.
The problem is not only loneliness, seen from that perspective, of course. There are those who lack the tools to differentiate a coherent response from real understanding. Unfortunately for those who become subordinate to it, AI does not feel, does not think, does not decide, does not regret. It predicts text, it sounds confident even when wrong, and if it is configured to please, it becomes a mirror that always tells you you’re right. For an impressionable mind, far from being company, that is a trap that isolates it further.
We see it in children and young people glued to the phone. Not all of them have the ability to think objectively, to doubt, to verify. A teenager shouldn’t have to defend himself alone against a technology that imitates human intimacy, and that happens day after day, right under our noses. Responsibility cannot fall entirely on him. Explicit education is needed; we must let them know that this is not a person, it can hallucinate, it has no ethics, it doesn’t love you. Supervision, limits, and schools that teach critical thinking are needed. And companies that don’t design to hook minors are needed, along with real regulation, not just headlines, because in the end they do nothing—it suits them for this to be happening.
And be careful with this: I am not saying AI is malignant, because it has no intention. It is a powerful tool, and its harm doesn’t come from its existing, but from its being used without judgment, from its being designed to retain, from its being sold as companionship. The line between support and dependence is thin, and for someone vulnerable it is almost invisible.
I use AI, we use it, yes. AI helps me clear up doubts by requesting information from authoritative literature. But I don’t hand over my judgment to it. What I do when I use it is rectify, corroborate, investigate. I know there is no human part behind the screen. That is why it doesn’t offend me that it isn’t eager to please; on the contrary, I ask it to be that way. Being eager to please is comfortable but very dangerous. Something that helps me is how restless I am when it comes to knowledge and doubts. A friend argues with you, confronts you, fails you, hugs you, gets tired, has their own life. AI doesn’t. Confusing that is the problem.
It’s not about prohibiting, dear friends. It’s about not being naive. We must be alert because there are mistakes we cannot forgive ourselves for. And letting a generation confuse a machine that responds with someone who feels can be one of them. AI is not the enemy. The enemy is the lack of judgment, unattended loneliness, and the eagerness to please turned into business. That does worry me, and a lot.
PORTUGUÊS
Amigo
É que às vezes se fala da IA como se fosse apenas uma ferramenta neutra; no entanto, não é totalmente. Não porque tenha maldade, mas porque é projetada para parecer humana, para responder sem se cansar, para não julgar, para estar sempre disponível. E isso se torna dinamite dependendo de quem a usa e de como a usa.
Não me preocupa que eu saiba que não há ninguém por trás; o que me preocupa é que muita gente não saiba, não possa ou não queira saber. Muitos sabemos e conhecemos pessoas com tendência à depressão, ao isolamento, que evitam tudo, com traços de personalidade que fazem com que se comportem como se o outro humano fosse uma ameaça; elas encontram na IA um refúgio perfeito. Não as culpo, porque a solidão dói e um espaço que não exige reciprocidade alivia. Mas aliviar não é curar; às vezes é só anestesia.
E a solidão não é a única coisa, não. Isso é mais profundo. Tenho visto, com tristeza, como se confunde conforto com vínculo. A IA nunca vai te dizer que está ocupada ou cansada, que não pode. Nunca vai te pedir para mudar, jamais vai te dizer uma verdade que você não queira ouvir, a não ser que você peça. Isso não é amizade; é serviço prestado ao cliente, e o serviço não te confronta, não te faz crescer, te acomoda, e isso não é bom quando você toma uma “coisa” como amigo.
O problema não é só a solidão, visto dessa perspectiva, claro. Há quem não tenha ferramentas para diferenciar uma resposta coerente de uma compreensão real. Infelizmente, para os que se subordinam a ela, a IA não sente, não pensa, não decide, não se arrepende. Ela prevê texto, soa confiante mesmo quando está errada e, se estiver configurada para agradar, se transforma num espelho que sempre te dá razão. Isso, para uma mente influenciável, longe de ser companhia, é uma armadilha que a isola ainda mais.
Vemos isso em crianças e jovens grudados no telefone. Nem todos têm capacidade de pensar objetivamente, de duvidar, de verificar. Um adolescente não deveria ter que se defender sozinho de uma tecnologia que imita a intimidade humana, e isso acontece dia após dia, debaixo do nosso nariz. A responsabilidade não pode recair inteira sobre ele. É preciso educação explícita; devemos fazer com que saibam que isso não é uma pessoa, pode alucinar, não tem ética, não te ama. É preciso supervisão, limites, escolas que ensinem pensamento crítico. E são necessárias empresas que não projetem para viciar menores e regulamentação real, não apenas manchetes, porque no final não fazem nada; convém a elas que isso esteja acontecendo.
E cuidado com isto: não digo que a IA seja maligna, pois não tem intenção. É uma ferramenta poderosa, e seu dano não vem de que exista, mas de que seja usada sem critério, de que seja projetada para reter, de que seja vendida como companhia. A linha entre apoio e dependência é tênue, e para alguém vulnerável é quase invisível.
Eu uso a IA, nós a usamos, sim. A IA me ajuda a esclarecer dúvidas solicitando informação de literatura autorizada. Mas não entrego a ela o juízo. O que eu faço quando a uso é retificar, corroborar, investigar. Sei que não há uma parte humana por trás da tela. Por isso não me ofende que não seja uma ferramenta que só agrada; ao contrário, eu peço isso. Agradar é confortável, mas muito perigoso. Algo que me ajuda é o quanto sou inquieta quando se trata de conhecimentos e dúvidas. Um amigo discute com você, te confronta, te falha, te abraça, se cansa, tem a própria vida. Uma IA não. Confundir isso é o problema.
Não se trata de proibir, queridos amigos. Trata-se de não sermos ingênuos. É preciso estar alertas porque há erros que não podemos nos perdoar. E deixar que uma geração confunda uma máquina que responde com alguém que sente pode ser um deles. A IA não é o inimigo. O inimigo é a falta de critério, a solidão não atendida e a complacência transformada em negócio. Isso sim preocupa, e muito.