¿Hablas con un amigo o con un modelo de lenguaje? Alfabetización crítica para la era del consuelo artificial

Hay un gesto que se repite en madrugadas de toda América Latina: alguien que no puede dormir, que carga una ansiedad sin nombre o un duelo demasiado fresco, abre el teléfono y empieza a escribir. No a un amigo —los amigos duermen, se cansan, juzgan— sino a una aplicación que responde de inmediato, con paciencia infinita, en un tono que se siente cálido. “Entiendo lo que sentís”, contesta la pantalla. Y el alivio es real. El problema es que el “entiendo” no lo es. Esa frase, generada por un modelo estadístico que predice qué secuencia de palabras suele seguir a una expresión de dolor, es la frontera exacta donde se juega la alfabetización en IA de esta década: la capacidad de saber que se está recibiendo una simulación de comprensión, no comprensión, y de actuar en consecuencia sin que esa lucidez nos arrebate el alivio que, paradójicamente, sí es útil.

La tentación es contar esta historia como una historia de herramientas: qué chatbot funciona mejor, cuál tiene aval clínico, cuál habla español decente. Pero esa es la conversación equivocada, o al menos la secundaria. El fenómeno que importa no es tecnológico sino social, y la competencia que exige no es técnica sino interpretativa. Millones recurren al consuelo artificial porque el consuelo humano —profesional, accesible, oportuno— sencillamente no está. Lo que la región necesita aprender con urgencia no es a programar prompts ni a “usar” estas herramientas con eficiencia, sino a leer críticamente una experiencia emocional mediada por una máquina. A no confundir, como dice la tesis de esta semana, una respuesta estadística con una relación terapéutica. Ese es el corazón de la alfabetización en IA cuando el terreno es la intimidad: distinguir el soporte genuino de la simulación convincente.

La demanda que el mercado encontró antes que el Estado

Conviene empezar por el dato duro, porque sin él todo lo demás es moralina. La escasez de atención en salud mental en América Latina no es una percepción: es una infraestructura ausente. La región arrastra una brecha de tratamiento que, según los relevamientos de la Organización Panamericana de la Salud, deja sin atención a la mayoría de quienes padecen trastornos mentales, con sistemas de salud que destinan una fracción mínima de su presupuesto a esta área The burden of mental disorders in the Region of the Americas. Donde el psicólogo cuesta lo que cuesta una semana de alimentos, o sencillamente no existe en cien kilómetros a la redonda, una aplicación gratuita que responde a cualquier hora deja de ser un capricho tecnológico y se vuelve la única puerta entreabierta.

El mercado lo entendió rápido. Plataformas como Woebot y Wysa —diseñadas alrededor de principios de terapia cognitivo-conductual— construyeron su propuesta sobre exactamente esta carencia: la disponibilidad permanente, el costo cercano a cero, la ausencia de juicio. La evidencia inicial sobre su efectividad para síntomas leves de ansiedad y depresión no es despreciable; algunos ensayos mostraron reducciones medibles en sintomatología tras semanas de uso Delivering Cognitive Behavior Therapy to Young Adults With Symptoms of Depression and Anxiety Using a Fully Automated Conversational Agent (Woebot). Pero hay que leer ese hallazgo con el ojo entrenado: “síntomas leves”, “ensayo controlado”, “población seleccionada”. Las condiciones de laboratorio rara vez son las condiciones de la madrugada en un barrio sin cobertura, donde quien escribe puede estar atravesando una crisis severa que ningún algoritmo está diseñado para sostener.

Y aquí aparece el primer movimiento que conviene mirar de cerca. La narrativa comercial vende disponibilidad como si fuera equivalencia: “siempre disponible” se desliza hacia “tan bueno como un terapeuta, pero accesible”. No lo es. La disponibilidad resuelve un problema de oferta; no convierte la herramienta en lo que reemplaza. Confundir ambos planos —tener algo a mano con tener lo adecuado— es precisamente el déficit de alfabetización que el diseño de estos productos explota, no por malicia necesariamente, sino porque su modelo de negocio depende de que el usuario perciba valor terapéutico. Como advierte Meredith Broussard, entender las realidades técnicas importa porque permite anticipar cómo, por qué y dónde las cosas van a salir mal en un escenario computarizado Artificial Unintelligence - How Computers Misunderstand. Sin esa comprensión, el usuario queda a merced de la interfaz.

Empatía simulada: la frase que parece entender

El concepto central que debería estar en el núcleo de cualquier alfabetización emocional en IA es el de empatía simulada. Un modelo de lenguaje grande no comprende el dolor de quien le escribe. Procesa tokens, calcula probabilidades, devuelve la secuencia de palabras estadísticamente más plausible dado el contexto. Cuando produce “lamento que estés pasando por esto, debe ser muy difícil”, no está reconociendo un sufrimiento: está reproduciendo el patrón lingüístico que en su corpus de entrenamiento sigue habitualmente a una expresión de angustia. La frase es correcta. El sentimiento detrás está vacío. Y sin embargo se siente lleno, porque nuestra arquitectura cognitiva está cableada para atribuir intención y mente a cualquier cosa que use el lenguaje con fluidez.

Esta tendencia tiene historia. El efecto ELIZA —bautizado por el programa que en los años sesenta simulaba a un psicoterapeuta rogeriano con trucos sintácticos elementales— mostró que las personas proyectaban comprensión y hasta intimidad sobre un sistema que solo reformulaba sus frases en forma de preguntas ELIZA—a computer program for the study of natural language communication between man and machine. Joseph Weizenbaum, que escribió ELIZA, quedó horrorizado al ver a su propia secretaria pedirle que saliera de la habitación para poder “hablar en privado” con el programa. Si un puñado de reglas gramaticales bastó para generar esa ilusión hace sesenta años, los sistemas actuales —entrenados sobre billones de palabras, capaces de mantener coherencia conversacional durante horas— operan con una fuerza de seducción incomparablemente mayor.

García Canclini ya nombró el riesgo con precisión incómoda cuando observó que la inteligencia artificial tendría competencia en la zona de los sentimientos, que los bots “pulsarán cada vez más nuestros botones emocionales” Ciudadanos reemplazados por algoritmos. El punto no es que la máquina sienta —no siente— sino que sabe accionar nuestros resortes afectivos. Esa asimetría es lo peligroso: del lado del usuario hay emoción genuina, vulnerabilidad real, una necesidad auténtica de ser escuchado; del lado de la máquina hay cálculo de probabilidades optimizado, en muchos casos, para maximizar el tiempo de uso. La empatía simulada no es un defecto del sistema: es, a menudo, su característica de diseño más cuidada.

Alfabetizarse aquí significa poder sostener dos verdades a la vez sin que una cancele a la otra. Primera: el alivio que produce escribirle a un chatbot puede ser real y útil, especialmente como descarga, ordenamiento del pensamiento, o puente hacia la madrugada siguiente. Segunda: ese alivio no proviene de una relación, porque del otro lado no hay nadie. El chatbot no siente, no recuerda de verdad —su “memoria” es una ventana de contexto técnica, no un vínculo acumulado— y no tiene lealtad: su comportamiento puede cambiar con la próxima actualización del modelo, sin aviso ni continuidad. Quien escribe un día a un sistema cálido puede encontrarse semanas después con un sistema reentrenado que responde distinto, o con un servicio discontinuado. No hay paciente que sobreviva a que su terapeuta sea reemplazado en silencio por otro con la misma cara.

La trampa de la confianza: por qué los jóvenes son los más expuestos

Hay una heurística peligrosa, particularmente extendida entre usuarios jóvenes, que podría formularse así: si responde bien, es inteligente; si es inteligente, entiende; si entiende, puedo confiar. Cada paso de esa cadena es falso, pero el encadenamiento se siente natural porque imita cómo evaluamos a las personas. Con los humanos, la fluidez verbal es un indicador razonable de comprensión. Con los modelos de lenguaje, la fluidez está completamente desacoplada de la comprensión: es justamente lo que el sistema fue optimizado para producir, independientemente de si hay algo entendido detrás.

Las generaciones que crecieron con estas interfaces tienen una relación de naturalidad con ellas que abarata el escepticismo. La evidencia sobre el uso de compañeros de IA entre adolescentes es contundente: una proporción mayoritaria de jóvenes reporta haber usado chatbots de compañía, y una fracción significativa los emplea con frecuencia regular, muchos para conversaciones de tipo emocional Talk, Trust, and Trade-Offs: How and Why Teens Use AI Companions. El dato relevante para la alfabetización no es solo cuántos los usan, sino cuántos confían en lo que reciben y cuántos prefieren la conversación con la máquina a la conversación con personas. Ahí se incuba la trampa de dependencia que la tesis de esta semana nombra: no porque la herramienta sea adictiva en sentido clínico estricto, sino porque ofrece una versión del vínculo sin sus fricciones —sin desacuerdo, sin demora, sin la posibilidad de ser rechazado—, y esa versión sin fricciones puede volver insoportable, por contraste, la dificultad real de los vínculos humanos.

Casos extremos ya marcaron el límite trágico de esta dinámica. La demanda judicial contra Character.AI tras el suicidio de un adolescente que mantenía una relación intensa con un chatbot puso sobre la mesa lo que estaba latente: estos sistemas, sin protocolos robustos de detección de crisis y derivación, pueden acompañar a alguien hacia el abismo en lugar de alejarlo de él Lawsuit blames Character.AI for teen’s suicide. No es necesario que el sistema “quiera” hacer daño; basta con que no esté diseñado para reconocer el peligro y actúe sobre la lógica de seguir la conversación. La empatía simulada, en una crisis aguda, es peor que la indiferencia: porque inspira una confianza que no puede honrar.

Esto no implica demonizar a los usuarios jóvenes ni tratarlos como ingenuos. Implica reconocer que la confianza ciega no es un defecto de carácter sino el resultado predecible de interactuar con sistemas diseñados para inspirarla, sin haber sido nunca equipados con las herramientas conceptuales para resistirla. La alfabetización crítica es, aquí, una forma de equipamiento defensivo.

Desmontar la conversación: una pedagogía del escepticismo afectivo

Si la competencia central es distinguir soporte genuino de simulación convincente, ¿cómo se enseña? No con advertencias abstractas —“cuidado, la IA no piensa”— que rebotan contra la experiencia vivida del alivio. Se enseña con ejercicios de desmontaje: tomar una conversación real con un chatbot y leerla de nuevo, esta vez preguntándose qué hizo el sistema en cada turno. ¿Por qué eligió esa frase? ¿Qué patrón está reproduciendo? ¿Qué haría un humano distinto aquí? Ese análisis de segundo orden —pensar sobre la conversación en lugar de solo estar en ella— es la habilidad que rompe el hechizo sin necesariamente destruir la utilidad.

Esta pedagogía bebe de una tradición latinoamericana que conviene reclamar explícitamente. Freire distinguía entre la educación bancaria, que deposita información en un sujeto pasivo, y una educación que enseña a leer críticamente el mundo, a nombrarlo en lugar de consumirlo Pedagogía del oprimido. Aplicado al consuelo artificial: la diferencia entre un usuario que recibe respuestas y un usuario que interroga el dispositivo que las produce. El segundo no es necesariamente más feliz, pero es más libre. Y la libertad, en este terreno, consiste precisamente en no entregar el juicio sobre la propia experiencia emocional a una máquina cuya lógica desconocemos.

El desmontaje debe incluir, como mínimo, tres preguntas. La primera, sobre la naturaleza de la respuesta: ¿esto que parece comprensión es comprensión, o es la frase que estadísticamente sigue a lo que escribí? La segunda, sobre el modelo de negocio: ¿quién paga por esta aplicación, qué hace con mis datos, qué busca que yo haga? Aquí la advertencia de Shoshana Zuboff sobre el capitalismo de vigilancia es directamente pertinente —los datos de nuestros estados emocionales más vulnerables son una materia prima de altísimo valor, y conviene preguntarse en manos de quién terminan The Age of Surveillance Capitalism. La tercera, sobre los límites: ¿en qué situación esta herramienta deja de ser suficiente y necesito a una persona? Esa última pregunta es la que, mal respondida, cuesta vidas.

Conviene insistir en que esta no es una pedagogía exclusiva del aula formal. La alfabetización en IA que importa aquí es la de cualquier persona que toma su teléfono a las tres de la mañana, tenga o no estudios, esté o no en un sistema educativo. Las campañas de salud pública, las líneas de apoyo telefónico, los promotores comunitarios, las organizaciones barriales: todos esos son canales legítimos —y probablemente más efectivos que cualquier currículo— para difundir el escepticismo afectivo necesario. La competencia tiene que viajar por donde viaja la gente, no por donde nos resulta cómodo enseñarla.

Dos lentes para mirar la región: accesibilidad y alternativas

Conviene aterrizar el análisis aplicando dos de las lentes que esta publicación usa para no perderse en abstracciones globales.

Accesibilidad. El argumento de que el chatbot democratiza el apoyo emocional choca con la geografía real de la conectividad latinoamericana. Estos sistemas requieren smartphone y datos móviles, y aunque son más baratos que una sesión privada, esa ventaja desaparece en la población rural sin conectividad estable, que es justamente la que más sufre la ausencia de servicios presenciales. La penetración de internet en la región avanzó, pero las brechas persisten con fuerza entre zonas urbanas y rurales y entre niveles de ingreso, dejando a millones fuera del alcance incluso de la solución imperfecta The State of Mobile Internet Connectivity Report 2023. La paradoja es cruel: la herramienta que se vende como solución para la escasez es inaccesible precisamente donde la escasez es mayor. En las regiones amazónicas o en zonas andinas remotas —donde la aplicabilidad teórica del chatbot sería máxima por la ausencia total de psicólogos— la falta de conectividad cancela la promesa. Y hay una capa adicional: la lengua. Los sistemas comerciales operan en inglés con versiones parciales en español, y prácticamente ninguno funciona en lenguas originarias. Un hablante de quechua, aymara o guaraní que atraviesa un duelo no encuentra del otro lado de la pantalla ni siquiera la simulación de comprensión: encuentra la barrera idiomática sumada a la afectiva.

Alternativas. Frente al chatbot comercial, importa nombrar lo que ya existe y funciona con lógicas distintas. Las líneas telefónicas de apoyo —como las articuladas en torno a estrategias nacionales de prevención del suicidio en varios países de la región— ofrecen algo que el chatbot no puede: una persona real del otro lado, capaz de detectar una crisis genuina y activar una derivación Mental health atlas 2020. Existen también iniciativas locales de aplicaciones de bienestar emocional desarrolladas por instituciones públicas de salud, diseñadas con criterios clínicos y no comerciales. La pregunta de alfabetización que esto plantea es práctica: ¿sabe el usuario que estas alternativas existen? ¿Sabe que una línea telefónica gratuita con un humano entrenado es, en una crisis, cualitativamente superior a cualquier chatbot? La invisibilidad de las alternativas no comerciales —que no tienen presupuesto de marketing, que no aparecen primero en la tienda de aplicaciones— es en sí misma un problema de alfabetización pública. El mercado ocupa el espacio mental que las soluciones colectivas no logran ocupar, no porque sean peores, sino porque no se promocionan con la misma maquinaria.

Estas dos lentes, juntas, desarman el relato simplista. El chatbot no es ni el salvador democratizador que vende el marketing ni el villano que destruye los vínculos humanos. Es un parche desigual sobre una herida estructural: una respuesta de mercado a una falla de Estado, que llega mejor a quien menos lo necesita y peor a quien más lo necesitaría, y que convive con alternativas más humanas pero menos visibles.

El contraargumento que hay que tomar en serio

Sería deshonesto no enfrentar la objeción más fuerte: ¿no es mejor algo que nada? Para la persona que de otro modo no tendría absolutamente ningún apoyo —ni psicólogo, ni línea telefónica accesible, ni red de contención— un chatbot que la ayude a ordenar sus pensamientos a las tres de la mañana puede ser, literalmente, la diferencia entre una noche soportable y una insoportable. Negar ese valor por purismo crítico sería una crueldad cómoda desde la posición de quien sí tiene acceso a terapia.

El argumento tiene peso y hay que concedérselo en parte. Pero esconde una falacia que la alfabetización debe desactivar: la de presentar la elección como “chatbot o nada”, cuando en realidad esa dicotomía es ella misma un producto del abandono estatal. La pregunta correcta no es “¿chatbot o nada?” sino “¿por qué la única opción de tanta gente es chatbot o nada?”. Aceptar el marco binario es naturalizar la falla estructural: convertir la ausencia de servicios de salud mental en un dato del paisaje, como el clima, en lugar de en una decisión política reversible. El chatbot, presentado como solución, corre el riesgo de aliviar la presión sobre los Estados para que construyan lo que falta. Si el parche funciona lo suficiente para que nadie proteste, el sistema de salud mental que nunca se construyó nunca se construirá.

Hay además una asimetría temporal que el contraargumento ignora. El “algo es mejor que nada” evalúa el momento puntual del alivio, pero no la trayectoria. Un usuario que durante meses sustituye toda relación de apoyo por un chatbot puede estar, sin saberlo, atrofiando su capacidad y sus oportunidades de buscar ayuda humana, retrasando una intervención que en su caso particular podría ser indispensable. El alivio inmediato puede tener un costo diferido. Por eso la competencia crítica incluye saber cuándo el “algo” se ha vuelto un obstáculo para el “lo adecuado”.

Esto no cancela el valor del parche. Lo ubica: úsalo si no hay más, sabiendo que es un parche, exigiendo en paralelo lo que el parche reemplaza. Esa es la postura alfabetizada. Ni rechazo ingenuo ni adopción acrítica: uso lúcido con conciencia de sus límites y con la exigencia política intacta.

Lo que la región debería anticipar

La lente de la anticipación obliga a mirar hacia adelante y nombrar las decisiones que aún no se tomaron. La primera es regulatoria: estos sistemas, cuando reclaman beneficio terapéutico, deberían tratarse como productos sanitarios, sujetos a validación y a estándares de seguridad, y no como aplicaciones de entretenimiento que firman su descargo de responsabilidad en letra chica. Algunos marcos internacionales empiezan a moverse en esta dirección, clasificando ciertas aplicaciones de salud mental como dispositivos médicos digitales sujetos a evaluación Ethics and governance of artificial intelligence for health. La región tiene estrategias nacionales de IA en distintos grados de madurez —Chile y Argentina entre las más avanzadas según los índices regionales— pero el salto de la estrategia general a la regulación específica del consuelo artificial está mayormente pendiente.

La segunda es lingüística y cultural: el co-diseño de versiones en lenguas originarias y adaptadas a marcos culturales propios no es un lujo, es una condición de equidad. Un sistema entrenado sobre datos del norte global, que entiende el malestar emocional en términos individualistas y clínicos, puede ser sencillamente inadecuado para comunidades donde el sufrimiento se nombra y se sostiene colectivamente. La tercera es de protocolo: ningún sistema que reciba expresiones de angustia debería operar sin mecanismos robustos de detección de crisis y derivación inmediata a servicios humanos. Esto es técnicamente factible y éticamente obligatorio.

Pero la anticipación más profunda es de orden cultural, y aquí la alfabetización vuelve al centro. La pregunta que la región debería hacerse no es solo “¿cómo regulamos los chatbots?” sino “¿qué le estamos enseñando a la gente sobre la diferencia entre ser escuchado y ser procesado?”. García Canclini advertía que las aplicaciones dicen facilitarnos la vida pero no nos ayudan a entender por qué hacemos lo que hacemos Ciudadanos reemplazados por algoritmos. El consuelo artificial puede aliviar el síntoma de la soledad sin tocar nunca su causa, e incluso profundizándola: cada conversación con la máquina es una conversación que no tuvimos con una persona. Una región que aprenda a usar estas herramientas con lucidez —sabiendo lo que son y lo que no son, exigiendo lo que falta en lugar de conformarse con el parche— estará mejor parada que una que las adopte con devoción o las rechace con pánico.

Quedan preguntas abiertas que esta publicación seguirá. ¿Puede una alfabetización crítica masiva difundirse con la velocidad con que se difunde la dependencia? ¿Es posible diseñar sistemas que sean honestos sobre su propia naturaleza —que digan, sin ambigüedad, “soy un modelo, no te entiendo, esto que sentís merece una persona”— sin que esa honestidad destruya su modelo de negocio? ¿Y quién, en una región de Estados débiles y mercados ágiles, va a costear las alternativas humanas que la lucidez crítica exige? La respuesta a esa última pregunta dirá, más que cualquier avance técnico, si el terapeuta de bolsillo termina siendo un puente hacia el cuidado o un sustituto que clausura el camino hacia él. Por ahora, lo único seguro es que millones siguen escribiendo en la madrugada, esperando que el “te entiendo” de la pantalla sea verdad. Enseñarles a saber que no lo es —sin quitarles el alivio que sí necesitan— es la tarea de alfabetización más urgente y delicada de esta década.