La epidemia silenciosa de la consulta algorítmica: chatbots, salud mental y desigualdad en América Latina

A las tres de la mañana, cuando los servicios públicos están cerrados, las líneas de crisis saturadas y el psicólogo privado es un lujo inalcanzable, millones de latinoamericanos abren una aplicación y escriben lo que no se atreven a decirle a nadie más. Del otro lado responde un sistema de procesamiento de lenguaje que jamás ha sentido angustia, que no rinde cuentas a ningún colegio profesional, y cuya prioridad comercial —medida en métricas de retención— no coincide necesariamente con el bienestar de quien teclea. Ese encuentro nocturno, repetido millones de veces, es la escena central de un fenómeno que se nos presenta como avance tecnológico pero que, mirado de cerca, es ante todo un síntoma social: la confesión de que el cuidado emocional dejó de ser un derecho garantizado para convertirse en un servicio que se autogestiona con las herramientas que cada quien pueda pagar o descargar.

La tentación es discutir si estos chatbots “funcionan”. Es la pregunta equivocada, o al menos la pregunta tramposa, porque desplaza la conversación hacia el terreno donde los proveedores tecnológicos juegan con ventaja: el de la eficacia medible, el del estudio piloto prometedor, el de la promesa escalable. La pregunta que importa para la sociedad es otra: ¿qué clase de vacío están llenando, y qué nos dice ese vacío sobre cómo distribuimos el cuidado entre quienes pueden pagarlo y quienes no? Porque la consulta algorítmica no irrumpe en un sistema sano. Irrumpe en el colapso, y el colapso tiene una geografía social muy precisa.

El vacío que la máquina viene a ocupar

Conviene empezar por la magnitud del hueco, porque sin él no se entiende nada. América Latina arrastra una de las brechas de atención en salud mental más profundas del planeta: según datos de la Organización Panamericana de la Salud, más del setenta por ciento de las personas con trastornos mentales severos en la región no recibe tratamiento alguno The burden of mental disorders in the Region of the Americas. La densidad de profesionales es brutalmente desigual: mientras países del Cono Sur cuentan con cifras relativamente altas, naciones como Guatemala u Honduras operan con menos de un puñado de psiquiatras por cada cien mil habitantes, y la distribución urbano-rural agrava todo, concentrando a esos pocos especialistas en las capitales.

Este no es un detalle de contexto. Es la condición de posibilidad de todo el fenómeno. Néstor García Canclini describió con precisión la lógica que opera cuando el cuidado de la salud se vuelve inaccesible: “cuando el costo de las mastografías y los estudios de prevención cardiológica los vuelven inaccesibles, millones de enfermos limitan sus aspiraciones” Ciudadanos reemplazados por algoritmos. La frase, escrita sobre la salud física, se traslada sin esfuerzo al territorio emocional. Ante la inaccesibilidad, el deseo de cuidarse no desaparece: se reorganiza, se achica, se adapta a lo disponible. Y lo disponible, cada vez más, es una aplicación.

El propio García Canclini señala que el sentido de servicio social sobrevive “en algunos países donde aún los hospitales públicos, como parte de lo que subsiste del Estado de bienestar, mantienen el sentido de servicio social” Ciudadanos reemplazados por algoritmos. El verbo es revelador: subsiste. El cuidado público como derecho está en retirada, y en el espacio que deja se cuela la oferta tecnológica con un argumento difícil de rebatir cuando no hay alternativas: algo es mejor que nada. El problema es que ese “algo” llega con condiciones que rara vez se examinan en voz alta.

La promesa low-cost y su letra chica

Los chatbots de salud mental se venden con un vocabulario seductor: democratización del acceso, disponibilidad veinticuatro horas, ausencia de estigma, costo marginal cercano a cero. Cada uno de estos atributos contiene una verdad parcial que merece desarmarse, porque la mistificación opera precisamente en el salto desde la verdad parcial hacia la conclusión grandiosa.

Empecemos por lo técnico, porque ahí está enterrado mucho de lo que los argumentos comerciales prefieren no tocar. Estos sistemas no comprenden el sufrimiento; reconocen patrones estadísticos en cadenas de texto y devuelven respuestas probables. Meredith Broussard lo formula sin concesiones: “No hay magia en esto, aunque los resultados puedan parecer asombrosos. Entender las realidades técnicas es importante porque permite anticipar cómo, por qué y dónde las cosas saldrán mal en un escenario computarizado” Artificial Unintelligence - How Computers Misunderstand. Anticipar dónde fallará el sistema no es pesimismo: es la única base responsable para decidir dónde puede usarse y dónde no.

Y los fallos en salud mental no son errores ortográficos. Broussard advierte algo más inquietante sobre los límites de quienes construyen estos sistemas: “los programadores no son mejores que nadie anticipando situaciones inesperadas y terribles” Artificial Unintelligence - How Computers Misunderstand. Una crisis suicida, un episodio psicótico, un caso de violencia doméstica encubierta: estos son exactamente los escenarios que un sistema entrenado sobre conversaciones “promedio” gestionará peor, y son precisamente los momentos en que el costo de un error es irreparable. La aplicabilidad de la herramienta, en otras palabras, decae de forma abrupta justo cuando la necesidad es mayor.

Hay evidencia acumulada de que estos riesgos no son hipotéticos. Investigaciones recientes documentaron que chatbots conversacionales de propósito general, ante mensajes que sugerían ideación suicida, ofrecían respuestas inconsistentes y a veces peligrosas, fallando en derivar al usuario hacia recursos de emergencia Evaluating the ability of large language models to provide mental health advice. La industria responde con barandillas y filtros, pero la lógica subyacente del producto —mantener al usuario conversando— está en tensión estructural con la decisión clínica de interrumpir la conversación y enviar a la persona a un humano.

El dato emocional como mercancía

Aquí entra el segundo costo invisible, el que no aparece en ninguna tabla comparativa de precios: lo que el usuario paga no es dinero, sino la intimidad misma. Cuando alguien escribe a un chatbot sus pensamientos más oscuros, su historial de trauma, sus relaciones, sus miedos, está generando el tipo de dato más íntimo y comercialmente valioso que existe. Y a diferencia de la consulta con un psicólogo —protegida por el secreto profesional y un marco deontológico de siglos—, lo que se le confía a una aplicación viaja a servidores corporativos bajo términos de servicio que casi nadie lee.

La asimetría es la misma que Shoshana Zuboff describió como el núcleo del capitalismo de vigilancia: la conversión de la experiencia humana en datos de comportamiento que se acumulan, analizan y monetizan sin que el sujeto comprenda la transacción que está haciendo The Age of Surveillance Capitalism. En el caso de la salud mental, la materia prima es la vulnerabilidad. No hay mercancía más pura: el usuario llega en su momento de mayor desprotección y entrega información que, en manos de un asegurador, un empleador o un anunciante, vale oro.

La dimensión racial y de clase de este extractivismo no debe pasarse por alto. Ruha Benjamin advierte sobre cómo los sistemas técnicos codifican jerarquías sociales bajo apariencia de neutralidad, lo que llama el “New Jim Code” Race After Technology. Un chatbot entrenado predominantemente sobre datos en inglés y sobre marcos clínicos del Norte Global no es un consejero universal: es un dispositivo cultural específico que aplicará categorías ajenas a quien le escribe desde Tegucigalpa o desde una comunidad amazónica. La distinción entre aprendizaje “supervisado” y “no supervisado” que Benjamin discute —los datos preetiquetados que enseñan a la máquina qué considerar normal o patológico— importa enormemente cuando esas etiquetas se construyeron en otro mundo cultural Race After Technology.

Pero el problema no es solo de sesgo en las respuestas. Es de gobernanza del dato. En la mayor parte de América Latina, los marcos de protección de datos personales son incipientes y la categoría de “dato sensible de salud” rara vez se aplica con rigor a estas aplicaciones, que se autodefinen como herramientas de “bienestar” para escapar de la regulación sanitaria. Esa elusión deliberada de la categoría médica es un movimiento que conviene mirar de frente: si la app fuera un dispositivo médico, debería validarse clínicamente y rendir cuentas; al llamarse “wellness”, se libera de ambas obligaciones mientras conserva todo el poder de intervenir sobre la mente del usuario.

La trampa de las dos calidades de cuidado

Llegamos al corazón del argumento, y es el punto donde el fenómeno deja de ser una curiosidad tecnológica para convertirse en una cuestión de equidad social. Si la consulta algorítmica se generaliza sin que se reconstruya la oferta pública de atención humana, lo que se consolida no es un avance sino una estratificación: quien tiene recursos accede a un terapeuta de carne y hueso, con vínculo, escucha y responsabilidad legal; quien no los tiene recibe un sistema que genera respuestas plausibles y registra sus confesiones para fines que desconoce.

Esta no es una predicción alarmista. Es la trayectoria que ya siguieron otras tecnologías presentadas como “democratizadoras”. La promesa de que la herramienta barata cerraría la brecha terminó, una y otra vez, instalando una versión de segunda clase del servicio para los pobres mientras los ricos conservaban el acceso a la versión premium humana. Virginia Eubanks documentó este patrón en los sistemas automatizados de asistencia social en Estados Unidos: las herramientas digitales no se aplicaron a todos por igual, sino que se desplegaron primero y con más dureza sobre las poblaciones vulnerables, sometiéndolas a una vigilancia y un disciplinamiento del que las clases acomodadas quedaban exentas Automating Inequality.

El riesgo, entonces, no es que los chatbots sean malos en abstracto. Es que su adopción masiva sirva de coartada para no resolver el problema de fondo. Si un ministerio de salud puede anunciar que “amplió la cobertura de salud mental” desplegando una aplicación gratuita, el incentivo político para contratar psicólogos, abrir centros comunitarios y financiar la atención presencial se debilita. La herramienta se convierte en la excusa perfecta para administrar la escasez en lugar de combatirla: en lugar de reducir la brecha, la institucionaliza con barniz de modernidad.

Y conviene nombrar el deslizamiento del lenguaje. Se habla de “soluciones de salud mental escalables” cuando lo que se quiere decir es “manera barata de no contratar profesionales”. Se habla de “empoderar al usuario para autogestionar su bienestar” cuando lo que ocurre es que se traslada al individuo la responsabilidad de un cuidado que antes era colectivo. Despojada la jerga, la propuesta dice: dado que no vamos a financiar la atención humana que necesitas, aquí tienes una máquina con la que arreglártelas solo. El verbo “empoderar” hace un trabajo ideológico enorme: convierte un abandono institucional en una supuesta liberación personal.

El matiz que la honestidad exige

Sería deshonesto —y caería en la mistificación inversa, la tecnofóbica— pretender que estos chatbots no sirven para nada o que toda su adopción es un engaño. La complejidad obliga a reconocer varios puntos a favor que la crítica no puede ignorar sin volverse caricatura.

Primero: para una persona en una región sin un solo psicólogo en cien kilómetros a la redonda, la alternativa al chatbot no suele ser un buen terapeuta humano; es nada. En ese escenario concreto, una herramienta que ayude a estructurar pensamientos, ofrezca técnicas básicas de regulación emocional o simplemente acompañe en una noche difícil puede tener un valor real, aunque limitado. La aplicabilidad existe, y negarla por purismo sería abandonar precisamente a quienes más sufren la escasez.

Segundo: el estigma sigue siendo una barrera enorme en sociedades donde pedir ayuda psicológica todavía carga vergüenza, especialmente para los hombres y en comunidades conservadoras. El anonimato de una aplicación puede ser, para algunos, la única puerta de entrada al reconocimiento de que algo anda mal. No es poco.

Tercero: existen iniciativas locales que intentan hacer las cosas con responsabilidad. Aplicaciones desarrolladas por instituciones públicas y universidades en la región, como las herramientas de monitoreo del estado de ánimo impulsadas por sistemas de salud en Colombia y México, han buscado integrar el acompañamiento digital dentro de redes de derivación a servicios presenciales Mental health apps in Latin America: a scoping review. La diferencia entre estas y los productos comerciales extractivos no es la tecnología —es la gobernanza, el propósito y la cadena de responsabilidad detrás de ellas.

Esta distinción es decisiva y desactiva el falso binario entre tecnófilos y tecnófobos. El problema nunca fue el código. El problema es de quién es el código, para qué se diseñó, ante quién responde y dentro de qué sistema se inserta. Un chatbot diseñado por un sistema de salud pública, validado clínicamente, con protocolos de derivación y con protección estricta de los datos, es un objeto político distinto de un producto de Silicon Valley optimizado para retención y monetización, aunque la interfaz se parezca. Confundirlos es el primer error analítico que la prudencia debe evitar.

Las lentes LATAM: disponibilidad y alternativas

Conviene ahora pasar el fenómeno por dos de las lentes con las que esta publicación examina la tecnología en clave regional, porque es ahí donde lo abstracto se vuelve concreto.

Disponibilidad. La mayoría de los chatbots con mayor evidencia clínica —los nombres conocidos del mercado anglosajón— operan primariamente en inglés, con versiones en español que son traducciones parciales, frecuentemente automáticas, y casi nunca adaptadas a las variantes regionales del idioma, mucho menos a las lenguas originarias. Esto significa que la herramienta supuestamente “universal” llega degradada a quien la usa en español rioplatense, en español caribeño o en quechua. El usuario latinoamericano recibe un producto de segunda mano lingüística y cultural, donde matices del sufrimiento se pierden en la traducción y donde los marcos terapéuticos asumidos por defecto pertenecen a otra cosmovisión. La disponibilidad nominal —“está en español”— oculta una indisponibilidad sustantiva: el sistema no fue pensado para este mundo. Y las alternativas locales que sí podrían pensarlo enfrentan un financiamiento precario, dependientes de fondos de proyecto que se agotan, sin la escala ni el capital de las plataformas globales.

Esta lente revela algo que el discurso de la democratización oculta: el acceso a la herramienta no equivale al acceso a un cuidado adecuado. En países con economías y capacidades de IA tan dispares como Chile, que lidera los índices regionales de preparación tecnológica con un ILIA de 70.2 sobre 100 Índice Latinoamericano de Inteligencia Artificial 2024, y Bolivia, con 46.7 y una infraestructura digital mucho más limitada Índice Latinoamericano de Inteligencia Artificial 2024, la misma aplicación produce experiencias radicalmente distintas. Donde hay conectividad, capacidad regulatoria y desarrollo local, el chatbot puede insertarse en una red. Donde no, queda como un parche solitario sobre una herida estructural.

Alternativas. La pregunta que el entusiasmo tecnológico desplaza es: ¿comparado con qué? Antes de aceptar que el chatbot es “mejor que nada”, hay que mirar el abanico real de opciones que existen o podrían existir. Las líneas telefónicas de apoyo emocional, atendidas por humanos capacitados, ya operan en varios países —la Línea de la Vida en México es un ejemplo— y ofrecen algo que ninguna app garantiza: una persona del otro lado que puede activar protocolos de emergencia reales. Las brigadas comunitarias, los promotores de salud, los grupos de apoyo entre pares, las redes de acompañamiento barrial: todas son tecnologías sociales de cuidado, de bajo costo, que no requieren smartphone ni datos móviles y que construyen el vínculo que la máquina no puede ofrecer.

El punto no es oponer lo humano analógico a lo digital como si fueran enemigos. Es insistir en que el chatbot debe evaluarse contra el conjunto completo de alternativas, no contra el vacío. Cuando se compara solo contra “nada”, cualquier cosa gana. Cuando se compara contra una línea telefónica humana bien financiada, un sistema de promotores comunitarios o una inversión sostenida en formación de psicólogos públicos, la balanza se complica de inmediato. Y la decisión de presentar al chatbot como única alternativa frente al vacío —en lugar de frente a estas opciones— es, ella misma, una decisión política que conviene desnaturalizar.

La accesibilidad y su espejismo

Vale agregar una tercera lente, brevemente, porque desmonta el argumento económico que sostiene todo el edificio. Se dice que los chatbots son accesibles porque cuestan mucho menos que una sesión privada. Es cierto en el plano del precio nominal. Pero la accesibilidad real exige un smartphone funcional, un plan de datos o conexión wifi estable, alfabetización digital suficiente para operar la interfaz, y la privacidad física para mantener una conversación íntima sin ser escuchado —algo lejos de garantizado en viviendas hacinadas. Cada uno de estos requisitos excluye a un segmento de la población, y los excluye precisamente en las zonas rurales y los hogares más pobres, que son los mismos donde no hay psicólogos.

Es decir: la herramienta es “accesible” sobre todo para quien ya tiene cierto piso material y digital, y se vuelve inaccesible justo para la población a la que su retórica dice servir. El chatbot llega mejor a la clase media urbana subatendida que a la periferia rural desatendida. Lo cual reordena, pero no resuelve, el problema de la equidad: agrega una capa intermedia de cuidado mediocre para quienes están un escalón arriba del fondo, mientras el fondo sigue exactamente igual de abandonado.

Lo que la sociedad tiene que decidir

Llegamos al punto donde la anticipación —la quinta lente— se vuelve obligación cívica más que ejercicio analítico. Porque la consulta algorítmica ya está ocurriendo, a escala, sin debate público que la haya autorizado ni marco que la encuadre. La pregunta no es si va a pasar, sino bajo qué reglas y al servicio de quién.

Hay decisiones que no pueden delegarse en el mercado ni en el departamento de producto de una empresa extranjera. Si estas herramientas intervienen sobre la salud mental de las personas, deben regularse como lo que son: productos sanitarios, sujetos a validación clínica, a transparencia algorítmica y a responsabilidad legal por sus fallos. La elusión de la categoría médica mediante el eufemismo del “bienestar” debería cerrarse por vía regulatoria. Los datos emocionales deben recibir la protección máxima que merece el dato sensible de salud, con prohibición explícita de su comercialización. Y cualquier despliegue público debería incluir, como condición innegociable, protocolos de derivación a servicios humanos presenciales: la máquina como puerta de entrada a una red de cuidado, nunca como sustituto terminal de ella.

Hay también una decisión más profunda, que es propiamente cultural y que ningún reglamento resuelve. Tiene que ver con qué entendemos por cuidado. El argumento de la eficiencia —más personas atendidas, a menor costo, en menos tiempo— es poderoso y no debe descartarse a la ligera en una región con recursos escasos. Pero el cuidado emocional no es solo entrega de información ni administración de técnicas; es vínculo, reconocimiento, la experiencia de ser escuchado por otro ser humano que se hace responsable de lo que oye. Paulo Freire distinguía entre la educación “bancaria”, que deposita contenidos en un sujeto pasivo, y una práctica liberadora que nace del diálogo y del reconocimiento mutuo Pedagogía del oprimido. La distinción es trasladable: un cuidado que deposita consejos genéricos en un usuario-receptáculo es, en términos freireanos, un cuidado bancario. Eficiente, quizás. Pero pobre en aquello que hace del cuidado algo más que gestión de síntomas.

El riesgo de fondo no es que la máquina falle. Es que funcione lo suficientemente bien como para que nos acostumbremos a ella y dejemos de exigir lo otro. Que la consulta algorítmica se normalice como el horizonte de lo posible para los pobres, mientras el vínculo humano se reserva, como tantas otras cosas, para quienes pueden pagarlo. Que externalicemos el cuidado emocional a sistemas que no rinden cuentas y llamemos a eso progreso.

Las preguntas que la región debería estar discutiendo en voz alta, antes de que el hábito decida por nosotros, son tan incómodas como urgentes. ¿Quién responde cuando el chatbot le falla a alguien en crisis? ¿A quién pertenecen las confesiones nocturnas de millones de personas vulnerables? ¿Estamos construyendo un puente hacia el cuidado humano o una sala de espera permanente donde se aparca a quienes nunca llegarán a ver a un profesional? ¿Y por qué, en un continente que dedica tan poco de su presupuesto a la salud mental, la conversación se desvió tan rápido hacia las aplicaciones y tan poco hacia la pregunta de por qué seguimos formando y pagando tan mal a los profesionales humanos que harían falta?

La consulta algorítmica es una respuesta. El problema es que respondió a una pregunta que nunca debimos dejar sin atender de otra manera. Mientras tratemos el fenómeno como una novedad tecnológica a evaluar, seguiremos perdiendo de vista lo único que de verdad está en juego: que detrás de cada conversación con la máquina hay una persona que pidió ayuda y recibió lo que el sistema decidió que podía darle. Esa decisión —qué le damos a quien sufre y no puede pagar— no es técnica. Es, ha sido siempre, profundamente política. Y conviene que volvamos a tratarla como tal, antes de que el silencio de la app de las tres de la mañana se vuelva, para millones, el único cuidado imaginable.