Bienestar en la caja negra: por qué las universidades deben regular ya los chatbots emocionales
El estudiante llega a la consejería con un papel impreso. No es una receta ni un certificado médico: es una conversación, exportada de una aplicación, donde un sistema conversacional le ha dicho que probablemente tiene un trastorno de ansiedad generalizada con rasgos depresivos, y le ha sugerido técnicas de regulación emocional. El consejero —psicólogo titulado, con matrícula, con años de práctica— lee el documento y enfrenta una situación para la que nadie lo preparó: no está discutiendo con el estudiante, está discutiendo con una máquina ausente que ya emitió un veredicto. Esta escena, que hace tres años habría sonado a ciencia ficción, hoy se repite en oficinas de bienestar estudiantil de Bogotá, Santiago, Buenos Aires y Lima. Y la pregunta que la institución universitaria no quiere hacerse es incómoda: ¿quién está, en realidad, a cargo de la salud mental de su comunidad?
La tentación es tratar esto como un problema clínico individual —un estudiante mal informado, una corrección profesional, caso cerrado. Pero esa lectura esquiva lo que el fenómeno revela. La universidad latinoamericana ya no es el único actor que media entre el malestar del estudiante y su comprensión de sí mismo. Un tercero opaco —un modelo de lenguaje entrenado en otra lengua, con otra cultura clínica, optimizado para retener usuarios— se ha insertado en ese espacio sin pedir permiso, sin rendir cuentas y sin que la institución haya decidido nada al respecto. Y la institución, en su mayoría, ni se ha enterado.
El vacío que la máquina vino a llenar
Antes de discutir el chatbot conviene mirar el hueco. América Latina padece una escasez crónica de profesionales de salud mental: la distribución de psicólogos y psiquiatras es desigual, concentrada en capitales y zonas urbanas acomodadas, y el sistema público arrastra listas de espera que vuelven irrisoria la idea de una atención oportuna. García Canclini ya advertía que la lógica del servicio social sobrevive solo “en algunos países donde aún los hospitales públicos, como parte de lo que subsiste del Estado de bienestar, mantienen el sentido de servicio social” Ciudadanos reemplazados por algoritmos —y la salud mental es precisamente el rubro donde ese Estado de bienestar llegó más tarde y se retira más rápido.
Las consejerías universitarias son, para una franja importante de la juventud latinoamericana, la única puerta de atención psicológica gratuita a la que tendrán acceso en su vida. Y están desbordadas. La relación entre consejeros disponibles y matrícula estudiantil suele ser de varios miles de estudiantes por profesional, lo que convierte la cita por demanda en una ficción administrativa. Cuando un estudiante en crisis a las tres de la madrugada no tiene a quién recurrir, el chatbot está ahí, en el bolsillo, sin lista de espera, sin juicio, sin costo marginal aparente.
Este es el dato que la institución debe asimilar antes de moralizar: el chatbot no compite con un buen servicio de salud mental universitario. Compite con el silencio, con la nada, con la madrugada. Esa es la razón de su adopción, y por eso prohibirlo es tan inútil como reprochárselo. La demanda insatisfecha es real, masiva y previa a la tecnología. El sistema conversacional no creó el malestar; ocupó el vacío que la institución dejó abierto.
Qué se reclama realmente cuando se habla de “terapia con IA”
Aquí conviene despojar la jerga. Cuando una aplicación se presenta como apoyo de salud mental impulsado por IA, ¿qué está reclamando exactamente? No está reclamando ser un terapeuta —legalmente no podría—, sino que opera en la ambigüedad cuidadosamente diseñada de un “compañero de bienestar”, un “coach emocional”, un “espacio para hablar”. Esa imprecisión no es accidental: es el producto. Permite ofrecer el aura de la atención clínica sin asumir ninguna de sus responsabilidades regulatorias.
Conviene recordar qué es técnicamente uno de estos sistemas. No hay introspección ni comprensión: hay capas de cálculo estadístico sobre secuencias de texto. Como insiste Meredith Broussard, entender la realidad técnica importa “porque te permite anticipar cómo, por qué y dónde las cosas saldrán mal en un escenario computarizado” Artificial Unintelligence - How Computers Misunderstand. Un modelo de lenguaje no sabe que el usuario sufre; predice qué palabras es probable que sigan a las que el usuario escribió. Cuando esas palabras son “quiero desaparecer”, el sistema genera la continuación estadísticamente plausible —que puede ser empática, o puede ser desastrosa, según los datos de entrenamiento y los filtros de seguridad que la empresa haya decidido instalar, o no.
La tendencia humana a antropomorfizar agrava el malentendido. Eli Pariser observaba que los dueños de aspiradoras robóticas Roomba les ponen nombre como a mascotas The Filter Bubble; la disposición a tratar como sujeto lo que es objeto es un reflejo profundo, y un chatbot que sostiene una conversación fluida en primera persona lo activa con una potencia que ninguna aspiradora alcanza. El estudiante que confía su angustia al sistema no está cometiendo un error de ingenuidad: está respondiendo a un diseño que explota exactamente esa disposición. García Canclini lo anticipó con sarcasmo al preguntarse si “los bots pulsarán cada vez más nuestros botones emocionales para vendernos autos o políticos” Ciudadanos reemplazados por algoritmos. El terapeuta de bolsillo pulsa botones emocionales; lo que vende, todavía está por verse.
El diagnóstico fantasma y el problema de la lengua
El caso más concreto que enfrentan hoy las consejerías es lo que podríamos llamar el diagnóstico fantasma. El estudiante llega convencido de tener una etiqueta clínica que un sistema le entregó con la solemnidad de la cifra, y que un profesional luego debe deconstruir. Esto no es un detalle menor de cortesía profesional: es trabajo clínico adicional, no remunerado ni contemplado, que recae sobre un servicio ya saturado. El consejero ahora debe atender al estudiante y, además, desmontar la autoridad de una máquina que lo precedió.
El problema se agudiza por la lengua. La mayoría de los sistemas conversacionales comerciales con pretensión terapéutica —Woebot, Wysa y sus pares— fueron diseñados en inglés, entrenados sobre corpus clínicos angloparlantes y sobre marcos diagnósticos del norte global. Sus versiones en español son, en el mejor de los casos, traducciones parciales; en el peor, traducciones automáticas que pierden los matices culturales del sufrimiento. El modo en que una persona en el altiplano boliviano, una en el conurbano bonaerense y una en el Caribe colombiano nombran su angustia no es traducible término por término a las categorías del manual estadístico estadounidense. El sistema, sin embargo, las procesa todas con la misma rejilla.
Broussard recuerda algo que los ingenieros suelen olvidar: “los programadores no son mejores que nadie para anticipar situaciones inesperadas y terribles” Artificial Unintelligence - How Computers Misunderstand. Un sistema entrenado para una clase media urbana anglófona no anticipó al estudiante indígena, ni al migrante, ni a quien describe su depresión en términos somáticos —“me duele el cuerpo”, “no puedo respirar”— que el modelo podría leer como queja física y no como señal de alarma psíquica. La caja negra no solo es opaca: es culturalmente sorda, y esa sordera se vuelve clínicamente peligrosa cuando se confunde con neutralidad técnica.
Por qué la institución no puede ser espectadora
La respuesta institucional dominante hasta ahora ha sido la no-respuesta. Una porción mayoritaria de las universidades de la región —y de forma especialmente marcada en el sector privado, donde la matrícula crece más rápido que la capacidad de bienestar— carece por completo de políticas sobre el uso de chatbots de salud mental por parte de su comunidad. No es que tengan malas políticas: no tienen ninguna. El fenómeno ocurre por fuera de todo marco institucional, lo que significa que la tecnología está decidiendo, de facto, parámetros de salud mental sin ninguna supervisión.
Esto debería leerse como una abdicación. La universidad que no regula no se mantiene neutral; cede el terreno. En ausencia de un protocolo institucional, la política de salud mental efectiva de esa universidad la escribe, párrafo por párrafo, el equipo de producto de una empresa de tecnología radicada en otro continente, cuyo objetivo declarado no es la salud del estudiante sino la retención del usuario. El silencio institucional no es prudencia; es delegación tácita.
Y la delegación es asimétrica en sus consecuencias. Si el sistema falla —si normaliza un cuadro grave, si no detecta una ideación suicida, si refuerza un patrón de aislamiento bajo apariencia de acompañamiento—, la empresa se protege con la letra pequeña que aclaró que esto “no sustituye atención profesional”. Pero el estudiante es parte de la comunidad universitaria, y la institución tiene un deber de cuidado que no desaparece porque el daño se haya gestado en una aplicación. La universidad cargará con el costo humano y reputacional de una falla cuyo diseño jamás controló. Asumir el riesgo sin haber tomado ninguna decisión sobre él es la peor posición posible.
Conviene resistir aquí dos tentaciones opuestas. La primera es el prohibicionismo: declarar el uso de estos sistemas incompatible con los servicios de bienestar y pretender que el problema desaparezca. No desaparecerá; el estudiante seguirá usando la aplicación, solo que ya no llevará la conversación a la consejería, y la institución perderá incluso la visibilidad parcial que hoy tiene del fenómeno. La segunda tentación es la integración entusiasta: adoptar un chatbot institucional como solución de escala para la lista de espera, lo que convierte una herramienta de contención dudosa en política oficial de racionamiento de atención humana. Entre prohibir y abrazar hay un espacio —el de regular, alfabetizar y derivar— que es justamente el que la universidad ha dejado vacío.
La alfabetización que falta no es la del estudiante
El discurso habitual sobre alfabetización en IA apunta siempre al estudiante: hay que enseñarle a usar críticamente las herramientas. Esa pieza es necesaria, pero en este caso desplaza el foco del lugar urgente. La alfabetización que falta es la del personal de bienestar.
El consejero que recibe el diagnóstico fantasma necesita comprender, técnicamente, qué hizo el sistema que lo generó: que no diagnosticó sino que generó texto plausible; que su aparente certeza es una propiedad de la interfaz, no del conocimiento; que sus recomendaciones reflejan los datos sobre los que fue entrenado y los incentivos comerciales de quien lo opera. Sin esa comprensión, el consejero queda en una posición retóricamente débil frente al estudiante: dos autoridades enfrentadas, la humana y la algorítmica, sin que el profesional pueda explicar por qué la suya debe pesar más. Con esa comprensión, en cambio, el consejero puede hacer trabajo clínico valioso: usar la conversación con el chatbot como material —¿por qué buscaste esto a esa hora?, ¿qué te dijo que te sirvió, qué te inquietó?— en lugar de tratarla como una afrenta a su competencia.
Esto exige inversión institucional concreta: formación del equipo de bienestar en los fundamentos técnicos y los límites de estos sistemas, no como curso opcional sino como competencia profesional básica del cargo. El marco de competencias en IA que organismos internacionales han propuesto para el sector educativo está pensado para docentes, pero su lógica —entender la herramienta para mediarla, no para temerla ni para venerarla— se traslada con naturalidad al personal de bienestar AI Competency Framework for Teachers. La diferencia es que aquí lo que está en juego no es la integridad de un examen, sino la integridad psíquica de una persona.
Las cinco lentes sobre el terapeuta de bolsillo
Para aterrizar el análisis en la realidad regional conviene pasarlo por lentes específicas, sin las cuales toda discusión sobre IA se vuelve abstracta y, peor, importada.
Accesibilidad: el espejismo del costo cero
La primera lente es la accesibilidad, y obliga a matizar el entusiasmo. Es cierto que un chatbot resulta órdenes de magnitud más barato que una sesión privada de psicoterapia, inalcanzable para la inmensa mayoría. Pero “más barato” no es “accesible”. El sistema requiere un teléfono inteligente y datos móviles, dos recursos cuya distribución reproduce exactamente la desigualdad que la herramienta supuestamente democratiza. En un país como Bolivia, con un PIB per cápita de 4.421 dólares y una infraestructura digital aún en construcción Bolivia (Bolivia), el “terapeuta de bolsillo” presupone un bolsillo con teléfono, plan de datos y cobertura —una cadena de prerrequisitos que excluye precisamente a la población rural y de menores ingresos que más carece de atención profesional. La herramienta llega primero, y mejor, a quien menos la necesita. La brecha de acceso a la salud mental no se cierra; se digitaliza y se vuelve menos visible.
Para la universidad esto tiene una implicación directa: no puede asumir que recomendar o tolerar el uso de un chatbot sea una política equitativa. El estudiante becado que viaja dos horas desde una zona sin conectividad estable no accede a la misma “solución” que el estudiante con plan de datos ilimitado. Cualquier protocolo institucional que descanse sobre el chatbot como red de contención está construyendo desigualdad bajo apariencia de cobertura universal.
Alternativas: lo que ya existe y la institución ignora
La segunda lente —alternativas— es quizás la más subestimada, porque el deslumbramiento tecnológico tiende a borrar lo que ya funciona. La región no partió de cero. Existen líneas telefónicas de apoyo emocional con operadores humanos capacitados, como las que operan distintos sistemas públicos de salud; existen aplicaciones desarrolladas localmente con anclaje comunitario, como las iniciativas de cuidado del estado de ánimo impulsadas por entidades públicas colombianas; existen brigadas y redes de pares dentro de las propias instituciones educativas. Estas alternativas comparten una virtud que el chatbot comercial no tiene: están diseñadas en la lengua, la cultura y el contexto del usuario, y muchas mantienen un humano en el circuito.
El error institucional es comparar el chatbot con el vacío —“al menos algo es mejor que nada”— en lugar de compararlo con estas alternativas existentes. Una consejería que conoce y articula las líneas de apoyo locales, las apps comunitarias y sus propias redes de pares ofrece al estudiante un mapa de opciones humanas antes de que la única opción visible a las tres de la madrugada sea la caja negra anglófona. La función de la universidad no es proveer la herramienta sino ser puente: conectar el malestar con la red de recursos —algunos tecnológicos, muchos humanos— que ya existe y que el estudiante, solo, no sabe encontrar.
A estas dos lentes conviene sumar una tercera, la anticipación, porque señala lo que aún no ocurre pero debería. La regulación de estos sistemas como productos sanitarios —y no como meras aplicaciones de entretenimiento o “bienestar”— es una tarea pendiente de los Estados de la región, varios de los cuales ya cuentan con estrategias nacionales de IA, como Chile con su Política Nacional de Inteligencia Artificial Chile (Chile) o Argentina con su Plan Nacional Argentina (Argentina), pero ninguno ha enfrentado con seriedad el estatuto clínico de un chatbot que conversa sobre suicidio. La universidad no puede legislar en lugar del Estado, pero puede anticiparse en su propio dominio: establecer protocolos de derivación que definan, con claridad, en qué momento una conversación deja de ser asunto de una aplicación y pasa a ser una urgencia que exige intervención humana inmediata.
El matiz que la tesis debe admitir
Sería deshonesto cerrar sin admitir lo que complica el argumento. No todo en estos sistemas es daño potencial. Para una franja de estudiantes —los que enfrentan un estigma cultural feroz frente a “ir al psicólogo”, los que necesitan ordenar sus pensamientos antes de poder verbalizarlos ante otro humano, los que viven en lugares donde simplemente no hay profesional alguno en cientos de kilómetros— el chatbot puede cumplir una función de antesala genuina. Puede bajar la barrera de entrada, puede normalizar el hablar del malestar, puede incluso ser el empujón que lleva al estudiante a buscar, después, ayuda profesional.
La aplicabilidad, entonces, no es uniforme: es alta como primer contacto y como apoyo de bajo umbral en contextos de desierto asistencial, y es peligrosamente baja en situaciones de crisis severa, donde la demora de un sistema que no sabe lo que es una emergencia puede costar una vida. El error no está en reconocer estos usos legítimos; está en dejar que el sistema, por diseño comercial, borre la frontera entre ambos —que el mismo “compañero de bienestar” que ayuda a un estudiante a articular su ansiedad cotidiana esté también, sin saberlo, conversando con otro que planea hacerse daño. La regulación institucional no consiste en negar el valor de la antesala, sino en garantizar que la antesala tenga una puerta que se abra hacia el profesional cuando el caso lo exige, y que esa puerta no dependa de la decisión de un modelo estadístico.
Esto reordena la tesis sin invalidarla. La urgencia no es prohibir ni promover: es que la institución deje de ser espectadora de un proceso que ya está ocurriendo en el cuerpo y la mente de su comunidad. Ignorar el fenómeno es, en términos prácticos, decidir que la salud mental de los estudiantes se gestione sin supervisión humana competente. Regularlo es recuperar la decisión.
Implicaciones y preguntas abiertas
La universidad latinoamericana enfrenta aquí una versión particularmente nítida de un dilema más amplio: qué hacer cuando una tecnología se inserta en una de sus funciones de cuidado sin haber sido invitada. La respuesta fácil —ignorarla hasta que un escándalo obligue a reaccionar— es la que el patrón histórico sugiere que prevalecerá, y es precisamente la que hay que resistir. Hay decisiones que cuestan poco tomar a tiempo y muchísimo tomar tarde.
Las tareas concretas son identificables. Primero, una política institucional explícita que reconozca el fenómeno, ni lo prohíba ni lo abrace, y que defina protocolos de derivación claros: cuándo y cómo una conversación con un chatbot debe escalar a atención humana. Segundo, la alfabetización del personal de bienestar, no como ornamento sino como competencia profesional exigible, para que el consejero pueda mediar el diagnóstico fantasma en lugar de quedar paralizado ante él. Tercero, la articulación con las alternativas locales —líneas de apoyo, apps comunitarias, redes de pares— para que la institución funcione como puente hacia recursos humanos y no como mero portero de una caja negra. Cuarto, la presión, desde el espacio que la universidad sí ocupa, para que los Estados regulen estos sistemas como lo que clínicamente pretenden ser.
Quedan preguntas que ningún protocolo resuelve de antemano. ¿Puede una institución co-diseñar o exigir versiones de estos sistemas en lenguas originarias y registros culturales propios, o esa demanda es económicamente inviable frente a productos globales optimizados para mercados más rentables? ¿Qué hace la universidad pública —desfinanciada, masiva, con consejerías mínimas— cuando ni siquiera tiene los recursos para la alfabetización del personal que aquí se reclama, y para la cual el chatbot aparece como la única solución de escala disponible, por mala que sea? ¿No corremos el riesgo de que la regulación se vuelva un lujo de las instituciones que menos lo necesitan, mientras las que atienden a la población más vulnerable se ven empujadas, por pura aritmética presupuestaria, a delegar en la máquina precisamente lo que más cuidado humano requiere?
No hay respuesta tranquilizadora. Lo que sí hay es una constatación: el terapeuta de bolsillo ya está en el bolsillo de millones de estudiantes latinoamericanos, conversando sobre su angustia en una lengua que no es del todo la suya, con una lógica que no rinde cuentas a nadie. La institución puede seguir mirando hacia otro lado, o puede reconocer que su deber de cuidado no terminó cuando la tecnología entró en escena —apenas se volvió más difícil de ejercer. La diferencia entre una cosa y la otra no la decidirá ningún algoritmo. La decidirá si la universidad, por una vez, llega antes que el escándalo.