Briefing por Audiencia

La deuda cognitiva ya venció: la era de la respuesta fácil y el recibo que América Latina no quiere pagar

La semana no nos entrega un hallazgo, sino un problema metodológico compartido entre cuatro literaturas que rara vez se leen entre sí. La investigación sobre IA y aprendizaje publica respuestas simples a preguntas complejas; los estudios sobre sesgo reconocen que el sesgo es inherente pero no interrogan la cadena de trabajo humano que lo produce; el campo de la desinformación mapea impactos sin poder ofrecer infraestructura de verificación pública; y los análisis de herramientas confrontan la distancia entre la promesa de “experto de doctorado” y la letra pequeña estadística y material. El hilo que une los cuatro es una operación que como investigadoras deberíamos reconocer de inmediato: la sustitución del juicio por la respuesta.

Llamamos a eso deuda cognitiva. No es una metáfora blanda. Es la pérdida progresiva de la práctica del juicio crítico, de la paciencia para dudar y del hábito de contrastar, acumulada cada vez que delegamos en un sistema la parte del trabajo que constituía el trabajo. Para nuestra comunidad —que vive de dudar, contrastar y replicar— la deuda no es un riesgo abstracto de los estudiantes. Es un riesgo de método.

Y la región la descuenta doble. Parte de brechas educativas ya profundas y de una dependencia tecnológica aceptada sin condiciones. Aquí conviene recuperar a Cristóbal Cobo cuando advierte que una alfabetización digital superficial nos deja “incapaces de hacernos competentes en un contexto cada vez más complejo, lo cual nos desprotege y nos hace vulnerables y fácilmente manipulables” (Acepto las condiciones: usos y abusos de las tecnologías digitales). La pregunta de esta semana no es si la IA sirve para aprender. Es qué tipo de evidencia estamos dispuestas a aceptar como respuesta, y qué le cuesta esa evidencia a la región.

El problema de validación: “sí, se puede aprender con IA” no es un hallazgo

Empecemos por lo que nos toca de cerca. La literatura de educación superior publica esta semana estudios que responden con un “sí, se puede usar IA y aprender” apoyados en modelos didácticos no validados. Como par investigador, el problema no es la conclusión optimista: es el diseño que la sostiene.

Un modelo didáctico “no validado” significa, en términos concretos, que no ha pasado por validación de contenido con jueces expertos, ni validación de constructo, ni prueba de confiabilidad de sus instrumentos. Cuando un estudio propone un modelo de integración de IA y luego lo “prueba” con el mismo grupo que lo diseñó, sin grupo de control, sin asignación aleatoria y con medición autorreportada de aprendizaje, lo que tenemos no es evidencia de eficacia sino evidencia de entusiasmo. La medición del aprendizaje mediante percepción del estudiante —“siento que aprendí más”— correlaciona notoriamente mal con desempeño objetivo, y esa brecha se amplía cuando la herramienta reduce el esfuerzo percibido. Es decir: la comodidad de delegar produce la sensación de haber aprendido, que es precisamente el mecanismo de la deuda cognitiva.

El segundo problema es la ética tratada como lista de reglas. Integridad académica, políticas y ética aparecen en estos trabajos como checklist normativo —“prohibido plagiar con IA”, “citar el uso de IA”— y no como objeto de investigación. La diferencia importa metodológicamente. Un objeto de investigación se operacionaliza, se mide, se somete a hipótesis rivales. Una lista de reglas se declara. Este análisis ya observó antes que el éxito de la IA en educación superior depende de marcos regulatorios y alfabetización, no solo de la herramienta (AI News Social-Weekly Critical Analysis-Education-ES-20250720). El delta de esta semana es más incómodo: no se trata ya de que falten marcos, sino de que la producción académica misma está normalizando diseños que no permitirían defender ninguna afirmación causal ante un comité evaluador serio.

El tercer problema es de fondo para nuestra comunidad: sin datos abiertos ni métodos transparentes, la comunidad investigadora no puede replicar. Aquí la brecha regional es material. Publicar datos abiertos exige repositorios institucionales, gestión de datos según normas de protección, y —crucial— aprobación de comités de ética / IRB que contemplen la reutilización de datos. En buena parte de las universidades latinoamericanas la infraestructura de IRB para investigación educativa con IA es incipiente o inexistente. Sin ese andamiaje, exigir replicabilidad es exigir un puente sin sostener los pilares.

Sesgo inherente, pero ¿de quién? La cadena de suministro que la literatura no cita

La investigación sobre sesgo en IA maduró hasta reconocer que el sesgo es inherente a los sistemas. Es un avance. Pero el reconocimiento se detiene justo antes de la pregunta que como investigadoras sociales deberíamos formular primero: ¿quiénes son los humanos detrás de los datos?

La literatura deja intacta la cadena de suministro del etiquetado. El trabajo de anotación y moderación que hace posible el “alineamiento” de los modelos se distribuye en geografías de bajo costo. En Madagascar, trabajadores de anotación de datos perciben salarios en el rango de €96-126 mensuales (Madagascar’s data workers and the hidden labour behind AI). El punto metodológico es este: cuando un estudio de sesgo mide disparidades de salida —el modelo trata peor a tal grupo demográfico— sin modelar las condiciones laborales y culturales de quienes etiquetaron los datos, está tratando el sesgo como propiedad emergente del sistema y no como resultado de una división internacional del trabajo. La variable “quién anotó, bajo qué instrucciones, en qué idioma, por cuánto” queda fuera del diseño. Y para América Latina esto no es exótico: la región es a la vez proveedora de este trabajo y consumidora de los modelos resultantes.

De ahí a la paradoja de la autonomía vigilada. La gestión algorítmica del trabajo promete autonomía —organiza tu tiempo, elige tus tareas— mientras instala vigilancia granular sobre cada micro-decisión (The gig workers fighting back against the algorithms). Para quien investiga régimen de dedicación docente y evaluación del desempeño, la señal es directa: los sistemas de analítica del aprendizaje y de productividad académica que empiezan a llegar a nuestras universidades importan esta misma paradoja. Prometen apoyar la autonomía docente y terminan produciendo métricas de vigilancia sobre el trabajo intelectual.

El problema de traducción es que la evidencia sobre sesgo no llega a las políticas públicas de la región. Los estudios se publican en inglés, en revistas de alto factor de impacto detrás de muros de pago, con marcos regulatorios pensados para la UE o EE.UU. Néstor García Canclini nombró hace años el resultado de ese circuito: ciudadanos cuyos “conocimientos necesarios para desempeñarnos como ciudadanos se estrechan debido a la sustracción y el ocultamiento de datos por parte de las corporaciones y los gobiernos” (Ciudadanos reemplazados por algoritmos). La evidencia existe; la ausencia es de puente entre esa evidencia y la formulación de política en CONACYT, CNPq, CONICET o los ministerios de educación.

Desinformación: la alfabetización que no puede ser solo individual

El campo de la desinformación aporta esta semana un mapeo sistemático del impacto de la IA generativa. La revisión publicada por MDPI identifica los vectores —texto sintético a escala, imágenes fotorrealistas, y sobre todo la erosión de las heurísticas de confianza que usábamos para detectar fraude— y revela vacíos concretos en alfabetización (The Impact of Generative AI on Disinformation).

Como par investigador, dos observaciones sobre este tipo de revisión. Primera, la limitación de cobertura idiomática: las revisiones sistemáticas sobre desinformación con IA rara vez incluyen literatura en español o portugués, lo que sesga el mapa de vacíos hacia el mundo anglófono. El vacío de alfabetización que reportan puede ser mayor o cualitativamente distinto en la región, y no lo sabremos hasta que financiemos revisiones con protocolos de búsqueda multilingües. Segunda, el problema de la ventana temporal: en un campo donde las capacidades generativas cambian cada trimestre, una revisión con corte de búsqueda a mediados de 2024 describe un ecosistema que ya no existe. Esto no invalida el trabajo; obliga a leerlo como línea de base histórica, no como estado del arte.

El caso que materializa la urgencia es la clonación de voz que profesionaliza el fraude telefónico (AI voice cloning scams are on the rise). El detalle relevante para el diseño de intervenciones es que la clonación destruye una heurística de verificación que era gratuita y universal: reconocer la voz de un familiar. Cuando la señal biométrica informal deja de ser confiable, la carga de verificación se traslada a protocolos que exigen infraestructura —palabras clave acordadas, canales de retorno verificados—. Y esa infraestructura no se distribuye por igual.

De ahí la afirmación que ordena esta sección: la alfabetización no puede ser solo individual; necesita verificación pública e infraestructura. La literatura tiende a operacionalizar la alfabetización en IA como competencia individual medible en un test. Pero si el ataque es sistémico —una llamada con voz clonada a la abuela— la defensa individual es estructuralmente insuficiente. Esto tiene consecuencias de diseño de investigación: los estudios que miden “mejoró la alfabetización en IA del sujeto” están midiendo la variable equivocada si el resultado que importa es la resiliencia de una comunidad frente a fraude a escala. Necesitamos diseños de nivel meso —aula, institución, barrio— con medición de infraestructura de verificación disponible, no solo de competencia cognitiva individual.

GPT-5: la promesa de doctorado contra el examen estadístico

Los análisis de herramientas confrontan esta semana la distancia entre marketing y evidencia con GPT-5. La promesa de un “experto a nivel de doctorado” no sobrevive al examen estadístico (GPT-5: Overhyped and underwhelming?). El punto es metodológico y nos concierne directamente porque muchas de nosotras estamos empezando a usar estos modelos como asistentes de análisis, revisión de literatura y hasta redacción de secciones de métodos.

La afirmación de “nivel doctorado” descansa típicamente en benchmarks que miden desempeño en preguntas de examen, no en las operaciones que definen el trabajo doctoral: formular una pregunta original, diseñar un estudio para responderla, reconocer cuándo los datos no alcanzan, y sostener una duda productiva. Un modelo que aprueba el examen de un campo no ejerce el juicio de ese campo. La confusión entre ambas cosas es exactamente la deuda cognitiva instalada en el nivel del discurso de producto: se nos vende la respuesta correcta como si fuera el pensamiento que la produce.

Y aquí la letra pequeña material. El consumo energético de la IA rivaliza con el de la aviación, y la retórica de los “niveles de IA” lo borra del relato (The staggering energy footprint of artificial intelligence). Los llamados “niveles de razonamiento” —que un modelo “piense más” ante una consulta compleja— tienen un costo energético que crece con cada nivel y que no aparece en la interfaz. Para la evaluación rigurosa de una herramienta, esto obliga a una tesis incómoda: la evaluación de una herramienta debe incluir su cadena de suministro energético. No como apostilla ética, sino como variable de costo que condiciona la sostenibilidad de cualquier despliegue institucional en universidades con presupuestos ajustados y, en varios países de la región, redes eléctricas frágiles.

Aplicando las cinco lentes al fenómeno completo: la deuda cognitiva llega con las herramientas gratuitas que ya circulan, sin condiciones pedagógicas que la amortigüen (disponibilidad); evadir el pensamiento cuesta un celular, pero el antídoto —educación pública de calidad y tiempo para reflexionar— sigue siendo privilegio (accesibilidad); en economías donde la presión por producir empuja a delegar, la IA fabrica profesionales que no pueden cuestionar sus propias decisiones (aplicabilidad); la región ya tiene pedagogías dialógicas y experiencias comunitarias de tecnología que exigen que la IA sea medio y no sustituto (alternativas); y gobiernos y empleadores deberían medir dependencia y pérdida de criterio antes de lanzar formación masiva en IA (anticipación).

Qué significa esto para investigadoras e investigadores

Esta semana no cierra con un llamado abstracto sino con decisiones de método que podemos tomar ya.

En diseño de estudios sobre IA y aprendizaje. Si su proyecto va a medir “aprendizaje con IA”, separe explícitamente dos variables que la literatura débil confunde: desempeño objetivo y esfuerzo/aprendizaje percibido. Preinscriba la hipótesis de que la reducción del esfuerzo percibido puede inflar la autopercepción de aprendizaje sin mejora objetiva. Ese es el operacional de la deuda cognitiva, y medirlo es contribución publicable. Incluya, cuando sea posible, una medida diferida —retención a las cuatro o seis semanas sin la herramienta— porque la deuda se paga después.

En transparencia y replicabilidad. Antes de exigir datos abiertos, negocie con su comité de ética la cláusula de reutilización de datos en el consentimiento informado. Sin esa cláusula al inicio, publicar el dataset después es inviable legalmente. Para instituciones sin IRB consolidado para investigación educativa con IA, este es el momento de proponer su creación: es infraestructura de investigación, no burocracia. Documente el modelo didáctico con validación de contenido por jueces antes de probarlo; un modelo no validado convierte cualquier resultado posterior en no interpretable.

En estudios de sesgo. Si su diseño mide disparidades de salida de un modelo, incorpore al menos como variable descriptiva la procedencia y las condiciones del etiquetado del corpus cuando el proveedor las documente. Cuando no las documente —que será lo habitual— nómbrelo como limitación explícita y no como detalle menor: la opacidad de la cadena de anotación es un límite de validez de sus conclusiones sobre el origen del sesgo (Madagascar’s data workers and the hidden labour behind AI).

En alfabetización y desinformación. Si va a solicitar financiamiento a CONICET, CNPq, CONACYT o CONCYTEC para estudios de alfabetización en IA, considere diseños de nivel meso con protocolos de búsqueda multilingües, y presupueste la traducción como línea de investigación, no como gasto administrativo. Mida infraestructura de verificación disponible en la comunidad estudiada, no solo competencia individual. Un instrumento que solo captura la primera variable dejará fuera el mecanismo que realmente protege (The Impact of Generative AI on Disinformation).

En uso de LLM como asistentes de investigación. Trate la afirmación de “nivel doctorado” como marketing, no como especificación técnica (GPT-5: Overhyped and underwhelming?). Documente en su sección de métodos qué modelo usó, para qué tarea, y qué verificación humana aplicó. Y si su institución evalúa adoptar una herramienta de IA a escala, exija que el análisis de costo total incluya consumo energético, porque esa variable, hoy invisible en la interfaz, es real en la factura (The staggering energy footprint of artificial intelligence).

Cierre: la duda como activo escaso

La tentación de este momento es leer la deuda cognitiva como un problema de los estudiantes que copian tareas. Es un error de escala. La deuda opera también en la producción científica: en los diseños que aceptan la percepción como medida del aprendizaje, en las revisiones que confunden benchmark con juicio, en los estudios de sesgo que aceptan la opacidad de la cadena de anotación como dato de la naturaleza. Cada una de esas concesiones es una respuesta fácil aceptada donde correspondía dudar.

El activo que la región tiene y que no debería subsidiar a pérdida es precisamente ese: la práctica de la duda. Se cultiva en pedagogías dialógicas, en la evaluación por pares exigente, en comités de ética que hacen preguntas incómodas, en revistas como RIES que sostienen estándares en español. No es nostalgia; es infraestructura de autonomía. La alfabetización crítica —insistimos en el término, aspectos sociales incluidos, no “justicia social”— es el seguro de vida de esa autonomía, y como todo seguro, se contrata antes del siniestro.

Lo prospectivo es esto: en los próximos meses veremos aterrizar en la región programas de “formación en IA” masivos, empujados por ministerios y empleadores que miden eficiencia. La contribución específica de nuestra comunidad no es celebrarlos ni boicotearlos, sino aportar los instrumentos para medir lo que esos programas ignoran: dependencia, pérdida de criterio, resiliencia frente a fraude, costo material. Si no fabricamos nosotras esos instrumentos, la evaluación de estos programas la escribirá el marketing de los proveedores. Esa, y no otra, es la deuda que América Latina no quiere pagar.