El guardián irresponsable: la universidad que prefiere vigilar en vez de enseñar
Hay un gesto que se repite en las oficinas de secretaría académica de casi cualquier universidad latinoamericana esta semana, y conviene mirarlo de cerca porque revela más de lo que quisiera. Frente a la irrupción de la inteligencia artificial generativa en el trabajo estudiantil, la respuesta institucional no fue pedagógica: fue policial. Comprar una licencia de detección. Redactar un protocolo de sanción. Anunciar, en tono solemne, un compromiso con el “uso responsable y humano”. El movimiento es tan uniforme que casi parece coordinado, aunque no lo sea. Es el reflejo de una institución que, enfrentada a un problema que no entiende, escoge administrarlo en vez de pensarlo. Y en América Latina ese reflejo tiene un costo particular: la universidad pública, que debería ser el último bastión donde se cultiva el juicio, termina delegando su tarea central —enseñar a pensar— en un software que promete distinguir lo humano de lo maquinal con una confianza que no tiene.
La tesis de este ensayo es incómoda pero necesaria: la universidad no sabe qué hacer con la IA, así que la convierte en un problema de vigilancia. Y al hacerlo, comete una doble abdicación. Abandona el diseño de la evaluación del pensamiento —lo único que la máquina no puede fingir por el estudiante— y se refugia en la ilusión de que un detector, un abogado o un decálogo de “buenas prácticas” resolverán lo que en realidad es un problema de diseño curricular. Lo llamo el guardián irresponsable: una institución que asume el rol de guardia sin asumir el rol de maestro, que se preocupa por atrapar el fraude sin preguntarse qué tipo de tarea es tan fácil de defraudar.
El reflejo policial y su economía moral
Empecemos por nombrar el movimiento con precisión, porque la mistificación empieza en el vocabulario. Cuando una universidad anuncia que “combatirá el uso indebido de la IA con herramientas de detección”, está haciendo tres afirmaciones encadenadas que rara vez se examinan por separado. Primero: que existe un uso indebido claramente delimitable. Segundo: que ese uso deja una huella detectable. Tercero: que detectarlo resuelve el problema. Las tres son dudosas, y la tercera es directamente falsa.
Turnitin, el proveedor dominante en el mercado de detección académica, ha sido tratado por buena parte de la conversación institucional como si su detector de IA fuera un instrumento de medición confiable, comparable a un termómetro. No lo es. La propia empresa ha tenido que matizar públicamente las tasas de error de su herramienta, y estudios independientes han documentado que los detectores producen falsos positivos con una frecuencia que, aplicada a una cohorte de miles de estudiantes, garantiza acusaciones injustas. Lo que casi ningún artículo institucional de esta semana documenta es el costo humano de esas falsas acusaciones: el estudiante señalado que debe probar su inocencia, la inversión de la carga de la prueba, la relación de confianza rota entre docente y alumno. La conversación trata la detección como solución directa y omite sistemáticamente a la víctima del error.
Aquí conviene traer a Meredith Broussard, que en Artificial Unintelligence - How Computers Misunderstand advierte contra lo que llama “tecnochauvinismo”: la creencia de que la tecnología es siempre la mejor solución. El detector de IA es tecnochauvinismo en estado puro: un problema pedagógico —¿cómo sé que este estudiante aprendió?— se reformula como un problema computacional —¿qué probabilidad estadística tiene este texto de ser sintético?— y se entrega a un vendedor. La reformulación no es neutral. Cambia la pregunta, cambia al responsable, y cambia lo que se mide. Ya no medimos aprendizaje; medimos la coincidencia de un texto con un patrón probabilístico. Y sobre esa medición defectuosa se montan sanciones reales, a veces vías judiciales, como si el resultado del software fuera prueba y no indicio frágil.
La vía judicial como confesión de fracaso
El paso de la detección a la judicialización merece atención propia, porque marca el punto donde la abdicación pedagógica se vuelve institucional y hasta punitiva. Cuando una universidad contempla vías legales para disuadir el uso de IA —o para sancionar el plagio asistido por IA como delito académico grave— está haciendo algo más que defender su integridad: está confesando que ha renunciado a la única herramienta que le pertenece, la evaluación.
Pensemos en la lógica. Si un examen puede ser respondido por una máquina sin que el docente lo note, el problema no es que la máquina exista; el problema es que el examen nunca midió lo que decía medir. Un ensayo de cinco párrafos con tesis, tres argumentos y conclusión —el formato que la máquina reproduce con facilidad perfecta— nunca fue una buena medida del pensamiento; era una medida de la conformidad con un formato. La IA no rompió la evaluación; reveló que ya estaba rota. Amenazar con abogados al estudiante que aprovecha esa fisura es como demandar al agua por filtrarse por una grieta que el arquitecto dejó abierta.
La vía judicial, además, importa un modelo de relación que es ajeno —y hostil— a la tradición dialógica que la pedagogía latinoamericana ha defendido durante medio siglo. Paulo Freire, en Pedagogía del oprimido, describió la “educación bancaria” como aquella en que el docente deposita conocimiento en el estudiante tratado como recipiente pasivo, y opuso a ella una pedagogía problematizadora donde el saber se construye en diálogo. El reflejo de vigilancia es la educación bancaria en su versión defensiva: si el estudiante es un recipiente, entonces el fraude es robar del depósito, y el detector es la alarma antirrobo. Pero si la educación fuera diálogo, la pregunta cambiaría por completo: no “¿copió?”, sino “¿puede sostener lo que dice cuando le pregunto?”. El diálogo es, resulta, el mejor detector de IA que existe, y no cobra licencia anual.
“Uso responsable y humano”: la retórica que no compromete a nada
La Universidad de la República del Uruguay anunció esta semana su intención de promover un “uso responsable y humano” de la inteligencia artificial. La frase es impecable y por eso mismo sospechosa. Despojémosla de su brillo: ¿qué compromiso concreto adquiere una institución cuando promete algo “responsable y humano”? ¿Quién define responsable? ¿Con qué presupuesto se sostiene lo humano? ¿Qué órgano de gobernanza compartida decide, y con qué participación del claustro estudiantil y docente?
Uruguay no es un caso menor en esta conversación. Es el país con mayor PIB per cápita de la región según los datos del Banco Mundial 2024, 23.906 dólares, y ocupa el quinto lugar en el Índice Latinoamericano de Inteligencia Artificial con 66,1 sobre 100. Tiene, de hecho, una Estrategia de IA para el Gobierno Digital ya formulada. Si hay un país que podría traducir la retórica del “uso humano” en política concreta —presupuesto para formación docente, tiempo protegido para rediseñar evaluaciones, órganos de decisión con participación real—, es Uruguay. Precisamente por eso el anuncio genérico decepciona: revela que incluso donde existe capacidad institucional, el primer instinto es el eslogan antes que la estructura.
La retórica de lo “humano” cumple una función que conviene ver con claridad. Sirve para ocupar el espacio del compromiso sin adquirirlo. Es lo que Zuboff, en The Age of Surveillance Capitalism, identifica cuando describe cómo el aprendizaje en sociedad ha sido secuestrado por el capitalismo de vigilancia en ausencia de instituciones democráticas robustas que aten la información en bruto a los intereses de la gente. Cuando la universidad dice “uso humano” sin gobernanza que lo respalde, deja el vacío disponible para que lo llene la forma de mercado: los proveedores de detección, las plataformas que ofrecen “IA educativa”, los vendedores de dashboards de integridad. Lo humano proclamado sin estructura es lo humano entregado.
La guía de “buenas prácticas” y el achicamiento del pensamiento crítico
Del lado argentino, la conversación de la semana incluyó guías de “buenas prácticas” para el uso de IA en la enseñanza superior. Argentina llega a esta discusión con credenciales: 67,5 sobre 100 en el Índice Latinoamericano de Inteligencia Artificial, cuarto lugar regional, y un Plan Nacional de Inteligencia Artificial ya formulado, según los datos del Banco Mundial 2024. El problema no es que existan guías; es qué entienden esas guías por “uso crítico”.
Cuando se examina el contenido típico de estas guías, el “uso crítico de la IA” tiende a reducirse a tres operaciones: validar las salidas del modelo, cuidar la privacidad de los datos, y detectar errores o “alucinaciones”. Son recomendaciones sensatas. Pero llamarlas pensamiento crítico es un achicamiento notable. Validar, cuidar y corregir son tareas de control de calidad sobre un producto ajeno; el pensamiento crítico es otra cosa. Es preguntar por qué se usa esta herramienta y no otra, quién se beneficia de que se use, qué se deja de aprender cuando se delega, y qué relaciones de poder se reproducen en la infraestructura misma del modelo.
Cristóbal Cobo lo anticipó con precisión en su trabajo sobre alfabetización digital: advirtió contra una educación “meramente instrumental” que, incapaz de hacernos competentes en un contexto complejo, nos deja vulnerables y fácilmente manipulables, y llamó a superar ese instrumentalismo en favor del desarrollo del pensamiento crítico y autónomo Acepto las condiciones: usos y abusos de las tecnologías digitales. La guía que reduce lo crítico a validación de salidas es exactamente la educación instrumental que Cobo critica: enseña a operar la herramienta sin enseñar a cuestionar su lugar. Produce, en el mejor de los casos, buenos operadores. No produce ciudadanos.
Y esto conecta con una advertencia más dura, la de García Canclini en Ciudadanos reemplazados por algoritmos: los conocimientos necesarios para desempeñarnos como ciudadanos se estrechan debido a la sustracción y el ocultamiento de datos por parte de corporaciones y gobiernos. Una universidad que enseña a “validar las salidas” de un modelo cuyos datos de entrenamiento, sesgos y arquitectura son opacos, está enseñando a confiar en una caja negra bajo la apariencia de escepticismo. El estudiante cree que está siendo crítico porque revisa las citas que el modelo inventa; no advierte que la operación entera lo entrena en la aceptación de una infraestructura sobre la que no tiene ninguna soberanía. El uso crítico verdadero incluiría preguntar por qué la universidad pública latinoamericana depende de modelos entrenados en el Norte, con datos del Norte, para mediar el aprendizaje del Sur.
El problema más profundo que nadie quiere diseñar
Detrás de las tres modalidades —detección, judicialización, retórica— hay un mismo hueco: el abandono del diseño de la evaluación del pensamiento. Los artículos de opinión de la semana rozan este “problema más profundo” y luego lo esquivan, porque nombrarlo obliga a admitir que la solución no se compra ni se decreta: se trabaja, materia por materia, docente por docente, y cuesta tiempo que las instituciones no quieren pagar.
Diseñar una evaluación que la IA no pueda falsificar por el estudiante no es un misterio técnico. Requiere trasladar el peso de la calificación del producto al proceso: defensas orales, iteraciones documentadas, trabajos anclados en la experiencia local irrepetible del estudiante, exámenes donde el alumno debe pensar frente a otro y no frente a una pantalla. Todo esto se sabe. Nada de esto se escala barato. Una defensa oral de veinte minutos para cada estudiante en una comisión de doscientos es una imposibilidad presupuestaria en la universidad latinoamericana masificada y subfinanciada. Y ahí está el nudo real: la vigilancia es barata y el rediseño es caro. El detector cuesta una licencia; el rediseño cuesta horas docentes, reducción de comisiones, inversión en la relación pedagógica. La institución elige lo barato y lo llama solución.
Conviene ser justos con la complejidad. No toda adopción de detección es cobardía, y no todo docente que usa Turnitin ha abdicado. Hay contextos —masividad extrema, precarización docente, cursos donde un solo profesor evalúa a cientos— donde la herramienta es un parche desesperado ante una imposibilidad estructural, no una elección ideológica. El profesor que recurre al detector muchas veces es tan víctima del sistema como el estudiante acusado: se le pide vigilar sin darle las condiciones para enseñar. Culpar al docente individual sería repetir el error de la institución, que busca un culpable en vez de un diagnóstico. El guardián irresponsable no es el profesor cansado; es la política que le entrega una alarma antirrobo en lugar de una comisión de veinte estudiantes.
También hay que conceder que el fraude existe y que la integridad importa. La crítica a la vigilancia no es una defensa del “todo vale”. Un título universitario certifica una competencia ante la sociedad, y esa certificación pierde sentido si se puede simular. El punto no es abandonar la integridad; es entender que la integridad se protege mejor con evaluaciones que exigen presencia de pensamiento que con detectores que persiguen ausencia de humanidad. La diferencia es sustantiva: uno construye la prueba positiva del aprendizaje, el otro busca la prueba negativa del fraude, y la prueba negativa —como sabe cualquier lógico— es la que más falsos positivos genera.
Las lentes latinoamericanas: por qué la deuda se descuenta doble
Aplicar las lentes de nuestra región a este fenómeno cambia su textura. Lo que en el Norte es un debate sobre integridad académica, en América Latina es una cuestión de soberanía cognitiva bajo condiciones de escasez.
Disponibilidad. Las herramientas de IA generativa llegaron a la región gratuitas, ubicuas, en el celular de cada estudiante, antes de que existiera cualquier condición pedagógica para amortizar su impacto. Esta asimetría es decisiva: la máquina de delegar el pensamiento estuvo disponible mucho antes que la infraestructura para enseñar a pensar con ella. La universidad reacciona a un fenómeno que ya está dentro del aula, no que se aproxima. El detector es, en este sentido, un intento de cerrar una puerta cuando el agua ya inundó la casa. La disponibilidad temprana y gratuita de la herramienta, sin disponibilidad equivalente de formación docente ni de tiempo institucional para el rediseño, es la primera cuota de la deuda cognitiva —y llegó impaga.
Accesibilidad. Aquí la asimetría se vuelve cruel. Evadir el esfuerzo de pensar es hoy accesible para cualquiera con un teléfono: basta un prompt. El antídoto —educación pública de calidad, comisiones pequeñas, tiempo docente para el diálogo, defensas orales, la paciencia de la evaluación de proceso— sigue siendo un privilegio distribuido de manera desigual. Un estudiante de una universidad de élite privada tendrá seminarios de quince personas donde el diálogo hace imposible fingir el aprendizaje; un estudiante de una universidad pública masificada estará en una comisión de trescientos, evaluado por un examen de opción múltiple que la máquina resuelve en segundos, y luego será acusado por un detector si se atrevió a usarla. La vigilancia recae con más fuerza donde la pedagogía dialógica es menos accesible. La brecha educativa previa no se corrige: se automatiza y se reviste de neutralidad técnica, exactamente el mecanismo que Ruha Benjamin describe cuando la inequidad vieja se reinscribe en la infraestructura nueva.
Aplicabilidad. En economías donde la presión por producir un título rápido y empleable es máxima —donde el estudiante trabaja mientras estudia, donde la deserción por razones económicas es alta—, la delegación cognitiva no es pereza: es supervivencia. La IA aparece como la solución racional a una ecuación imposible de tiempo. Pero esa solución fabrica, como advierte la tesis general de nuestra conversación de esta semana, profesionales que no pueden cuestionar sus propias decisiones porque nunca practicaron el juicio. Un ingeniero que aprobó delegando, un médico que certificó sin pensar, un abogado que argumentó copiando: la aplicabilidad de la herramienta en el corto plazo produce una inaplicabilidad del criterio en el largo plazo. Y esa factura la paga la sociedad entera, no el estudiante individual.
Alternativas y anticipación: lo que la región ya sabe
Alternativas. El error de encuadrar todo como vigilancia es que oculta que América Latina no está desnuda de recursos frente a este problema. Tiene, de hecho, la tradición pedagógica mejor equipada del mundo para responder. La pedagogía dialógica de Freire no es una reliquia; es precisamente el antídoto contra la delegación cognitiva, porque construye conocimiento en la relación y no en el producto entregable. En Pedagogía de la autonomía, Freire insiste en que enseñar no es transferir conocimiento sino crear las condiciones para su producción; una evaluación construida sobre ese principio es estructuralmente resistente a la falsificación por IA, no porque la detecte, sino porque no hay nada que falsificar cuando lo que se evalúa es el pensamiento en acto. La región tiene también experiencias comunitarias de apropiación tecnológica —telecentros, educación popular digital, redes de docentes que comparten prácticas— que muestran que la tecnología puede ser medio y no sustituto. El camino no es prohibir la IA ni vigilarla; es exigir que ocupe el lugar de herramienta subordinada al pensamiento, no el de prótesis que lo reemplaza.
Anticipación. Si algo debería medirse antes de lanzar los inevitables programas masivos de “formación en IA” que los gobiernos y las universidades de la región ya anuncian, es lo que estos programas rara vez miden: la dependencia y la pérdida de criterio, no solo la eficiencia. México, con 68,8 en el Índice Latinoamericano de Inteligencia Artificial y una Estrategia Nacional renovada, Argentina y Uruguay están en la antesala de políticas de escala según los datos del Banco Mundial 2024. El riesgo es que esas políticas midan su éxito en adopción —cuántos estudiantes usan la herramienta, cuántos docentes la integran— cuando la métrica que importa es la opuesta: cuánto juicio autónomo conserva el estudiante después de pasar por el programa. Una formación en IA que aumenta el uso y disminuye la capacidad de cuestionar es un fracaso disfrazado de éxito. Anticipar significa diseñar hoy los indicadores de soberanía cognitiva que mañana nos dirán si estamos formando ciudadanos o usuarios.
El recibo que sigue impago
La universidad latinoamericana enfrenta esta semana un espejo incómodo, y lo que ve no le gusta: frente al desafío más serio de su función central en décadas, su reflejo fue vigilar, no enseñar. Compró detectores en vez de rediseñar exámenes. Amenazó con abogados en vez de convocar diálogos. Proclamó lo “humano” en vez de presupuestarlo. Redujo el pensamiento crítico a control de calidad. Cada uno de esos movimientos es comprensible bajo la presión de la masividad y la escasez; ninguno es una respuesta pedagógica; todos juntos configuran al guardián irresponsable, la institución que asume la custodia sin asumir la enseñanza.
El costo de esta abdicación no aparece en ningún estado de cuenta institucional este semestre. Aparecerá después, cuando la generación formada en la delegación cognitiva ocupe los consultorios, los tribunales, las aulas y los ministerios de la región, y descubramos que sabe operar herramientas pero no cuestionar decisiones. Ese es el recibo de la deuda cognitiva, y en América Latina se descuenta doble: sobre una brecha educativa que ya era honda y sobre una dependencia tecnológica que aceptamos sin condiciones.
Quedan preguntas que la región tendrá que responder con hechos, no con eslóganes. ¿Está dispuesta la universidad pública a pagar el costo real del rediseño evaluativo —comisiones más pequeñas, más horas docentes, evaluación de proceso— o seguirá comprando la ilusión barata de la vigilancia? ¿Puede una institución proclamar el “uso humano” de la IA sin órganos de gobernanza donde estudiantes y docentes decidan qué significa? ¿Y quién definirá, en cada país, si el éxito de la formación en IA se mide por la adopción o por el juicio conservado? La alfabetización crítica —no la instrumental, no la de validar salidas, sino la que enseña a preguntar por el poder detrás de la herramienta— no es un adorno del currículo. Es, como sugiere la tesis de esta semana, el seguro de vida de la autonomía. Una universidad que prefiere vigilar antes que enseñar está cancelando esa póliza justo cuando más la va a necesitar.