Reglamento antes que evidencia: la universidad legisla la IA a ciegas

Hay un momento en la vida de cualquier institución que quiere parecer moderna: el momento en que deja de hacerse la pregunta difícil y empieza a redactar el reglamento que la reemplaza. La universidad latinoamericana —y también la del norte que le sirve de espejo— está exactamente ahí esta semana. Después de dos años de pánico por la trampa estudiantil, de comprar detectores que no funcionaban y de tratar a cada ensayo como sospechoso, el péndulo se movió. Se abandonaron los detectores. Se hablan de auto-documentación, de declaraciones de proceso, de reglamentos propios. Y el gesto se presenta como madurez: por fin la universidad deja atrás la vigilancia y adopta la confianza.

El problema es que entre el abandono del detector y la promulgación del reglamento no pasó nada parecido a la producción de evidencia. No hubo estudio comparado, no hubo control, no hubo una pregunta metodológica sobre qué cuenta como prueba de que un texto fue escrito por quien firma. Hubo, en cambio, una transferencia de autoridad: la institución dejó de confiar en una máquina defectuosa para confiar en su propia capacidad de legislar. Cambió un instrumento por un decreto. Y como todo decreto emitido en ausencia de evidencia, este también tiene un destinatario preciso para su incertidumbre: quien tiene menos poder dentro de la relación evaluativa, es decir, el estudiantado.

Este ensayo sostiene que la historia de educación superior de esta semana no es la IA en el aula. Es la institucionalización del gobierno de la IA sin las pruebas que lo sostengan. Y sostiene, además, que ese vacío probatorio no es neutro: lo está llenando alguien. Lo están llenando los proveedores.

El fin del detector no produjo un criterio, produjo un hueco

Conviene ser justos con la decisión de abandonar los detectores, porque en sí misma era correcta. La evidencia de que los clasificadores de texto generado por IA fallan —y fallan sesgadamente— era ya abrumadora hace más de un año. Los estudios mostraban que penalizaban desproporcionadamente a hablantes no nativos de inglés, marcando como artificial la prosa de quien escribe en su segunda lengua con estructuras más simples y predecibles GPT detectors are biased against non-native English writers. Retirar una herramienta que producía falsos positivos con dirección demográfica no fue cobardía institucional; fue lo mínimo exigible.

Pero fijémonos en lo que la universidad hizo con el hueco que dejó. La lógica sana habría sido preguntarse: si el detector no puede establecer autoría, ¿qué sí puede? ¿Qué evidencia de autoría es aceptable, replicable, justa? Esa pregunta —que es metodológica antes que administrativa— no se hizo. En su lugar apareció un catálogo de dispositivos: la declaración de uso de IA, el registro de versiones del documento, la bitácora de proceso, la defensa oral. Todos ellos comparten una característica que conviene nombrar sin eufemismo: trasladan al estudiante la carga de demostrar su propia inocencia.

La diferencia con el detector es sutil y decisiva. El detector, con todos sus defectos, ponía la carga de la prueba en la institución: era la máquina la que acusaba, y la acusación —cuando el estudiante protestaba— podía en principio ser cuestionada. La auto-documentación invierte esa relación. Ahora es el estudiante quien debe producir, de manera continua y anticipada, el expediente de su propia autoría, bajo la presunción de que su ausencia equivale a culpa. Kate Crawford describió el patrón general de estos sistemas: la infraestructura técnica de la IA se sostiene sobre trabajo invisible cuya carga se distribuye hacia abajo, hacia quien tiene menos capacidad de negarse The Atlas of AI - Power, Politics, and the Planetary Costs. El expediente de autoría es, en escala pequeña, exactamente eso: trabajo no remunerado que la institución externaliza sobre el evaluado y contabiliza como rigor.

No estoy diciendo que la declaración de proceso sea inútil. Estoy diciendo que se adoptó como si fuera evidencia sin que nadie demostrara que lo es. ¿Qué tasa de falsos positivos tiene una bitácora de proceso? ¿Un estudiante que escribe de un tirón, sin borradores, es más sospechoso que uno que simula versiones? ¿La defensa oral favorece al hablante fluido sobre el tímido, al de clase media urbana sobre el de origen rural que llegó a la universidad con menos capital verbal? Ninguna de estas preguntas tiene respuesta institucional, porque ninguna se investigó. El reglamento las cierra por decreto.

La única ética que aparece es la del formulario, no la del instrumento

Hay un detalle en los casos de esta semana que revela con precisión quirúrgica dónde está puesta la atención institucional. Cuando las universidades documentan sus procesos de integración de IA, la palabra “ética” aparece —pero aparece casi siempre referida a la aprobación de sujetos humanos, al comité de investigación, al consentimiento informado del participante. Es decir: la ética que se activa es la de la investigación sobre la IA, no la del instrumento de evaluación con IA.

La distinción importa porque significa que la maquinaria ética de la universidad —que existe, que es real, que puede detener un proyecto— se aplica a la fase glamorosa del asunto (estudiamos la IA, publicamos sobre la IA) y no a la fase mundana y cotidiana donde se juega la equidad de miles de estudiantes (evaluamos con criterios opacos que nadie auditó). Meredith Broussard señaló hace años que la mirada crítica sobre estos sistemas empieza a madurar precisamente cuando deja de tratarlos como objetos fascinantes y empieza a tratarlos como infraestructura que distribuye poder Artificial Unintelligence - How Computers Misunderstand. La universidad todavía no dio ese paso con sus propios instrumentos de evaluación.

Pensemos qué implicaría tomarse en serio la ética del instrumento. Implicaría someter cada nuevo protocolo de detección de autoría —la bitácora, la defensa oral, la declaración— al mismo escrutinio que un experimento con seres humanos: ¿tiene sesgos conocidos?, ¿se probó en poblaciones diversas?, ¿quién queda sistemáticamente desfavorecido?, ¿hay recurso de apelación?, ¿el error tiene consecuencias proporcionales? Ninguna universidad de la región, hasta donde se puede documentar, corre sus protocolos de evaluación asistida por IA por un comité de equidad antes de imponerlos. La aprobación de sujetos humanos protege al participante de una encuesta; no protege al estudiante de una acusación de deshonestidad basada en criterios no validados.

Esta asimetría no es un descuido, es una estructura de incentivos. La ética de investigación produce papers y prestigio; la ética del instrumento produce fricción, demora y responsabilidad legal. Una institución racional que optimiza reputación en lugar de justicia elegirá siempre la primera. Y es aquí donde el argumento de esta publicación de la semana pasada se conecta con el de hoy: si la universidad ya está perdiendo autoridad epistémica para certificar lo que un egresado sabe, como sostuvimos entonces, la solución no puede ser un aparato de gobernanza que certifica procesos declarados en lugar de conocimiento demostrado. El reglamento de auto-documentación certifica que el estudiante llenó el formulario, no que aprendió. Es autoridad de trámite disfrazada de autoridad epistémica.

USS, Nebraska y el mapa de un régimen sin base empírica

Los dos casos institucionales de la semana —la Universidad San Sebastián en Chile con su normativa propia, y el grupo de trabajo de la Universidad de Nebraska— comparten una estructura que vale la pena leer como género, no como noticia. Ambos representan el mismo movimiento: la institución convoca un cuerpo interno, produce un documento normativo y lo promulga como política. El proceso es impecablemente procedimental. Lo que falta, en ambos, es la base empírica que convierta la norma en algo más que una opinión bien intencionada con membrete.

Chile no es un país cualquiera para este debate. Con un ILIA de 70.2 sobre 100 ocupa el segundo lugar regional en preparación para la IA, tiene una Política Nacional de Inteligencia Artificial y un PIB per cápita de 16,709 dólares que le permite invertir en infraestructura digital Chile country profile ILIA 2024. Es, en otras palabras, la clase de país donde uno esperaría que la gobernanza universitaria de la IA se apoyara en investigación local, en estudios controlados, en datos propios. Que incluso ahí la normativa institucional se produzca por deliberación de comité y no por evidencia experimental es la señal de que el problema no es de recursos ni de madurez tecnológica: es de método.

El grupo de trabajo —el task force, esa criatura administrativa que existe para producir consenso, no verdad— es el instrumento perfecto para legislar sin evidencia. Reúne a personas con autoridad, las hace deliberar, y su producto tiene la forma de una conclusión razonada aunque no haya medido nada. La sociología de las organizaciones conoce bien este dispositivo: el comité manufactura legitimidad procedimental. Nadie puede acusar a la universidad de haber actuado unilateralmente si hubo un grupo de trabajo. Pero la deliberación de expertos internos no sustituye a la pregunta empírica, y confundirlas es precisamente el error que este ensayo quiere nombrar. Que un cuerpo respetable haya acordado que la defensa oral demuestra autoría no la convierte en un instrumento válido; solo la convierte en política.

Lo que agrava el cuadro es quién no está en esos cuerpos. La tesis de trabajo de esta semana lo dice sin rodeos: el cuerpo docente de base, los comités curriculares y las unidades de equidad rara vez entran en la conversación de gobernanza de la IA. Se legisla sobre la evaluación sin quienes evalúan y sin quienes representan a los evaluados más vulnerables. García Canclini advirtió que el acompañamiento algorítmico de nuestra existencia opera como “una forma de superyó dotado en todo momento de la intuición de la verdad” que orienta nuestras acciones Ciudadanos reemplazados por algoritmos — y el reglamento universitario reproduce esa estructura en pequeño: se presenta como si tuviera la intuición de la verdad sobre la autoría estudiantil, cuando lo único que tiene es la autoridad para decretarla.

Los proveedores ocupan el lugar que dejó vacío el estudio comparado

Y aquí llegamos al punto donde el vacío probatorio se vuelve peligroso, porque los vacíos de evidencia no permanecen vacíos: los ocupa quien tenga un producto que vender. El único paquete que esta semana circula con la apariencia de evidencia —cinco universidades presentadas como casos de éxito de integración de IA— no proviene de una revista arbitrada ni de un consorcio de investigación educativa independiente. Proviene del embudo de ventas de OpenAI OpenAI’s push into higher education, reempaquetado como estudio de casos.

Llamemos a esto por su nombre: es marketing con la gramática de la investigación. Un estudio de casos producido por el vendedor del producto no es evidencia sobre el producto; es material promocional que adopta la forma de la evidencia para colonizar el espacio de decisión de la institución. Y funciona precisamente porque la universidad, habiendo abandonado el detector sin construir su propia base empírica, tiene un hueco cognitivo que llenar. El proveedor llega con casos brillantes, testimonios, métricas de adopción —las mismas métricas de uso que esta publicación desmontó la semana pasada como transferencia interesada de categorías industriales al terreno pedagógico— y la institución, hambrienta de algo que parezca fundamento, lo toma.

El mecanismo es el que Crawford describe para toda la cadena de la IA: los clientes esperan una “completación barata y sin fricción del trabajo, sin supervisión, como si la plataforma no fuera una interfaz hacia” un sistema de relaciones de poder The Atlas of AI - Power, Politics, and the Planetary Costs. La universidad quiere gobernanza de la IA barata y sin fricción, y el proveedor se la ofrece prefabricada: adopte nuestra herramienta, use nuestros casos como justificación, y el problema de la evidencia queda resuelto por delegación. El costo de esa delegación es que la agenda de investigación educativa sobre IA la termina fijando quien vende IA.

Esto debería alarmar más de lo que alarma. Cuando una institución cuya razón de ser es producir y validar conocimiento renuncia a producir conocimiento sobre su propia práctica y lo importa del proveedor, no está simplemente tomando un atajo administrativo: está erosionando la función que la distingue de una empresa de servicios. La universidad que gobierna la IA con los casos de éxito de OpenAI es una universidad que ya cedió su autoridad epistémica sobre el asunto más íntimo que tiene —cómo sabe lo que un estudiante sabe— a un actor cuyo interés es vender más licencias.

El contraargumento honesto: quizás no había tiempo para esperar la evidencia

Sería deshonesto no considerar la mejor versión del argumento contrario, porque existe y tiene fuerza. La objeción es esta: la evidencia controlada tarda años en producirse; los estudiantes están usando IA ahora, masivamente, hoy; una universidad no puede paralizar su función evaluativa durante tres años esperando un ensayo aleatorizado sobre la validez de la defensa oral. Gobernar bajo incertidumbre no es un pecado, es la condición normal de toda institución que opera en tiempo real. Exigir evidencia perfecta antes de actuar es una receta para no actuar nunca, y la parálisis también tiene costos —también recaen sobre los estudiantes, que quedan sin reglas claras y a merced de la arbitrariedad de cada docente.

Este contraargumento es correcto en su premisa y equivocado en su conclusión. Es cierto que hay que actuar bajo incertidumbre. Pero actuar bajo incertidumbre de manera responsable tiene una gramática específica que los casos de esta semana no exhiben. Actuar responsablemente bajo incertidumbre significa: declarar explícitamente que la norma es provisional, construir mecanismos de recolección de datos dentro de la implementación para poder corregir, poner recurso de apelación de bajo costo para el afectado, y monitorear activamente el impacto diferencial sobre poblaciones vulnerables. Es la diferencia entre un piloto y un decreto. Un piloto sabe que no sabe y se organiza para aprender; un decreto pretende saber y se organiza para durar.

Lo que descalifica a los reglamentos de esta semana no es que actúen sin evidencia perfecta —nadie la tiene—, sino que actúan como si tuvieran evidencia, cerrando la pregunta en lugar de mantenerla abierta. No dicen “esto es nuestra mejor apuesta provisional y aquí está cómo mediremos si funciona”. Dicen “esta es la política”. La provisionalidad, que sería la postura epistémicamente honesta, se convierte en permanencia por defecto administrativo. Y la carga de esa falsa certeza, insisto, no la paga la institución que la decreta: la paga el estudiante acusado bajo un criterio que nadie validó, sin más recurso que su palabra contra un reglamento.

Hay un matiz adicional que complica incluso mi propia tesis y conviene admitirlo. Es posible que en algunos contextos la auto-documentación efectivamente mejore el aprendizaje, no como instrumento de vigilancia sino como práctica reflexiva: escribir sobre el propio proceso puede ser pedagógicamente valioso con independencia de su valor probatorio. Si ese fuera el marco —la bitácora como herramienta de metacognición y no como expediente de inocencia— el juicio sería distinto. Pero eso exige separar tajantemente la función pedagógica de la función punitiva, y los reglamentos de la semana las funden: usan el mismo dispositivo para enseñar a reflexionar y para atrapar tramposos, contaminando la primera con la lógica de la segunda. Un estudiante no reflexiona honestamente en un documento que sabe que puede ser usado en su contra.

Las lentes latinoamericanas: aplicabilidad y anticipación

Conviene ahora mirar el fenómeno con dos de las lentes que esta publicación aplica a la región, porque el asunto adquiere en América Latina rasgos que no tiene en el norte que produce los casos de OpenAI.

Aplicabilidad. La universidad latinoamericana consume estos marcos de gobernanza sin haberlos producido y, con frecuencia, sin poder auditarlos. Cuando una institución chilena, argentina o uruguaya adopta un reglamento de auto-documentación inspirado en los casos de éxito del proveedor, importa no solo la herramienta sino los supuestos culturales incrustados en ella: qué cuenta como escritura legítima, qué proceso de composición se considera “normal”, qué perfil de estudiante es el default. Los detectores penalizaban al hablante no nativo de inglés GPT detectors are biased against non-native English writers; no hay razón para suponer que los nuevos criterios de autoría, diseñados en universidades anglófonas de élite y validados por nadie, sean neutrales frente al estudiante latinoamericano de primera generación universitaria, que llegó con menos capital escrito, que quizás escribe en un registro más cercano al oral, que no tiene en casa la biblioteca ni el modelo de prosa académica que el criterio implícito presupone. La aplicabilidad no es transferencia técnica: es importación de un canon de sospecha.

Anticipación. Si la región va a legislar la IA en sus universidades —y va a hacerlo, porque la presión es real—, la pregunta es si lo hará reproduciendo el error del decreto sin evidencia o construyendo desde el inicio la capacidad de producir su propia base empírica. Chile, con el segundo ILIA regional y una política nacional de IA Chile country profile ILIA 2024, y Argentina, con su Plan Nacional de Inteligencia Artificial y un ecosistema universitario público robusto Argentina country profile ILIA 2024, tienen la capacidad institucional para hacer lo que las universidades del norte no hicieron: montar consorcios de investigación educativa que validen los instrumentos de evaluación antes de que se conviertan en norma continental. La ventana está abierta ahora, mientras los reglamentos todavía se están escribiendo. Una vez que la auto-documentación se consolide como práctica estándar importada, revertirla costará una generación.

Lo que la anticipación exige es concreto: que las unidades de equidad y los comités curriculares —hoy ausentes de la conversación— sean parte obligatoria de cualquier grupo de trabajo sobre evaluación con IA; que todo protocolo de detección de autoría incluya, por diseño, un mecanismo de apelación y un registro de impacto diferencial; que las universidades públicas de la región compartan datos anonimizados para producir la evidencia comparada que ningún proveedor va a producir porque no le conviene. Freire lo formuló con una claridad que sigue vigente: la liberación pasa por nombrar el mundo, no por consumirlo pasivamente como depósito de contenidos ajenos Pedagogía del oprimido. Una universidad que consume la gobernanza de la IA prefabricada por su proveedor está, en términos freireanos, en posición bancaria frente a su propia práctica: recibe el marco como depósito en lugar de producirlo como sujeto de conocimiento.

Lo que queda abierto

El régimen que se está consolidando esta semana tiene una coherencia perversa. Abandona un instrumento defectuoso —bien— pero lo reemplaza por un dispositivo no validado que traslada la carga al menos poderoso. Activa su maquinaria ética para la investigación glamorosa sobre la IA y la desactiva para la evaluación cotidiana donde se juega la equidad de miles. Legisla mediante comités que manufacturan legitimidad procedimental sin producir evidencia. Y llena el vacío probatorio resultante con material de marketing del proveedor disfrazado de estudio de casos. Cada uno de estos movimientos, tomado por separado, parece razonable. Juntos configuran una institución que ha decidido gobernar su asunto más íntimo —cómo sabe lo que sus egresados saben— a ciegas y con la carga puesta en quien menos puede protestar.

Quedan preguntas que la región debería hacerse antes de firmar el reglamento. ¿Quién audita el instrumento de evaluación con el mismo rigor con que auditamos un experimento con humanos? ¿Puede una universidad pública latinoamericana permitirse importar su marco de gobernanza de IA del embudo de ventas de una empresa estadounidense, o tiene la obligación epistémica de producir el suyo? ¿Es posible separar la bitácora de proceso como práctica de aprendizaje de la bitácora como expediente de inocencia, o toda auto-documentación queda contaminada por la sospecha que la origina? ¿Y quién habla por el estudiante de primera generación universitaria cuando se define, sin él en la sala, qué proceso de escritura cuenta como legítimo?

La respuesta honesta es que no lo sabemos, y ese no saber es el punto. La universidad que reconoce que no sabe y construye para aprender es una institución viva. La que decreta certezas que no tiene, y le cobra la incertidumbre al más débil, es una burocracia que confundió la autoridad de emitir reglas con la autoridad de conocer la verdad. Esta semana, demasiadas eligieron ser lo segundo. La región todavía puede elegir lo primero —pero la ventana no va a quedarse abierta esperando a que terminemos de deliberar.