El juicio en depósito: la semana en que la IA se volvió capa

La palabra clave de la semana no es herramienta. Es capa. Cuando algo es herramienta, uno lo agarra, lo usa, lo suelta. Puede examinarlo. Puede preguntarse cómo funciona. Una capa es otra cosa: es algo que se mete debajo de lo que ya existe y se vuelve invisible por debajo. Uno deja de verla porque deja de agarrarla. Se convierte en el piso.

Esta semana, en cuatro frentes distintos, la evidencia describe el mismo movimiento. La verificación de información, la vigilancia, la evaluación de personas y la aplicación de reglas se están depositando dentro de sistemas que quien los usa no puede auditar. La IA no se escapó del control humano. Al contrario: se integró con tanta suavidad que ya nadie sabe quién responde por la decisión. El juicio quedó en depósito.

Y depósito es exactamente la palabra que Paulo Freire dedicó su vida a combatir.

Qué significa que el juicio quede “en depósito”

Freire construyó su pedagogía sobre una distinción tajante. Por un lado, la educación bancaria —el nombre que le dio al modelo donde el saber se deposita en cabezas pasivas, como quien mete monedas en una alcancía. El que sabe habla; el que no sabe recibe, memoriza, repite. Por el otro, la educación problematizadora —donde el que aprende y el que enseña construyen el conocimiento juntos, en diálogo, partiendo de la experiencia real de quien aprende.

La diferencia no es de método. Es de poder. En la educación bancaria alguien tiene la palabra y alguien la recibe. Esa asimetría no es un accidente pedagógico: es el mecanismo. El depósito produce sujetos que no cuestionan porque nunca se les pidió que cuestionaran. Se les pidió que guardaran.

Lo que la semana muestra es la educación bancaria en su versión automatizada. El sistema deposita respuestas y el usuario las recibe como verificación. Antes, al menos, el depositante era un maestro, una institución, un libro con autor y fecha. Ahora el depositante es una capa que nadie ve. Uno le pregunta a un chatbot si algo es cierto, y la respuesta llega con la autoridad de lo terminado. No como una hipótesis que uno pueda problematizar. Como un saldo en la cuenta.

Freire tenía un nombre para el estado mental que este arreglo produce. En Pedagogía de la autonomía lo llamó “burocratización de la mente”: ese “estado refinado de extrañeza, de ‘autosumisión’ de la mente, del cuerpo consciente, de conformismo del individuo, de resignación ante situaciones consideradas fatalmente como inmutables”. Fijémonos en la palabra refinado. La dominación no llega esta semana con un látigo. Llega con una interfaz cómoda. La sumisión es auto: uno se la administra a sí mismo. Y lo que se acepta como inmutable es precisamente la capa —el hecho de que la respuesta ya venga dada.

Quién nombra el mundo cuando el mundo se consulta en un chatbot

Freire tenía una frase para lo que hacemos cuando conocemos de verdad: nombrar el mundo. No repetir el nombre que otro le puso. Nombrarlo uno, desde la propia experiencia, en diálogo con otros que también lo nombran. Nombrar el mundo es un acto de sujetos, no de objetos. Los oprimidos, escribió, “o se transforman también en sujetos del proceso o continúan reificados”. Reificado quiere decir convertido en cosa. Tratado como objeto de estudio y no como alguien que estudia.

La pregunta que el marco freiriano pone sobre la mesa esta semana es directa: ¿quién nombra el mundo cuando el mundo se consulta en un chatbot?

La respuesta común es que lo nombra el usuario, porque el usuario escribe la pregunta. Pero eso es una ilusión de agencia. El usuario elige entre las palabras que el sistema entiende, sobre los temas que el sistema cubre, y recibe una síntesis producida por un proceso que no puede inspeccionar. El que escribe la pregunta no nombra el mundo. Selecciona de un menú de mundos ya nombrados. La palabra —en el sentido pleno que Freire le daba, la palabra que transforma la realidad al pronunciarla— sigue estando del lado de quien construyó la capa.

Esto se vuelve vertiginoso cuando el problema es la desinformación. Un análisis reciente lo formuló sin rodeos: an AI system can now both create and detect deepfakes. El mismo motor que fabrica el engaño es el que se ofrece para desenmascararlo. Freire preguntaría lo evidente: si el verificador y el falsificador comparten motor, ¿de quién es la palabra que uno pronuncia al compartir algo que “verificó”?

No es la del usuario. El usuario es el eslabón que da alcance a una palabra que no produjo ni pudo auditar. Es, en términos freirianos, el objeto pasivo de un proceso cuyas conclusiones ya venían prescritas. El “humanismo científico revolucionario”, escribió en Pedagogía del oprimido, no puede “tener en los oprimidos objetos pasivos útiles para un análisis cuyas conclusiones prescriptivas deben seguir”. Cambien “revolucionario” por “de la plataforma” y la advertencia se vuelve la descripción exacta del rol que la capa le asigna al ciudadano: transmitir conclusiones que otro prescribió.

Por qué el consejo individual deja intacta la estructura

Aquí está el nudo político de la semana, y donde el marco freiriano corta más hondo.

Frente a la avalancha de contenido sintético, la respuesta pública dominante es un catálogo de consejos individuales. Desconfíe. Revise la dirección del remitente. Llame a su familiar para confirmar. Busque la fuente original. Fíjese en las manos, en los ojos, en las sombras. El consejo es sensato en su escala pequeña. Y es profundamente insuficiente, porque desplaza toda la carga hacia el individuo y deja intacta la estructura que produce el engaño en primer lugar.

Freire vio este movimiento hace medio siglo y lo llamó por su nombre: el discurso fatalista. En Pedagogía de la autonomía escribió sobre “la necesidad de asumir una postura vigilante contra todas las prácticas de deshumanización”, y sobre cómo el saber crítico ayuda a hacer “la necesaria lectura crítica de las verdaderas causas de la degradación humana y de la razón de ser del discurso fatalista de la globalización”.

Las verdaderas causas. Esa es la clave. El consejo individual trata la desinformación sintética como si fuera clima —una condición ambiental frente a la cual uno se pone el impermeable. Freire insistiría en que no es clima. Es producto. Alguien la fabrica, alguien la distribuye, alguien lucra con la atención que captura, y alguien decidió que la carga de defenderse recayera enteramente sobre el receptor. Decirle al ciudadano “desconfíe” sin nombrar a quien produce, distribuye y lucra es fatalismo disfrazado de empoderamiento.

Y el fatalismo, para Freire, no es un error de análisis. Es una herramienta de dominación. Presentar una situación producida por decisiones humanas como si fuera un destino natural es exactamente el mecanismo que produce la resignación —esa aceptación de “situaciones consideradas fatalmente como inmutables”. Cuando le decimos al usuario que el mundo ahora está lleno de mentiras convincentes y que su única defensa es la vigilancia personal, le estamos enseñando a resignarse. Le estamos enseñando que la capa es el piso.

La educación problematizadora invierte esto. No empieza por la respuesta (“desconfíe”). Empieza por la pregunta que el propio sujeto puede formular sobre su experiencia: ¿por qué me llega esto? ¿quién gana si lo comparto? ¿qué estructura hace rentable el engaño? Esas preguntas no se pueden depositar. Solo se pueden construir. Y llevan, inevitablemente, hacia las verdaderas causas —hacia arriba, hacia quien construyó la capa, y no hacia el individuo aislado con su lista de trucos.

La colonización cognitiva tiene geografía

Freire escribía desde la periferia y para la periferia. Su pedagogía nació entre campesinos del nordeste brasileño, no en seminarios europeos. Por eso su marco tiene algo que a los análisis del centro les cuesta ver: la dominación tiene geografía. El opresor y el oprimido no ocupan el mismo territorio.

La capa de IA de la que habla la semana reproduce esa geografía con una fidelidad que debería alarmarnos. Los sistemas que verifican, vigilan, evalúan y aplican reglas se producen en un puñado de lugares. Se consumen en todos los demás. América Latina está del lado del consumo. Y la pregunta, como bien dice el fenómeno de la semana, no es si llegará esa capa, sino sobre qué instituciones ya debilitadas va a montarse.

Esta es la asimetría centro/periferia que Freire vivió y nombró, ahora vestida de tecnología. El saber sobre cómo funcionan estos sistemas se deposita —desde el centro— en usuarios de la periferia que no participaron en su diseño, no pueden auditar su lógica y no tienen recurso cuando fallan. Es educación bancaria a escala continental. El depositante está en otro hemisferio.

Y hay un detalle que Freire no dejaría pasar. La alfabetización digital, que se vende como la llave de la libertad, puede ser exactamente lo contrario si se entiende mal. Si “alfabetizarse” significa aprender a usar mejor la herramienta que otro construyó —aprender a hacerle mejores preguntas al chatbot, a redactar mejores prompts, a exprimirle más rendimiento— entonces la alfabetización es una forma refinada de sumisión. Uno se vuelve más eficiente dentro de una jaula que no diseñó. Aprende a ser un mejor depositario.

La alfabetización freiriana era lo opuesto. No enseñaba a leer palabras para que los campesinos consumieran mejor los textos del patrón. Enseñaba a leer la palabra y el mundo —a ver la relación entre el signo en la página y la estructura de poder que lo produjo. Leer no era decodificar. Era desnaturalizar. Volver problema lo que parecía destino.

Aplicado a la IA, esto cambia todo lo que hoy llamamos “alfabetización digital”. La pregunta verdadera no es cómo uso esta herramienta. Es quién la construyó, para qué, y qué relación de poder se activa cada vez que la uso. La primera pregunta produce usuarios más dóciles. La segunda produce sujetos. Y solo la segunda merece llamarse alfabetización, en el sentido que Freire le dio a la palabra.

El miedo de los técnicos a nombrar lo que hacen

Hay un pasaje de Pedagogía del oprimido que ilumina un rincón de esta semana que suele quedar a oscuras: el de quienes construyen los sistemas.

Freire escribió sobre “el miedo a la libertad, en técnicos que ni siquiera alcanzaron a descubrir el carácter de acción invasora” de lo que hacían. Es una observación aguda. Los técnicos —los ingenieros, los diseñadores, los que construyen la capa— no suelen verse como agentes de una invasión. Se ven como solucionadores de problemas. Optimizadores. Gente que hace que las cosas funcionen. La estructura de dominación que producen les es, a ellos mismos, invisible. Y esa invisibilidad no es inocente: es lo que les permite seguir.

El fenómeno de la semana lo captura en su frase más precisa: la IA “se integró con tal naturalidad que ya no se distingue quién responde por la decisión”. Esa naturalidad es el miedo a la libertad en acción colectiva. Nadie decidió, en un acto único y responsable, quitarle el juicio al ciudadano. Se fue depositando, capa sobre capa, por técnicos que resolvían problemas locales sin descubrir —o sin querer descubrir— el carácter invasor del conjunto.

Freire no absolvía a estos técnicos, pero tampoco los demonizaba. Su punto era estructural: mientras el que construye no problematice su propia acción, mientras no haga la lectura crítica de lo que su trabajo produce en el mundo, seguirá siendo un agente de deshumanización aunque tenga las mejores intenciones. El “miedo a la libertad” es, en el fondo, el miedo a asumir la responsabilidad de nombrar lo que uno hace y sus consecuencias.

Y aquí Freire era radicalmente optimista de una manera que hoy suena casi ingenua, pero que vale la pena rescatar. Contaba, en Pedagogía del oprimido, el testimonio de alguien que había pasado por un proceso de concientización: “llegué a este curso como un ser ingenuo y, descubriéndome como tal, empecé a tornarme crítico”. El paso de la ingenuidad a la crítica no destruye a la persona. No la hace fanática ni la hunde. La transforma en sujeto. Ese pasaje es posible para el usuario, y también para el técnico. Pero solo si alguien lo problematiza. La capa, por diseño, hace lo contrario: nos mantiene ingenuos con una eficiencia extraordinaria.

Lo que se pierde cuando la respuesta llega antes que la pregunta

Hay una tercera sonda que el marco de esta semana pone sobre la mesa, y es quizás la más inquietante: qué queda de la conciencia crítica cuando la respuesta llega antes que la pregunta.

Para Freire, el conocimiento verdadero tenía una secuencia sagrada. Primero la experiencia del sujeto. Después la pregunta que esa experiencia genera. Después el diálogo. Y solo al final, provisionalmente y siempre revisable, algo parecido a una respuesta. La alfabetización como acto de conocimiento exige que el punto de partida sea la experiencia del propio sujeto, no la respuesta ya dada.

La capa invierte la secuencia entera. La respuesta llega primero. Instantánea, pulida, autorizada. La pregunta, si acaso aparece, aparece después —y para entonces ya está contaminada por la respuesta que la precedió. Uno no pregunta desde su experiencia; pregunta hacia la respuesta que anticipa. El músculo de la curiosidad, que se ejercita en el intervalo entre la pregunta y la respuesta, se atrofia porque el intervalo desaparece.

Esto no es un problema de eficiencia. Es un problema de qué tipo de persona produce el arreglo. Un sujeto que recibe respuestas antes de formular preguntas es, por definición, un sujeto bancario —una alcancía que se llena sin haber querido saber nada. Y una sociedad de alcancías es exactamente lo que necesita cualquier poder que prefiera la resignación a la crítica.

Freire lanzó, en Pedagogía de la autonomía, una advertencia que la semana vuelve literal. Escribió que “de nada vale, a no ser de manera engañosa para una minoría”, una sociedad “eficazmente operada por máquinas altamente ‘inteligentes’, que sustituyeran a mujeres y hombres en actividades de las más variadas”. Escribió eso en 1996, cuando la inteligencia artificial era casi ciencia ficción. No estaba prediciendo el desempleo tecnológico. Estaba señalando algo más hondo: que una sociedad donde las máquinas hacen y las personas solo reciben es una sociedad donde la mayoría de las personas dejan de ser sujetos. El “gozo inmoral del inversionista” era su nombre para el único beneficio real de ese arreglo.

La capa de esta semana realiza esa profecía no en el terreno del trabajo físico, sino en el del juicio. Lo que se sustituye no son los brazos. Es la capacidad de discernir. Y esa es la sustitución que Freire habría considerado más grave, porque el juicio crítico era, para él, lo último que distingue a un sujeto de una cosa.

La pregunta que queda

El discurso oficial de la semana quiere que la conversación sea sobre precisión. ¿Es confiable el verificador? ¿Detecta bien los deepfakes? ¿Qué tan bueno es el sistema de evaluación? Son preguntas técnicas, y las preguntas técnicas tienen la virtud de mantenernos ocupados dentro de la jaula.

El marco de Freire hace visible la pregunta que la jaula esconde. No es si la capa funciona bien. Es quién tiene la palabra.

Cuando el ciudadano latinoamericano consulta un sistema para saber qué es verdad, quién lo vigila, cómo será evaluado o qué regla lo alcanza —y ese sistema fue construido en otro lugar, con una lógica que no puede auditar, por técnicos que no descubrieron el carácter invasor de su obra— ese ciudadano no está siendo empoderado. Está siendo alfabetizado en su propia sumisión. Está aprendiendo a recibir el mundo ya nombrado por otro.

La salida freiriana no es tecnológica y no es individual. No es un mejor prompt ni un consejo más astuto para detectar mentiras. Es problematizar la capa misma. Es negarse a tratarla como piso. Es hacer, colectivamente, la lectura crítica de sus verdaderas causas: quién la produce, quién lucra, sobre qué instituciones debilitadas se monta y a quién le conviene que la aceptemos como destino.

La pregunta que la columna deja abierta es entonces esta, y es una pregunta de poder, no de tecnología: ¿va América Latina a alfabetizarse en la herramienta —aprendiendo a usarla mejor, a recibir mejor lo que se le deposita— o va a alfabetizarse sobre la herramienta, aprendiendo a nombrar quién la construyó y por qué?

Porque solo una de esas dos alfabetizaciones produce sujetos. La otra produce alcancías muy eficientes. Y la capa, por ahora, está diseñada para lo segundo.