Quien controla la duda: el engaño sintético leído con Paulo Freire
Hay una frase que circula esta semana y conviene detenerse en ella: quien controla la duda, controla la decisión. Suena a eslogan. Es, en realidad, una descripción precisa de lo que está pasando en América Latina cuando la IA aprende a clonar voces y a fabricar rostros que nunca hablaron.
El engaño sintético es barato de producir y carísimo de desmentir. Una voz clonada vacía una cuenta en segundos. Un deepfake electoral circula por WhatsApp antes de que nadie pueda verificarlo. Y cuando por fin llega el desmentido, el daño ya ocurrió: la duda ya se sembró, la decisión ya se tomó.
Freire tiene una herramienta exacta para este momento. No la tiene para la tecnología —murió en 1997, no vio un deepfake— pero sí para lo que la tecnología está haciendo. Porque el problema que describe la semana no es técnico. Es un problema de confianza. Y la confianza, para Freire, no es un detalle sentimental. Es la condición material de que las personas puedan leer su propio mundo.
La confianza como infraestructura, no como sentimiento
El discurso común trata la confianza como un lujo psicológico. “Hay que recuperar la confianza en las instituciones”, se dice, como quien recomienda dormir mejor. Freire pensaba lo contrario. Para él, la confianza es el suelo sobre el que se para cualquier acto de conocimiento compartido.
En Pedagogía del oprimido lo dice sin rodeos: “La confianza implica el testimonio que un sujeto da al otro, de sus intenciones reales y concretas.” Fijate en la palabra: testimonio. La confianza se construye porque alguien da fe de sus intenciones y esa fe puede verificarse contra la realidad. Yo digo lo que voy a hacer, lo hago, y vos comprobás que dije la verdad. Sobre ese pequeño ladrillo repetido se levanta la posibilidad de actuar juntos en el mundo.
El engaño sintético ataca exactamente ese ladrillo. No falsifica un dato aislado. Falsifica el testimonio mismo. Cuando una voz clonada me llama con el tono exacto de mi hija pidiendo dinero, lo que se rompe no es un hecho: es la capacidad de dar fe. La señal que durante toda la historia humana significó “esta es una persona concreta con intenciones concretas” —una voz, un rostro— deja de significar eso.
Freire llamaría a esto una crisis de las condiciones del diálogo. En el mismo pasaje advierte: “Si falta la confianza significa que fallaron las condiciones discutidas anteriormente.” Lo que fallaba, en su análisis, era casi siempre un amor falso, una humildad fingida, una fe debilitada en las personas. Ahora falla algo más literal: la voz misma puede ser falsa. La materia prima del testimonio se puede fabricar en serie.
Esto no es un problema de ciberseguridad. Es un problema sobre las condiciones que hacen posible que las personas se pronuncien juntas sobre el mundo. Y esa es una pregunta que Freire pasó la vida haciendo.
Cuando desmitificar se vuelve trabajo de tiempo completo
Freire creía que la educación tenía una tarea concreta: enseñar a leer el mundo, no solo la palabra. Y leer el mundo significaba, entre otras cosas, aprender a desconfiar de lo que se presenta como natural cuando en realidad es construido.
En Pedagogía de la autonomía formula el problema con una precisión que parece escrita para esta semana. Habla de la necesidad de dominar “saberes técnicos, en diferentes áreas, como la de la comunicación. Cómo revelar verdades escondidas, cómo desmitificar la farsa ideológica, especie de ardid atractivo en que caemos fácilmente. Cómo enfrentar el extraordinario poder de los medios, del lenguaje de la televisión, de su ‘sintaxis’ que reduce a un mismo plano el pasado y el presente.”
Freire pensaba en la televisión. Pero la estructura que describe se agrava con la IA generativa. La televisión reducía a un mismo plano el pasado y el presente. El deepfake reduce a un mismo plano lo que ocurrió y lo que nunca ocurrió. Aplana la diferencia entre el testimonio verdadero y su falsificación perfecta. Y lo hace con una “sintaxis” —la del video realista, la de la voz idéntica— que caemos fácilmente en aceptar.
Acá aparece el corazón del asunto. Freire advierte sobre “la posibilidad que tenemos de aceptar dócilmente que lo que vemos y oímos es lo que en verdad es, y no la verdad distorsionada”. La palabra clave es dócilmente. La docilidad no es estupidez. Es la disposición entrenada a recibir sin problematizar. A tomar la imagen como espejo del mundo en lugar de preguntarse quién la fabricó, para qué, contra quién.
El engaño sintético convierte la docilidad en una trampa mortal. Antes, aceptar dócilmente una imagen era un riesgo. Ahora es una vulnerabilidad que se puede explotar a escala industrial. La estafa por voz clonada funciona precisamente porque contamos con la docilidad del oído: reconocemos la voz de un familiar y actuamos sin problematizar. La tecnología no inventó esa docilidad. La descubrió como mercado.
Vigilancia técnica o conciencia crítica: dos pedagogías en pugna
Acá el marco freiriano corta más profundo que cualquier análisis técnico. Porque revela que la respuesta institucional a la crisis es, ella misma, una pedagogía. Y una pedagogía del tipo equivocado.
Freire distinguía entre dos modelos de educación en oposición. La educación bancaria trata al que aprende como una cuenta vacía donde se depositan saberes; el que sabe deposita, el que no sabe recibe, y no hay diálogo. La educación problematizadora hace lo contrario: educador y educando construyen el conocimiento juntos, preguntando, leyendo el mundo en común.
La semana muestra que las instituciones latinoamericanas están respondiendo al engaño sintético con una pedagogía bancaria disfrazada de solución técnica. El monitoreo de MinTIC durante la segunda vuelta colombiana es el caso emblemático. El Estado observa, detecta, verifica —desde arriba, por vos, en tu lugar. El ciudadano recibe el veredicto: esto es verdadero, esto es falso. No aprende a leer. Recibe la lectura ya hecha.
Es la lógica bancaria trasladada a la verificación. “Vos no necesitás distinguir lo verdadero de lo falso; nosotros lo hacemos por vos.” Freire escuchó esa fórmula toda su vida. En Pedagogía de la autonomía la transcribe con sarcasmo desde el discurso de los poderosos: “Tú no necesitas pensar. Vota por fulano, que piensa por ti.” La vigilancia técnica dice, con otras palabras, lo mismo: tú no necesitas verificar, confía en quien verifica por ti.
Y aquí está la trampa que el marco hace visible. La crisis del engaño sintético es una crisis de confianza. Pero la respuesta institucional exige más confianza —esta vez en el verificador oficial— justo cuando la capacidad de confiar está en ruinas. Se le pide al ciudadano que deposite en el Estado la fe que ya no puede depositar en sus sentidos. Eso no reconstruye la lectura crítica del mundo. La delega. La confisca.
Un artículo de la semana lo capta con claridad al describir cómo el engaño sintético es barato de producir y carísimo de desmentir: quien controla la duda, controla la decisión. Esa frase es puro Freire sin saberlo. Quien controla la duda controla la decisión —es decir, quien monopoliza la capacidad de decir qué es verdad, monopoliza la acción posible del otro. Es la definición exacta de la relación opresor-oprimido en el terreno de la información.
La periferia como blanco preferido
Freire escribía desde Brasil, desde la periferia del mundo, y nunca perdió de vista que las técnicas de manipulación se ensañan con quienes tienen menos poder para desmontarlas. Ese ángulo importa muchísimo esta semana, porque América Latina no es un espectador neutral de la crisis del engaño sintético. Es un blanco.
En Pedagogía del oprimido hay una observación que ilumina el momento: cuando los sectores populares empiezan a emerger en el proceso histórico, cuando dejan de ser “meros espectadores”, las élites dominadoras, “atemorizadas por esta presencia molesta, duplican las tácticas de manipulación”. La manipulación no es aleatoria. Se intensifica precisamente cuando quienes estaban al margen empiezan a participar.
Traducí eso al mapa de la IA. La región produce poca IA y consume mucha. Las herramientas de clonación de voz, los generadores de deepfakes, los modelos que fabrican rostros —se diseñan en el centro y se despliegan en la periferia. La asimetría de producción y consumo reproduce, en una capa nueva, la asimetría centro-periferia que Freire vivió y nombró. El engaño sintético llega a América Latina como producto terminado, y la región enfrenta sus consecuencias sin haber participado en las decisiones que lo hicieron posible.
Freire notaba además que la manipulación “encuentra casi siempre un terreno fecundo” allí donde hay inquietud pero falta conciencia crítica organizada. El deepfake electoral prospera exactamente en ese terreno. En un ecosistema informativo saturado, con instituciones desgastadas y baja alfabetización mediática, el engaño no necesita ser perfecto. Necesita ser plausible el tiempo suficiente para sembrar la duda antes de la votación. Después, el desmentido llega tarde y a nadie le importa.
La respuesta de vigilancia técnica agrava el problema de fondo. Porque construye una capacidad de verificación centralizada —otra dependencia de la infraestructura del centro— en lugar de construir la capacidad crítica distribuida que Freire consideraba la única defensa real. Se importa la solución al problema importado. La periferia sigue siendo periferia: recibe la amenaza y recibe el remedio, sin ganar en ningún momento la capacidad de leer su propio mundo.
La alfabetización que hace falta no es la que se ofrece
Si el diagnóstico freiriano es correcto, la salida no puede ser más docilidad ante un verificador mejor. Tiene que ser lo contrario: una alfabetización que devuelva a las personas la capacidad de problematizar lo que ven y oyen.
Pero atención, porque acá hay una trampa. “Alfabetización digital” es una frase que se puede llenar de contenido bancario con la misma facilidad que de contenido crítico. Enseñar a la gente “diez señales para detectar un deepfake” es alfabetización bancaria: un depósito de reglas que el estudiante recibe pasivamente y que quedan obsoletas en cuanto la tecnología mejora. La lista de señales que hoy detecta un deepfake mañana no detecta nada, porque el generador aprendió a esconder esas señales.
La alfabetización problematizadora que Freire tendría en mente es otra cosa. No enseña reglas: enseña a preguntar. No pregunta “¿tiene este video las marcas de un deepfake?” sino “¿quién produjo esto, para que yo decida qué, contra quién, y quién se beneficia de mi duda?”. No busca detectar la falsificación en la superficie. Busca leer las estructuras de poder que hacen que la falsificación exista y circule.
La diferencia es enorme y práctica. Una persona entrenada en detectar señales queda indefensa cuando las señales desaparecen. Una persona entrenada en preguntar por el origen, el interés y el beneficio conserva su defensa aunque la tecnología sea perfecta. Porque su pregunta no es sobre los píxeles. Es sobre el poder. Y el poder deja huellas que ningún generador puede borrar: alguien pagó por producir esto, alguien lo hizo circular, alguien gana si vos actuás sobre esa base.
Freire insistía en que leer el mundo precede a leer la palabra. En la era del engaño sintético, leer el mundo significa dejar de preguntar “¿esto es real?” —pregunta que la tecnología está volviendo imposible de responder desde los sentidos— y empezar a preguntar “¿a quién sirve que yo crea esto?”. Esa segunda pregunta no la puede falsificar ningún deepfake. Porque no apunta a la imagen. Apunta a la mano que la mueve.
Lo que el marco vuelve visible
Aplicar a Freire al engaño sintético produce un desplazamiento incómodo. El discurso común presenta la crisis como una carrera técnica: mejores falsificaciones contra mejores detectores, y que gane el más rápido. El marco freiriano dice que esa carrera es una distracción, y peor: una que profundiza el problema que dice resolver.
Porque cada avance en la detección centralizada aumenta la dependencia del ciudadano respecto del verificador. Cada solución técnica dice, en el fondo, “confía en nosotros, no en tu capacidad de leer”. Y eso es exactamente lo que la crisis de confianza no puede tolerar. Se le pide a la gente que resuelva su desconfianza depositando más confianza en una autoridad. Es pedirle a alguien que se cure la sed bebiendo agua salada.
El marco vuelve visible que el engaño sintético no es primariamente un problema de tecnología. Es un problema sobre quién tiene la palabra y quién solo la recibe. Sobre quién produce la verdad verificada y quién la consume ya masticada. Sobre si América Latina va a construir capacidad crítica propia o va a alquilar capacidad de verificación ajena. Freire distinguiría, con toda nitidez, entre una respuesta que trata al ciudadano como cuenta vacía donde depositar veredictos, y una que lo trata como sujeto capaz de leer su mundo.
Y acá está la pregunta editorial que el marco hace imposible de evitar. La crisis del engaño sintético va a tentar a los Estados y a las plataformas a ofrecer una salida cómoda: dejanos verificar por vos. Es una salida que resuelve el síntoma —la falsificación puntual— mientras profundiza la enfermedad —la incapacidad de leer el mundo por cuenta propia. Confisca la duda para administrarla mejor. Pero quien administra tu duda administra tu decisión, y eso es precisamente lo que el estafador sintético quería lograr. La diferencia entre el estafador y el verificador oficial se vuelve, desde este ángulo, incómodamente estrecha: ambos te piden que no pienses, que confíes en ellos.
La pregunta, entonces, no es cómo detectamos mejor los deepfakes. Es esta: ¿queremos ciudadanos que sepan leer quién fabrica la duda y para qué, o queremos ciudadanos que dependan de una autoridad que lea por ellos? La primera opción es lenta, difícil, y no vende soluciones tecnológicas. La segunda es rápida, escalable, y reproduce en la capa de la información la misma dependencia que Freire pasó la vida denunciando en la capa de la educación.
El engaño sintético nos obliga a elegir. Y la elección no es técnica. Nunca lo fue.