El ojo ya no alcanza

I. La pregunta de la semana

El tema de esta semana es una promesa que se repite en cada nota de seguridad digital, en cada taller municipal para adultos mayores, en cada infografía bancaria: la idea de que el ciudadano puede aprender a detectar lo falso. Deepfakes, clonación de voz, estafas de identidad sintética —el catálogo de la suplantación impulsada por inteligencia artificial crece cada trimestre, y junto a él crece un discurso reparador que ofrece la alfabetización de la detección como la primera línea de defensa. Mira los párpados que no parpadean. Escucha la cadencia metálica de la voz. Revisa la iluminación inconsistente, los bordes borrosos del rostro. La consigna es vieja como el fraude mismo, pero ahora viene vestida de pedagogía tecnológica: si te capacitamos, te salvas.

El arco que rastreamos sugiere otra cosa. A lo largo de cuatro trimestres, la conversación latinoamericana e hispana sobre deepfakes osciló entre un encuadre que prometía herramientas de detección al alcance de cualquiera y un encuadre que admitía, casi a regañadientes, que la detección a simple vista se vuelve cada mes más imposible. Veintitrés artículos, un punto de inversión, una tensión que nunca se resuelve. Lo que la conversación venía diciendo —aprende a mirar mejor— chocó contra lo que venía pasando: las herramientas de falsificación mejoraron más rápido que cualquier ojo humano, y el fraude pasó de la anécdota celebrity a la escala industrial.

La pregunta, entonces, no es cómo detectar un deepfake. Es si tiene sentido seguir pidiéndole al ciudadano que lo haga. Esta columna sostiene que la alfabetización de la detección, planteada como defensa primaria, es una forma elegante de trasladar la carga del sistema al individuo —y que el arco de estos cuatro trimestres documenta, sin proponérselo, el momento exacto en que esa promesa dejó de ser cumplible.

II. Lo que hemos venido diciendo

El discurso arrancó, como casi todos los pánicos tecnológicos, con un gesto doble: la maravilla y la advertencia. Los primeros textos del arco presentaron al deepfake como una novedad fascinante que se había torcido. “Lo que comenzó como una manera entretenida de modificar los rostros con IA, hoy se convirtió en una amenaza”, resumía Deepfakes: de la diversión al fraude - Tu Identidad, una formulación que se repetiría con variaciones a lo largo de todo el período. La estructura narrativa era la de la caída: un juguete que se volvió arma, una inocencia perdida. Y de la caída se desprendía, naturalmente, una moraleja: hay que aprender a defenderse.

Esa moraleja tomó casi siempre la misma forma. El grueso de los textos —y conviene subrayar que la mayoría del arco se inclinó hacia el encuadre optimista, el que confía en la capacidad reparadora de la educación— ofreció listas de señales delatoras. Deepfakes: cómo identifcarlos y protegerte | OCU enumeraba parpadeos antinaturales, sincronización labial imperfecta, sombras que no cuadran. Verificación de identidad ¿Cómo protegerse de un deepfake? traducía esas señales al terreno bancario, prometiendo que un usuario atento podía blindar su identidad digital. Y ¿Como reconocer deepfakes y contenidos falsos creados con inteligencia artificial? condensaba, ya en mayo de 2025, el género entero: la amenaza es grande, pero aquí están los trucos para reconocerla.

Hay una pedagogía implícita en esta retórica, y vale la pena nombrarla. Es la pedagogía del consejo: el saber se entrega en forma de lista, el sujeto se asume capaz de internalizarlo, y la responsabilidad de aplicarlo queda del lado de quien recibe. Es lo opuesto a lo que Paulo Freire llamaba, en Pedagogía del oprimido, una educación que problematiza la situación del sujeto en lugar de depositar en él contenidos cerrados. La alfabetización de la detección, tal como circuló en estos cuatro trimestres, fue casi siempre bancaria en el peor sentido freireano: depósito de señales, no comprensión del sistema que las produce. Nuestros propios análisis semanales registraron esta tendencia desde temprano; ya en el AI News Social-Weekly Critical Analysis-AI Literacy-ES-20250127 observábamos que el objetivo declarado de cerrar la brecha digital convivía con un objetivo implícito menos confesado: producir usuarios que se autogestionen el riesgo.

Pero el discurso no fue monolítico, y aquí aparece el punto de inversión que el arco detecta. Junto a la retórica del consejo aplicable creció, lenta, una retórica del límite. Deepfakes: el próximo reto en la detección de noticias falsas ya planteaba, en tono académico, que la detección de estas “representaciones sintéticas” constituía un reto abierto, no un problema resuelto con una checklist. La nota argentina Ansiedad, acoso y posverdad: los riesgos de la difusión de deepfakes desplazó el eje del consejo individual hacia el daño social y emocional, hacia la erosión de la confianza colectiva en lo que vemos. Y Deepfakes y Posverdad: ¿somos, o nos hacemos? llevó la conversación a un plano francamente filosófico, preguntando no cómo detectar el engaño sino qué le pasa a una sociedad cuando la autenticidad deja de ser verificable.

Esa segunda corriente discursiva es la que nos interesa, porque dice en voz baja lo que la primera no quiere admitir. Marta Peirano lo había formulado con precisión años antes de este arco: en El enemigo conoce el sistema escribe que “el contenido más efectivo es material legítimo que ha sido manipulado para que parezca otra cosa; mentiras con un poso de verdad circulando por canales donde no entra la luz del sol”. La frase desarma la pedagogía del consejo de un solo golpe. Si lo más eficaz no es el video groseramente falso sino el material verdadero levemente torcido, ¿qué señal delatora puede entrenarse para capturarlo? El parpadeo antinatural sirve contra el deepfake torpe. No sirve contra la mentira con poso de verdad.

La retórica, entonces, vino diciendo dos cosas a la vez durante cuatro trimestres: que el ciudadano puede aprender a detectar, y que la detección es un reto abierto que se vuelve más difícil cada día. La columna sostiene que la primera afirmación fue la dominante por razones que no tienen que ver con su veracidad, sino con su comodidad institucional. Es más barato publicar una infografía con cinco señales que rediseñar la arquitectura de autenticación de un banco. Es más fácil pedirle al abuelo que desconfíe de la voz de su nieto que regular el mercado donde se compran las herramientas de clonación. El consejo individual es, antes que una solución, una asignación de responsabilidad.

III. Lo que ha venido pasando

Mientras la conversación enseñaba a mirar, la realidad fue volviendo la mirada inútil. El arco temporal de los hechos cuenta una historia limpia: la falsificación se abarató, se aceleró y se industrializó, y cada uno de esos verbos erosionó una premisa de la pedagogía de la detección.

El punto de partida está en 2023, antes incluso de que el grueso del arco arrancara. ¿Te llamó una voz familiar pidiendo dinero? Puede ser fraude documentaba ya las llamadas que clonaban la voz de un familiar para extorsionar a desprevenidos. Lo notable, en retrospectiva, es que entonces la clonación de voz requería todavía cierto esfuerzo y producía resultados imperfectos. La señal delatora —la cadencia rara, la frase repetida— todavía existía. El consejo todavía tenía a qué agarrarse.

Para 2025, ese suelo se había movido. ¿Qué son los deep fake, herramienta usada para robar cuentas bancarias? describía en marzo una integración del deepfake en el fraude financiero que ya no dependía de la torpeza de la víctima sino de la sofisticación del atacante. Deepfake en el fraude bancario: cómo operan y cómo protegerse detallaba operaciones donde el video manipulado servía para vulnerar precisamente los sistemas de verificación biométrica que los bancos habían adoptado como defensa. La paradoja es brutal: la tecnología que prometía autenticar identidades —el reconocimiento facial, la prueba de vida— se convirtió en el blanco preferido de la falsificación.

Después vino la escala. En junio de 2025, Condusef alerta a adultos mayores por nueva modalidad de estafa mostraba que el fraude ya tenía población diana: los mayores, justamente el grupo al que la pedagogía de la detección llega peor y más tarde. En septiembre, De celebridades a directivos: los 7 casos reales que muestran el riesgo de los deepfakes y Deepfake: 7 casos reales que muestran cómo crece el engaño con IA documentaban, con casos verificados por ESET Latinoamérica, que la clonación de imagen y voz de ejecutivos ya movía transferencias corporativas. El fraude había escalado de la cuenta del jubilado a la tesorería de la empresa.

Y entonces, el dato que cierra el argumento. En febrero de 2026, Estudio alerta que los contenidos de IA para estafas se están produciendo a escala industrial, apoyado en la AI Incident Database, describía un fraude basado en contenido sintético producido ya no artesanalmente sino en línea de montaje. La palabra clave es industrial: no engaños individuales sino infraestructura de engaño. Esto coincide con lo que el AI Index Report 2024 de Stanford venía advirtiendo desde antes —que las herramientas de deepfake “mejoraron significativamente desde las elecciones estadounidenses de 2020”—, y con un detalle que debería terminar cualquier debate sobre la viabilidad de la detección individual: el informe documenta un sistema completo de desinformación de apariencia auténtica, con artículos falsos, comentarios fabricados que simulan engagement orgánico y publicación automatizada, montado por alrededor de cuatrocientos dólares. Cuatrocientos dólares para una infraestructura de mentira que ningún ojo entrenado distingue de la realidad.

Aquí la realidad latinoamericana añade su propia aspereza. Las cifras de conectividad de la región describen sociedades masivamente expuestas y desigualmente protegidas: Perú con 34,2 millones de habitantes y exportaciones de alta tecnología que apenas rozan el 5,2% de su manufactura, Venezuela con una penetración de internet del 76,7% sobre 28,4 millones de personas en plena precariedad institucional. Son mercados donde el fraude entra por el celular de prepago y donde la capacidad estatal de perseguirlo es escasa. García Canclini lo había anticipado en Ciudadanos reemplazados por algoritmos: operaciones como el phishing “están disponibles en un mercado desregulado” y “la sociedad civil no dispone de conocimiento o de la capacidad necesaria para protegerse de estos ataques”. La frase, escrita en 2019, describe con precisión incómoda lo que el arco de 2024-2026 confirmó.

Lo que ha venido pasando, en suma, es una carrera donde un corredor tiene zapatillas con cohetes y el otro lleva los pies descalzos. Las herramientas de falsificación se duplican en calidad cada pocos meses; la capacidad de detección a simple vista del ciudadano promedio es, en el mejor de los casos, constante. Una columna anterior de esta misma publicación, el AI News Social-Weekly Critical Analysis-AI Literacy-ES-20250831, ya señalaba que la integración de la IA en la educación se vendía como preparación para un futuro dominado por la tecnología sin preguntarse quién diseñaba ese futuro ni a quién beneficiaba. La pregunta vale aquí entera: ¿a quién beneficia que sigamos creyendo que el problema se resuelve mirando mejor?

IV. Donde se encuentran, donde se pierden

Se encuentran en un punto: ambas corrientes —la del consejo y la de la realidad— coinciden en que el deepfake es una amenaza real, creciente y democratizada. Nadie en el arco minimiza el peligro. Esa es la zona de acuerdo, y es genuina.

Se pierden en todo lo demás. La retórica dominante respondió al peligro con una pedagogía de la mirada individual; la realidad respondió con una industrialización que vuelve esa mirada obsoleta. El desencuentro no es de matices: es estructural. Cuando Educación Digital y Riesgos de los Deepfakes propone llevar la conciencia sobre deepfakes al aula, hace algo valioso —formar el juicio crítico es siempre valioso— pero corre el riesgo de prometer lo que no puede cumplir si presenta la detección como blindaje. El Think Critically Click Wisely de UNESCO es más honesto en su formulación: no enseña a detectar el contenido sintético sino a interrogar el sistema que lo amplifica, a preguntar qué algoritmo atraparía un caso y qué lo viralizaría. Esa diferencia —entre detectar el objeto y comprender el sistema— es la diferencia entre una alfabetización que administra al ciudadano y una que lo emancipa.

Porque ese es el corazón de la mistificación que esta columna quiere desarmar. Vender la detección individual como defensa primaria desplaza la responsabilidad desde quien tiene poder para cambiar la arquitectura —los bancos que eligen biometría vulnerable, las plataformas que monetizan la viralidad, los Estados que no regulan el mercado de herramientas— hacia quien solo tiene poder para mirar con más atención. Es el viejo movimiento que Marta Peirano nombra en El enemigo conoce el sistema: el conflicto se libra en canales “donde no entra la luz del sol”, y pedirle al usuario que ilumine esos canales con su atención personal es pedirle que gane una guerra con una linterna. El enemigo conoce el sistema; la víctima apenas conoce los consejos.

Hay, además, un costo que la pedagogía del consejo no contabiliza. Cuando le enseñamos a toda una población a desconfiar de todo lo que ve y oye, no producimos ciudadanos más seguros: producimos ciudadanos más desconfiados, lo que es distinto y peor. La nota de After Shock lo dice con claridad: los desafíos a “nuestra capacidad de discernir qué es auténtico impactan fundamentalmente nuestra comprensión del mundo y del futuro”. El daño no es solo que nos estafen; es que la sospecha generalizada corroe el suelo común sobre el que cualquier sociedad democrática se apoya. Si nada es verificable, todo es negable —y la negación universal favorece siempre al poderoso, que puede descartar como deepfake cualquier evidencia incómoda. La posverdad no es el exceso de mentiras; es la imposibilidad de establecer una verdad compartida, y la pedagogía de la detección individual, paradójicamente, la alimenta.

El encuentro perdido, entonces, es este: la conversación creyó estar dándole armas al ciudadano cuando en realidad le estaba transfiriendo una deuda. La defensa real contra el fraude sintético no está en el ojo del abuelo que recibe la llamada, sino en sistemas de autenticación que no dependan de la apariencia, en marcos regulatorios que persigan a la infraestructura del fraude, en plataformas obligadas a marcar la procedencia del contenido. Todo eso es trabajo del sistema, no del individuo. Y mientras sigamos publicando infografías con cinco señales delatoras, seguiremos dándole al sistema la coartada perfecta para no hacer su parte.

V. La perspectiva histórica

El arco de estos cuatro trimestres documenta una derrota silenciosa: la del proyecto de convertir al ciudadano en detector de mentiras. No fue una derrota por falta de esfuerzo pedagógico —hubo infografías, talleres, columnas, alertas de la Condusef— sino por una asimetría insalvable entre la velocidad de la falsificación y la velocidad del aprendizaje humano. En 2023 una voz clonada todavía sonaba rara; en 2026 el fraude sintético se produce en línea de montaje por cuatrocientos dólares. Ningún taller cierra esa brecha.

Lo que queda, una vez retirada la promesa de la detección, no es la resignación sino la reasignación. La pregunta correcta no es cómo aprendo a ver lo falso, sino quién debería garantizar que lo verdadero sea verificable. Esa pregunta apunta a los bancos, a las plataformas, a los reguladores —al poder, en suma, que la pedagogía del consejo había logrado mantener fuera de cuadro. Freire lo entendió antes que nadie en Pedagogía de la autonomía: formar no es transferir trucos, es habilitar la lectura crítica del mundo, y leer críticamente el mundo del deepfake significa leer quién lo produce, quién lo amplifica y quién se beneficia de que sigamos buscando el parpadeo antinatural en lugar de buscar al responsable.