La trampa de la alfabetización: cuando enseñar a detectar deepfakes se convierte en culpar a la víctima
Hay un gesto que se repite cada vez que una nueva tecnología de manipulación irrumpe en el espacio público, y conviene aprender a reconocerlo porque es siempre el mismo movimiento disfrazado de cosas distintas. Frente a los deepfakes —videos y audios sintéticos capaces de poner palabras en bocas ajenas o de clonar la voz de tu madre pidiéndote dinero por teléfono— la respuesta dominante, casi refleja, es decir que la solución pasa por enseñar a la gente a detectarlos. Mira los parpadeos antinaturales, las sombras inconsistentes, los dedos de más, la entonación robótica. Conviértete en un ciudadano alfabetizado visualmente y estarás protegido. Es un consejo que suena responsable, casi cívico. Y es, en su forma actual, una trampa.
La trampa no consiste en que la alfabetización sea inútil —no lo es— sino en el contrabando moral que viaja escondido dentro del consejo. Cuando le decimos a alguien que su defensa contra la suplantación de identidad depende de su capacidad personal de detectar artefactos digitales, estamos haciendo dos cosas al mismo tiempo: le damos una herramienta y, simultáneamente, le transferimos la responsabilidad del fracaso. Si lo estafan, si su hija aparece en un video falso humillante que circula por la escuela, si su voz clonada autoriza una transferencia bancaria, la pregunta que queda flotando es: ¿por qué no lo detectaste? El deepfake muta de problema estructural a falla personal. Y esa mutación —de la responsabilidad colectiva a la culpa individual— es exactamente el tipo de operación que esta publicación se ha propuesto desmontar.
El asimétrico campo de batalla de la verosimilitud
Empecemos por el hecho técnico que vuelve insostenible la apuesta por la detección ciudadana: la carrera está amañada y se vuelve más amañada cada mes. Las herramientas para generar desinformación sintética se han vuelto significativamente más fáciles de usar, y las tecnologías de deepfake han mejorado de manera notable desde las elecciones estadounidenses de 2020, hasta el punto de que la desinformación a gran escala puede erosionar la confianza en las instituciones democráticas, manipular la opinión pública y polarizar las discusiones públicas HAI AI-Index-Report-2024. Esto no es un detalle: significa que cualquier “señal” de falsedad que hoy enseñamos a buscar —el parpadeo raro, el artefacto en el borde del rostro— es precisamente el defecto que la próxima generación de modelos corregirá. Estamos entrenando a la gente a reconocer la versión obsoleta del enemigo.
Pensemos en la dinámica completa. El mismo informe documenta sistemas que generan un artículo falso atribuido a un periodista inexistente, publicado en un sitio web fabricado; luego otro sistema de IA genera comentarios sobre ese artículo creando la apariencia de interacción orgánica; y finalmente una IA busca en redes sociales tuits relevantes, publica el artículo como respuesta y comenta como si fuera un usuario más HAI AI-Index-Report-2024. Frente a una maquinaria que produce no solo el contenido falso sino también la evidencia social de su autenticidad —los comentarios, las respuestas, la apariencia de consenso—, pedirle a un ciudadano que examine la textura de un video es como pedirle que detenga una inundación con un colador. El problema no está en la percepción individual; está en la arquitectura del ecosistema que distribuye y legitima la falsedad.
Marta Peirano lo formuló con precisión incómoda: en este nuevo ecosistema mediático fraudulento se pueden difundir noticias falsas como si fueran reales sin temer una demanda, algo que un periódico tradicional no podía hacer, y la pérdida de prestigio de las cabeceras tradicionales ha sido clave para su advenimiento El enemigo conoce el sistema. La frase que ella rescata del movimiento Black Lives Matter —“no confiábamos en los medios, así que nos convertimos en medios”— captura la ambivalencia de fondo: la misma desconfianza que democratizó la producción de información abrió la puerta a su falsificación industrial. El terreno donde se libra la batalla por la verosimilitud no es la retina del espectador. Es la infraestructura de confianza que se erosionó antes de que los deepfakes llegaran.
La verdad audiovisual ya no se sostiene sola
Durante un siglo, la cultura occidental operó bajo un supuesto que ahora colapsa: que una imagen o un audio constituían, por sí mismos, un cierto piso de realidad. “Lo vi con mis propios ojos” era un argumento. “Escuché su voz” era prueba. Ese piso se está disolviendo, y la consecuencia social es más profunda que la suma de las estafas individuales. Lo que se erosiona es la posibilidad misma de un terreno común de hechos compartidos.
Aquí hay una paradoja que la narrativa de la alfabetización no sabe manejar. Cuanto más enseñamos a la gente a desconfiar de lo audiovisual —“todo puede ser falso, verifica siempre”— más alimentamos un escepticismo generalizado que los poderosos saben explotar a su favor. El fenómeno tiene nombre entre investigadores: el dividendo del mentiroso. Si todo puede ser deepfake, entonces cualquier grabación auténtica e incriminatoria puede ser descartada como falsa. El político captado en un audio real pidiendo un soborno simplemente dice “es un deepfake” y la duda sembrada por años de pedagogía de la sospecha hace el resto. La alfabetización en detección, llevada al extremo y sin acompañamiento estructural, no produce ciudadanos más lúcidos sino ciudadanos paralizados, incapaces de distinguir y por tanto dispuestos a creer lo que ya querían creer.
García Canclini advirtió que estamos ante una descomposición de la idea misma de democracia, lo que Wendy Brown llamó “desdemocratización” Ciudadanos reemplazados por algoritmos. La erosión de la confianza audiovisual no es un problema técnico que se resuelve con un mejor detector; es un componente de esa descomposición más amplia, donde la ciudadanía pierde no solo derechos formales sino las condiciones epistémicas para ejercerlos. No se puede deliberar colectivamente sobre hechos si no existe ningún hecho que no esté bajo sospecha permanente. Y esa condición no se repara enseñando a mirar parpadeos.
La desregulación como precondición, no como accidente
Conviene nombrar con claridad de dónde viene la asimetría. No es un azar tecnológico ni una fatalidad del progreso. García Canclini lo señala citando el caso de operaciones de phishing y manipulación que están disponibles en un mercado desregulado, mientras que la sociedad civil no dispone del conocimiento ni de la capacidad necesaria para protegerse de estos ataques Ciudadanos reemplazados por algoritmos. Subrayemos las dos mitades de esa frase porque juntas demuelen el discurso de la alfabetización: hay un mercado desregulado del lado de la ofensiva, y una sociedad civil sin capacidad del lado de la defensa. La respuesta lógica a esa ecuación no es exigirle a la sociedad civil que adquiera capacidades de nivel forense. Es regular el mercado.
Esta es la inversión que la narrativa dominante esconde. Poner el énfasis en la alfabetización del ciudadano equivale a aceptar como dato natural la asimetría de poder —el estafador profesionalizado, la plataforma que distribuye sin fricción, el modelo generativo cada vez mejor— y a pedir que el eslabón más débil de la cadena compense con esfuerzo individual lo que el sistema entero produce estructuralmente. Es la misma lógica que culpa al peatón por no esquivar el auto en lugar de cuestionar por qué el auto va a esa velocidad por esa calle. La alfabetización no es mala; es que, presentada como pilar de la defensa, naturaliza el problema que debería cuestionar.
Y conviene ser justos con la complejidad: nadie propone que la regulación sea trivial ni libre de riesgos. Regular el etiquetado de contenido sintético supone darle al Estado o a las plataformas el poder de definir qué es “auténtico”, y en una región con la historia de captura institucional y censura selectiva que tiene América Latina, ese poder no es inocente. Un gobierno autoritario puede usar la obligación de etiquetar “contenido manipulado” para hostigar a opositores que difunden material legítimo. La crítica al poder, que es uno de los compromisos de esta publicación, debe apuntar también al poder regulatorio. Pero reconocer ese riesgo no nos devuelve al punto de partida: la respuesta a una mala regulación es una mejor regulación con contrapesos, no la abdicación regulatoria que deja al ciudadano solo frente al mercado desregulado.
Cuando la falla institucional amplifica el daño
Hay un terreno donde la apuesta por la alfabetización individual revela su crueldad con particular nitidez: los casos de suplantación que afectan a personas concretas, a menudo menores. La sextorsión mediante imágenes sintéticas —tomar la foto de una adolescente de su perfil público y generar con ella material sexual falso para extorsionarla o humillarla— se ha vuelto una forma de violencia digital documentada y creciente. Decirle a esa adolescente que debió “estar más alfabetizada” es obscenamente insuficiente, porque ella no es quien necesita detectar el deepfake: ella es la víctima de un deepfake que otros ven y creen.
Lo que falla aquí no es la percepción de nadie sino la ausencia de protocolos. Cuando una escuela, una comisaría o una plataforma no tienen rutas claras de denuncia, retiro rápido del contenido y apoyo psicológico, el daño se multiplica por el silencio y la lentitud. La UNESCO, en sus materiales sobre pensamiento crítico ante algoritmos, insiste en planificar actividades en torno a las preocupaciones concretas de la IA según su relevancia para cada país y cada grupo específico de aprendices UNESCO Think Critically Click Wisely —es decir, en aterrizar la respuesta en contextos reales, no en abstracciones universales sobre “saber mirar”. La alfabetización útil, si la hay, no es la que enseña a detectar el artefacto en el video; es la que enseña la ruta de denuncia, el derecho al retiro inmediato, la red de apoyo. Es alfabetización en defensa de derechos, no en peritaje técnico.
Y la diferencia importa porque define a quién le pedimos qué. La alfabetización forense le pide al individuo que se vuelva experto. La alfabetización en derechos le exige a la institución que tenga protocolos. La primera externaliza el costo hacia el ciudadano; la segunda lo internaliza donde corresponde, en las organizaciones que tienen el poder y los recursos para responder. Pedir lo segundo es pedir responsabilidad estructural. Pedir solo lo primero es, otra vez, culpar a la víctima con anticipación.
Las cinco lentes: por qué la importación de soluciones no funciona
Conviene aplicar de manera explícita las lentes con las que esta publicación examina cualquier tecnología que llega a la región, porque revelan por qué la solución importada —“alfabeticemos en detección”— se desarma al tocar suelo latinoamericano.
Disponibilidad. Las principales herramientas de detección de deepfakes provienen de empresas estadounidenses o startups que las diseñan para mercados anglófonos. No tienen versiones optimizadas para el español ni para los acentos, expresiones y contextos visuales latinoamericanos; muchas requieren suscripción o cuentas que están bloqueadas por región. La premisa de la alfabetización en detección es que existen herramientas que el ciudadano alfabetizado puede usar. Pero si la herramienta no está disponible en tu idioma ni en tu país, la alfabetización entrena para usar algo que no tienes. Es como enseñar a manejar un auto que nadie va a poder comprar.
Accesibilidad. Aun cuando una herramienta forense exista, su costo y su curva de aprendizaje son prohibitivos para la mayoría. Requiere inglés técnico, capacidad de procesar archivos pesados, conexiones estables. En una región donde el PIB per cápita de El Salvador es de apenas 5.579 dólares El Salvador country profile, datos 2024 y donde la conectividad sigue siendo desigual incluso en economías más grandes —Perú, con un PIB per cápita de 8.452 dólares Peru country profile, datos 2024—, presuponer que el ciudadano promedio puede acceder y operar herramientas de verificación forense es una fantasía de clase. La detección como deber individual es un privilegio disfrazado de responsabilidad cívica: solo la puede ejercer quien ya tiene recursos, tiempo y capital técnico.
Aplicabilidad. Las aplicaciones más urgentes en América Latina no son las que dominan el debate global —elecciones presidenciales de superpotencias— sino estafas financieras con clonación de voz, extorsión, desinformación política local y bullying escolar. Y estas circulan por canales específicos: WhatsApp, TikTok, llamadas telefónicas. Una madre que recibe la voz clonada de su hijo “secuestrado” no va a subir el audio a una plataforma forense en inglés; está en pánico, en tiempo real, en un mensaje de WhatsApp. Cualquier defensa que no se integre en esos canales, en ese idioma, a esa velocidad, es irrelevante por más alfabetizada que esté la persona.
Alternativas. Aquí está lo productivo: existen defensas reales que no dependen del peritaje individual. La verificación contextual —acordar de antemano una palabra clave familiar para confirmar identidad en una llamada sospechosa— es barata, no requiere herramientas y funciona precisamente contra la clonación de voz. El apoyo comunitario a través de redes de confianza, el fact-checking manual realizado por organizaciones especializadas, y los sellos de verificación de contenido implementados por las propias plataformas son alternativas más robustas que mil talleres de detección de parpadeos. La verificación contextual, en particular, invierte la lógica: en vez de pedirle al receptor que detecte la falsedad en la señal, establece un canal de confianza previo que la señal no puede falsificar. Es defensa por diseño social, no por habilidad forense.
Anticipación. Lo que la región necesita anticipar no es un ciudadano más entrenado sino una infraestructura más justa: versiones gratuitas y en español de herramientas de verificación; campañas masivas que enseñen no a peritar sino a sospechar y verificar por canales de confianza; y marcos regulatorios que obliguen a las plataformas a etiquetar contenido sintético. Que países como Argentina cuenten con un Plan Nacional de Inteligencia Artificial Argentina country profile, datos 2024 o que Perú tenga su Estrategia Nacional de Inteligencia Artificial Peru country profile, datos 2024 abre una ventana: estos marcos pueden incorporar obligaciones de etiquetado y mecanismos de verificación accesibles, en lugar de limitarse a recomendar “educar al ciudadano”. La pregunta no es si los Estados latinoamericanos tienen estrategias de IA —cada vez más las tienen— sino si esas estrategias van a poner el peso de la defensa en la infraestructura o en el individuo.
El etiquetado obligatorio supera a mil talleres
Si hay una afirmación que esta publicación quiere defender con firmeza es esta: una regulación que obligue a etiquetar el contenido sintético en el origen es más efectiva que cualquier cantidad de talleres de alfabetización en detección. La razón es estructural. El taller actúa sobre el último eslabón —el receptor, ya expuesto al contenido, en el momento de máxima vulnerabilidad emocional— mientras que el etiquetado actúa sobre el sistema de distribución, antes de que el contenido llegue. Una intervención escala a millones con un solo cambio normativo; la otra requiere alcanzar a cada ciudadano, uno por uno, y reentrenarlo cada vez que los modelos mejoran.
La Unión Europea avanzó en esa dirección con marcos que exigen identificar el contenido generado por IA, y aunque la implementación es imperfecta y los riesgos de captura existen, el principio es correcto: la carga de marcar la falsedad recae sobre quien la produce y la distribuye, no sobre quien la recibe. Trasladar ese principio a América Latina no significa copiar la letra europea —los contextos institucionales difieren radicalmente— sino adoptar la inversión de la carga. La pregunta regulatoria correcta no es “¿cómo entrenamos al ciudadano?” sino “¿cómo hacemos que la plataforma, el banco, el operador telefónico asuman la fricción de la verificación?”.
Esto enlaza con un punto que conviene no perder: la alfabetización no es el enemigo. Lo es la alfabetización presentada como único o principal pilar de defensa. Una sociedad necesita ciudadanos que sepan sospechar, que conozcan rutas de verificación, que entiendan que lo audiovisual ya no es prueba suficiente. Pero esa alfabetización tiene que ser el complemento de un ecosistema que haga la verificación fácil —no el sustituto de una infraestructura que se niega a construir. La diferencia entre “necesario pero no suficiente” y “pilar único” es toda la diferencia política del asunto. La primera versión empodera; la segunda culpa.
Contraargumento: ¿no es paternalista pensar que la gente no puede aprender?
Vale la pena tomar en serio la objeción más fuerte a esta tesis, porque rechazarla sin examinarla sería deshonesto. Alguien podría decir: tu postura subestima a la gente. Las personas sí pueden aprender a desconfiar, a verificar, a protegerse. Históricamente la ciudadanía se adaptó a cada nueva tecnología de manipulación —del fotomontaje al Photoshop— y desarrolló anticuerpos culturales. ¿No es condescendiente, casi colonial, asumir que el latinoamericano promedio es incapaz de adquirir alfabetización mediática y que necesita que el Estado o las plataformas lo protejan?
La objeción tiene un núcleo válido y un error de escala. El núcleo válido: sí, la gente aprende, y los anticuerpos culturales son reales —hoy casi nadie cree ingenuamente en un correo del “príncipe nigeriano”. El error de escala: esos anticuerpos tardan generaciones en formarse y siempre van un paso atrás de la tecnología. El problema con los deepfakes es la velocidad diferencial: la capacidad ofensiva mejora mensualmente mientras los anticuerpos culturales se forman en años. No estamos en una carrera pareja que el aprendizaje pueda ganar; estamos ante una asimetría que se ensancha. Defender la alfabetización como pilar es apostar a que el corredor lento alcanzará al veloz si entrena más duro. No lo hará. Por eso la respuesta no es menos alfabetización —es alfabetización más infraestructura, donde la infraestructura nivela la pista que el entrenamiento individual jamás nivelará.
Y hay un punto más fino. Decir que la defensa debe ser estructural no es decir que la gente es tonta; es decir que ninguna persona, por inteligente que sea, debería tener que cargar individualmente con una defensa que es responsabilidad colectiva. No le pedimos a cada ciudadano que analice forensemente el agua que toma para detectar contaminantes: construimos un sistema de potabilización y lo regulamos. La alfabetización en detección de deepfakes como pilar único es el equivalente a desmantelar la planta potabilizadora y entregarle a cada familia un kit de análisis químico, declarando que ahora la salud pública es una responsabilidad personal. Eso no es respeto por la autonomía. Es abandono disfrazado de empoderamiento.
Cierre: preguntas que la región no puede delegar
La conversación global sobre deepfakes llega a América Latina con su marco ya armado, y ese marco pone el peso sobre el ciudadano. Reconocer el gesto es el primer paso para resistirlo. La tarea de esta semana no es decir que la alfabetización no sirve —sirve, como complemento— sino negarse a aceptar que sea el pilar, porque aceptarlo equivale a naturalizar una asimetría de poder que es la verdadera causa del problema.
Quedan preguntas abiertas que la región tendrá que responder con sus propias instituciones, no importando soluciones diseñadas para otros mercados. ¿Quién definirá qué cuenta como contenido sintético que debe etiquetarse, y cómo evitamos que ese poder de definición se convierta en herramienta de censura selectiva en manos de gobiernos con historial autoritario? ¿Cómo se construyen mecanismos de verificación que vivan dentro de WhatsApp, de TikTok, de la red telefónica —los canales reales donde ocurre el daño— y no en plataformas forenses inaccesibles? ¿Cómo protegemos específicamente a los más vulnerables —menores frente a la sextorsión, adultos mayores frente a la clonación de voz, comunidades indígenas frente a la desinformación en sus territorios— sin reducir la protección a un folleto de “consejos para no caer”?
Y la pregunta de fondo, la que García Canclini dejó planteada: si lo que está en juego es una desdemocratización Ciudadanos reemplazados por algoritmos, una descomposición de las condiciones mismas de la ciudadanía, entonces la defensa contra los deepfakes no es un asunto técnico de detección sino un asunto político de reconstrucción de la confianza pública. Esa confianza no se reconstruye enseñándole a cada persona a desconfiar de todo. Se reconstruye con instituciones —plataformas, bancos, Estados, organizaciones de fact-checking— que asuman la carga de la verificación y rindan cuentas por ella. Marta Peirano lo recordó: el ecosistema fraudulento prosperó porque las cabeceras tradicionales perdieron prestigio y nadie ocupó su lugar como garante de lo real El enemigo conoce el sistema. El vacío de confianza no lo llena un ciudadano alfabetizado. Lo llena —o lo deja vacío— la decisión política de construir, o no, una infraestructura de verdad accesible para todos.
La trampa de la alfabetización, en el fondo, es una manera de no tomar esa decisión. De delegar en el individuo lo que exige acción colectiva. Reconocerla es negarse a aceptar la culpa por anticipado —y empezar a exigir, en cambio, que el peso recaiga donde están el poder y los recursos para sostenerlo.