La universidad como filtro: cómo la educación superior puede (y debe) liderar la alfabetización en detección de deepfakes sin convertirse en un taller de forense

Hay un consejo que circula en cada nota sobre deepfakes y que conviene mirar con sospecha precisamente porque suena razonable: aprende a detectarlos. Fíjate en los parpadeos antinaturales, en los bordes borrosos del rostro, en la iluminación que no cuadra, en la sincronía imperfecta entre labios y audio. La promesa implícita es que el ciudadano alerta, suficientemente entrenado, podrá distinguir lo real de lo sintético con sus propios ojos. Es un consejo que tiene la forma de la responsabilidad individual y el fondo de una abdicación. Porque cada uno de esos artefactos delatores que hoy nos enseñan a buscar es, mañana, un bug que el próximo modelo corrige. La detección visual a ojo desnudo es una carrera que el ciudadano pierde por diseño: cuanto mejor sabe mirar, mejor aprende a engañarlo el sistema que produce las falsificaciones.

Ese es el espejismo que conviene nombrar antes de pedirle nada a la universidad latinoamericana. La conversación global sobre contenido sintético ha trasladado el peso de la verificación a la capacidad perceptiva del individuo, y al hacerlo ha convertido un problema de infraestructura, regulación y poder corporativo en un problema de alfabetización personal. En la región, donde las herramientas forenses de detección no llegan en español, donde su costo es prohibitivo y donde las aplicaciones más urgentes no son geopolíticas sino domésticas —la estafa con voz clonada que vacía la cuenta de una jubilada, la extorsión con un audio falso de un hijo secuestrado—, esa traslación de responsabilidad es algo más que ingenua. Es un fracaso de imaginación institucional.

La pregunta de este ensayo no es si las universidades deben enseñar a detectar deepfakes. Es qué tipo de cosa deben enseñar, y sobre todo, qué tipo de infraestructura deben construir, para no terminar formando un ejército de aficionados a la forense visual condenados a perder una carrera técnica contra laboratorios con presupuestos de miles de millones de dólares. La tesis es incómoda para quien busque una solución limpia: el verdadero aporte de la educación superior no está en el detector sino en el ecosistema; no en el curso técnico sino en la pregunta transversal; no en formar expertos en píxeles sino ciudadanos que sepan preguntar quién se beneficia de que ellos crean lo que ven.

El detector como falsa promesa institucional

Conviene empezar por lo que la universidad no debe hacer, porque es lo que el sentido común tecnológico le pediría que hiciera. La tentación es montar un laboratorio de detección, comprar licencias de software forense, ofrecer un optativo en la facultad de informática titulado “Análisis de medios sintéticos” y declarar resuelto el problema. Esta respuesta es atractiva porque es legible, presupuestable y fotografiable. Y es, casi en su totalidad, un desperdicio.

El motivo es estructural. La generación de contenido sintético y su detección forman un par adversarial: cada avance en detección entrena, directa o indirectamente, la próxima generación de modelos generativos. El informe de índice de IA de Stanford documenta hasta qué punto los sistemas de generación de desinformación ya operan como cadenas automatizadas y autosostenidas —un sistema fabrica el artículo falso atribuido a un periodista inexistente, otro genera comentarios que simulan engagement orgánico, un tercero busca tweets relevantes para inyectar el contenido en conversaciones reales HAI AI-Index-Report-2024. Contra una arquitectura así, el ciudadano entrenado a buscar parpadeos antinaturales es un Quijote con lupa.

La asimetría de recursos sella el argumento. Las herramientas de detección de punta provienen de Microsoft, OpenAI y startups especializadas; sus versiones robustas requieren suscripción, cuentas que muchas veces están bloqueadas por región, capacidad de procesar archivos pesados e interfaces en inglés técnico. Una universidad pública peruana —en un país cuyas exportaciones de alta tecnología apenas alcanzan el 5.2% del total manufacturado, según los datos del Banco Mundial para 2024 Perú (Peru)— no va a ganar una carrera armamentista forense contra esos actores. Invertir su presupuesto escaso en perseguir el detector perfecto es invertirlo en el lugar equivocado.

Hay aquí una continuidad con algo que esta publicación ya argumentó, pero también un giro necesario. En análisis anteriores sostuvimos que la IA en educación superior requiere marcos regulatorios y alfabetización para equilibrar sus promesas y riesgos. Aquello sigue siendo cierto, pero el caso de los deepfakes obliga a precisar el contenido de esa “alfabetización”: no es alfabetización técnica lo que protege, no es la habilidad de operar un detector. Es algo más cercano a lo que Cristóbal Cobo llamó superar la educación meramente instrumental para enfocarse en el desarrollo del pensamiento crítico y autónomo, esa línea alternativa que nos hace conscientes en lugar de dejarnos “fácilmente manipulables” Acepto las condiciones: usos y abusos de las tecnologías digitales. El delta es importante: no basta con pedir alfabetización; hay que pelear contra la versión instrumental de la alfabetización que la industria nos vende.

Por qué la sospecha vence a la detección

Si el detector no es la respuesta, ¿qué lo es? La inversión más rentable que puede hacer una universidad no es enseñar a identificar artefactos visuales sino cultivar un hábito epistémico: la sospecha contextual. La diferencia es radical. La detección pregunta “¿es esta imagen falsa?” —una pregunta técnica, perecedera, que el ciudadano casi siempre responderá mal. La sospecha contextual pregunta “¿por qué estoy viendo esto, ahora, en este canal, y quién gana si lo creo?” —una pregunta que no requiere ningún equipamiento forense y que ningún avance en realismo generativo vuelve obsoleta.

Marta Peirano describió con precisión el ecosistema que hace de la sospecha una herramienta más confiable que la mirada: el problema no es solo que existan noticias falsas, sino que la pérdida de prestigio de las cabeceras tradicionales habilitó un ecosistema mediático fraudulento donde se pueden publicar “noticias falsas como si fueran reales sin temer una demanda” El enemigo conoce el sistema. En un ecosistema así, la pregunta que protege no es sobre el contenido sino sobre la cadena de confianza: ¿quién publica esto, qué interés tiene, qué institución responde por ello? Un audio puede ser técnicamente perfecto y aún así delatarse por su contexto: el banco que nunca llama para pedir claves, el hijo que jamás usaría esas palabras, la urgencia fabricada que impide verificar.

Aquí aparece la verificación contextual como alternativa concreta y de bajísimo costo: acordar una palabra clave familiar que un secuestrador con voz clonada no podría conocer, llamar de vuelta a un número conocido en lugar de responder al que llama, confirmar por un segundo canal. Son protocolos que no requieren software, solo cultura de verificación. Y aquí la universidad tiene una ventaja que el laboratorio forense jamás tendrá: puede transmitir hábitos mentales, no solo destrezas técnicas. Puede formar la pregunta “¿quién se beneficia?” como reflejo, no como contenido de un examen.

Esa pregunta tiene linaje. La pedagogía de la liberación de Paulo Freire insistía en que la educación auténtica no deposita información en el estudiante como objeto pasivo —la “educación bancaria”— sino que lo forma como sujeto capaz de nombrar y leer críticamente el mundo Pedagogía del oprimido. Un ciudadano que sabe leer críticamente quién produce un mensaje y con qué interés está mejor protegido contra un deepfake que uno que memorizó una lista de artefactos visuales. La detección es bancaria: deposita una técnica que caduca. La sospecha contextual es liberadora: forma un sujeto que interroga.

Transversalizar, no encapsular

De aquí se sigue la afirmación más fuerte de este ensayo, y la que más choca con el reflejo institucional: la alfabetización en contenido sintético no debe ser un curso. No debe vivir encapsulada en un optativo de informática al que llegan veinte estudiantes ya predispuestos. Debe transversalizarse —cruzar comunicación, derecho, psicología, diseño, economía— porque la pregunta “¿quién se beneficia?” no es una pregunta técnica sino una pregunta sobre el poder, y el poder se estudia en todas las disciplinas o en ninguna.

Pensemos qué aporta cada lente. La facultad de comunicación tiene las herramientas para analizar cómo se fabrica la credibilidad de un mensaje, cómo opera la economía de la atención que Peirano disecciona, cómo el formato de WhatsApp o TikTok configura la recepción antes que el contenido. El derecho debe formar profesionales capaces de pensar marcos regulatorios que exijan a las plataformas etiquetar contenido sintético —porque la solución estructural no es que el ciudadano detecte, sino que la plataforma señale. La psicología puede explicar por qué la urgencia fabricada desactiva el juicio crítico, por qué la voz de un ser querido produce una respuesta emocional que sortea toda verificación racional. El diseño entrena a quienes construirán las interfaces de confianza: los sellos de verificación, las señales visuales que indican procedencia. La economía permite leer el modelo de negocio de la desinformación, entender por qué fabricar engagement falso es rentable.

García Canclini ofrece el marco político que une todo esto. Su diagnóstico es que los conocimientos necesarios para desempeñarnos como ciudadanos se estrechan “debido a la sustracción y el ocultamiento de datos por parte de las corporaciones y los gobiernos” Ciudadanos reemplazados por algoritmos. El deepfake no es solo un fraude individual; es un acelerador de esa desdemocratización que García Canclini, siguiendo a Wendy Brown, identifica como una “descomposición de la idea de democracia” Ciudadanos reemplazados por algoritmos. Cuando ningún registro audiovisual es confiable, no solo cae la víctima de una estafa: cae la posibilidad misma de un espacio público con evidencia compartida. Por eso encapsular el tema en informática es un error de categoría. No es un problema de informática. Es un problema de ciudadanía, y la ciudadanía se forma transversalmente o se forma mal.

Esto no significa diluir el tema hasta volverlo decorativo —el riesgo opuesto, que cada cátedra le dedique una clase suelta y nadie asuma responsabilidad. La transversalización exige coordinación institucional real: un núcleo común que defina las preguntas (¿quién produce esto? ¿quién se beneficia? ¿qué cadena de confianza respalda esta información?) y luego cada disciplina aportando su instrumental específico. Es más difícil de montar que un optativo. Es también lo único que escala más allá del salón.

La universidad como nodo de verificación comunitaria

La segunda afirmación fuerte desplaza el problema fuera del aula. La universidad latinoamericana tiene una característica que las instituciones del Norte global muchas veces no tienen con la misma intensidad: está enredada en redes familiares y comunitarias densas. El estudiante universitario de primera generación —figura central en buena parte de la región— es a menudo el nodo tecnológico de su familia, el que configura los teléfonos, el que explica las estafas, el que recibe la captura de pantalla con el mensaje sospechoso. Esa posición es un activo desperdiciado.

Imaginemos universidades que entrenan deliberadamente a sus estudiantes no como detectores forenses sino como agentes de verificación comunitaria: personas capaces de transmitir a sus familias el protocolo de la palabra clave, el reflejo de llamar de vuelta al número conocido, la sospecha ante la urgencia fabricada. Las aplicaciones más urgentes en la región no son académicas. Son la estafa financiera con voz clonada, la extorsión, la desinformación política en los grupos de WhatsApp familiares, el bullying escolar con imágenes sintéticas. Ninguna de estas se combate con un detector instalado en un laboratorio universitario. Todas se combaten con cultura de verificación distribuida en redes de confianza.

Aquí la universidad puede operar como lo que la infraestructura comercial no ofrece: un actor sin fines de lucro, regionalmente arraigado, con legitimidad para ser nodo de una verificación que las plataformas no proveen. Alianzas con organizaciones de fact-checking —que en América Latina han desarrollado una madurez notable— permiten que la universidad amplifique en lugar de duplicar. El fact-checking manual sigue siendo el estándar de oro precisamente porque no depende de la carrera técnica adversarial: depende de la verificación de fuentes, de la trazabilidad, de la reputación institucional. Una universidad que entrena verificadores y se alía con quienes ya verifican multiplica su impacto sin gastar en un detector que envejecerá en seis meses.

Hay un matiz que no conviene esquivar. Convertir al estudiante en agente de verificación comunitaria puede deslizarse hacia una nueva forma de descargar en el individuo —ahora el estudiante— una responsabilidad que es estructural. Si la universidad forma verificadores comunitarios pero no presiona por la regulación que obligaría a las plataformas a etiquetar el contenido sintético, estaría haciendo exactamente lo que este ensayo critica: privatizar en el ciudadano un problema de infraestructura. La verificación comunitaria es valiosa como complemento, no como sustituto del cambio estructural. La universidad debe sostener ambos frentes a la vez: formar nodos comunitarios y usar su voz institucional para exigir que las plataformas y los bancos asuman su parte.

Datasets regionales antes que detectores propios

La tercera afirmación es la más técnica y la más subestimada. Si la universidad va a invertir algo de su escaso presupuesto de investigación en este terreno, que no sea en construir un detector que competirá sin éxito contra Microsoft. Que sea en construir lo que nadie más va a construir: datasets regionales y protocolos de respuesta.

El sesgo de las herramientas de detección no es neutral geográficamente. Los modelos se entrenan predominantemente con rostros, acentos y contextos del Norte global. Un detector optimizado para inglés y para fenotipos del Norte rinde peor frente a un audio en español rioplatense, frente a rostros mestizos o indígenas, frente a los códigos visuales y sonoros propios de la región. Esto significa que aun cuando las herramientas estuvieran disponibles y fueran accesibles, su aplicabilidad a contenidos latinoamericanos es dudosa. Aquí sí hay un aporte de investigación genuinamente insustituible: producir y curar datasets regionales que permitan evaluar —y eventualmente mejorar— el rendimiento de cualquier herramienta sobre contenido local. Es un bien público que ningún actor comercial tiene incentivo para producir, y es exactamente el tipo de cosa que justifica la existencia de una universidad pública.

Y junto al dataset, el protocolo. Más relevante que detectar es saber qué hacer cuando aparece la sospecha de un deepfake: a quién reportar, cómo preservar la evidencia, qué canales bancarios congelan una transferencia fraudulenta, qué autoridades reciben la denuncia. Un protocolo de respuesta es infraestructura barata y de altísimo impacto, y es transferible: un protocolo desarrollado por una universidad argentina puede adaptarse en El Salvador o en Perú. Esto conecta con la lente de anticipación: la región necesita preparar infraestructura de verificación accesible antes de que la próxima ola de fraude sintético la encuentre desarmada, y la producción de datasets y protocolos abiertos es precisamente el tipo de bien anticipatorio que paga dividendos cuando la crisis llega.

Los materiales educativos abiertos cierran el círculo. Una universidad que produce recursos abiertos —en español, adaptados a WhatsApp y TikTok y a la llamada telefónica, no a interfaces forenses en inglés— construye un bien que se replica sin costo marginal por toda la región. Esto importa de modo desigual: una universidad argentina, en un país con un índice de IA de 67.5 que lo ubica entre los líderes regionales Argentina (Argentina), tiene una capacidad de producción que una institución salvadoreña, con un índice de 42.9 El Salvador (El Salvador), difícilmente iguala. Pero el recurso abierto convierte esa asimetría en colaboración: lo que produce la mejor dotada se vuelve disponible para la que no puede producirlo. El ecosistema de verificación colaborativa que esta tesis propone es, en el fondo, una apuesta por la solidaridad regional contra la fragmentación que beneficia solo a los proveedores.

Las lentes LATAM: disponibilidad y aplicabilidad como diagnóstico

Vale detenerse explícitamente en dos de las lentes que recorren todo este análisis, porque condensan por qué la respuesta del Norte no se importa sin más.

La disponibilidad es la primera barrera y la más invisibilizada. Las herramientas de detección de punta no existen, en la práctica, para el ciudadano latinoamericano promedio: no tienen versión en español, no están optimizadas para contenido regional, muchas requieren suscripción o cuentas bloqueadas por región. Cuando un experto del Norte recomienda “usa un detector”, está hablando de un bien que para la mayoría de la región no está disponible. Esta brecha de disponibilidad es la que vuelve cínica la retórica de la responsabilidad individual: no se le puede pedir a alguien que use una herramienta que no tiene. La respuesta institucional sensata no es esperar a que las herramientas lleguen traducidas y abaratadas —puede que nunca lleguen, porque no hay mercado suficiente que las atraiga— sino construir las alternativas que sí son posibles: protocolos, datasets, materiales abiertos, redes de verificación.

La aplicabilidad redefine cuál es el problema. La conversación global sobre deepfakes se obsesiona con la desinformación política de alto perfil —el video falso del candidato, la declaración de guerra fabricada. Esas amenazas existen, pero no son las que tocan la puerta de la mayoría. En la región, las aplicaciones urgentes son la estafa financiera con voz clonada, la extorsión telefónica, el fraude en grupos familiares de WhatsApp, el acoso escolar con imágenes sintéticas. La detección, para ser aplicable, tiene que integrarse en los canales familiares —WhatsApp, TikTok, la llamada telefónica— no en interfaces forenses de escritorio. Una universidad que toma en serio la aplicabilidad no diseña un curso sobre deepfakes geopolíticos; diseña protocolos para que una familia no pierda sus ahorros ante un audio falso. El cambio de foco no es menor: redirige toda la inversión institucional desde el espectáculo de la amenaza global hacia el daño concreto y cotidiano.

Estas dos lentes, juntas, desmontan la premisa importada. Si las herramientas no están disponibles y el problema real no es el que la conversación global plantea, entonces copiar la respuesta del Norte —invertir en detección técnica individual— es invertir en resolver un problema que no tenemos con herramientas que no poseemos. La lente de las alternativas señala la salida: verificación contextual, redes de confianza, sellos de procedencia provistos por plataformas, fact-checking manual como estándar de oro. Y la lente de la anticipación marca la urgencia: construir esa infraestructura antes, no después de que la ola de fraude sintético se haya normalizado.

El contraargumento que conviene tomar en serio

Un lector escéptico podría objetar: ¿no es ingenuo descartar la detección técnica? Los detectores mejoran, las plataformas adoptan estándares de procedencia como las credenciales de contenido, y dentro de pocos años buena parte de la verificación podría estar automatizada e integrada en los canales. ¿No estaría la universidad formando para un problema transitorio?

La objeción tiene fuerza y conviene concederle lo suyo. Sí, es probable que la infraestructura de procedencia mejore; sí, el etiquetado de contenido sintético por parte de las plataformas es justamente una de las soluciones estructurales que este ensayo defiende. Pero hay dos respuestas. La primera es de calendario: incluso si la solución técnica llega, no llegará primero ni gratis a la región —llegará en inglés, con retraso, optimizada para otros mercados, y mientras tanto las estafas seguirán vaciando cuentas. La brecha temporal es exactamente el espacio donde la universidad debe actuar. La segunda respuesta es más profunda: ninguna solución técnica de procedencia resuelve la pregunta política. Saber que un contenido fue generado por IA no responde quién se beneficia de que lo creas, ni reconstruye la confianza en las instituciones que García Canclini ve descomponerse. La sospecha contextual no es una solución provisional a la espera de la técnica definitiva; es la competencia ciudadana de fondo que ninguna etiqueta automática sustituye.

Hay un riesgo opuesto que también merece nombrarse: que tanto énfasis en la sospecha produzca cinismo generalizado. Si enseñamos a desconfiar de todo registro audiovisual, ¿no estamos pavimentando el camino hacia la “sociedad post-fact” donde, como advierte un análisis del fenómeno, los hechos, la información y el conocimiento se vuelven crecientemente perecederos After shock? Es un peligro real. La meta no es la desconfianza universal —que sería su propia forma de derrota, porque un ciudadano que no cree en nada es tan manipulable como uno que cree en todo— sino la confianza calibrada: saber en qué cadenas de verificación confiar y por qué. Formar esa calibración, y no el cinismo, es la tarea pedagógica delicada que la universidad no puede delegar en ningún detector.

Implicaciones y preguntas abiertas

El argumento de este ensayo se resume en un desplazamiento: del detector al ecosistema, del curso a la transversal, del experto forense al ciudadano que pregunta quién se beneficia. La universidad latinoamericana no ganará la carrera técnica contra los laboratorios que producen las falsificaciones, y obsesionarse con esa carrera es desviar su escaso presupuesto hacia el lugar equivocado. Su aporte insustituible está en otro plano: formar el hábito de la sospecha contextual transversalmente, operar como nodo de verificación comunitaria arraigado en las redes de confianza regionales, y producir los bienes públicos —datasets regionales, protocolos de respuesta, materiales abiertos en español— que ningún actor comercial tiene incentivo para crear.

Quedan preguntas abiertas que la región tendrá que responder sin la comodidad de una respuesta importada. ¿Cómo evitar que la formación de verificadores comunitarios se deslice hacia una nueva privatización individual de un problema estructural, descargando en el estudiante lo que debería exigirse a las plataformas y los bancos? ¿Cómo sostener simultáneamente el frente pedagógico y el frente regulatorio, cuando la universidad rara vez tiene la voz política para presionar a actores globales? ¿Cómo construir ese ecosistema de verificación colaborativa entre universidades con dotaciones tan desiguales —entre una Argentina líder regional y una institución salvadoreña con un tercio menos de capacidad instalada— sin reproducir la dependencia que se intenta superar?

Y una pregunta de fondo, la más incómoda: ¿está la universidad latinoamericana dispuesta a definir su aporte por lo que puede hacer de modo insustituible, en lugar de por lo que la moda tecnológica le dice que debería hacer? El reflejo de montar el laboratorio forense, comprar las licencias y ofrecer el optativo es fuerte porque es legible y fotografiable. La apuesta más difícil —transversalizar una pregunta política, construir infraestructura pública lenta, formar sospecha calibrada en lugar de cinismo— no produce titulares ni inauguraciones. Produce, en el largo plazo, ciudadanos menos manipulables. Esa es la diferencia entre una universidad que se deja administrar por la urgencia tecnológica y una que decide, con criterio propio, dónde está su contribución verdadera. La detección a ojo desnudo es un espejismo. El filtro que importa no está en los ojos del ciudadano sino en su capacidad de preguntar, ante cualquier contenido, quién ganó algo haciéndole creer.