De la cátedra al fraude: por qué la universidad debe enseñar a detectar deepfakes (y no solo a los informáticos)

Imaginemos una escena que ya no es hipotética en ningún país de la región. Una jefa de departamento administrativo recibe un correo del rector: hay que transferir con urgencia fondos a un proveedor, la firma electrónica adjunta parece auténtica, y por si quedaran dudas, llega un mensaje de voz —la voz del rector, inconfundible, con su cadencia y sus muletillas— pidiendo discreción y velocidad. La jefa transfiere. Nadie mintió con las manos: mintió una máquina entrenada con tres minutos de audio público de una conferencia que el rector dictó el año pasado y que sigue colgada en YouTube. La universidad, que se enorgullece de tener un doctorado en ciencias de la computación y un laboratorio de inteligencia artificial, acaba de ser estafada porque la persona que aprieta el botón de transferir nunca recibió una sola hora de formación sobre lo que hoy puede hacer una IA generativa con una muestra de voz.

Esta escena condensa una asimetría incómoda. Las instituciones de educación superior latinoamericanas han abrazado el discurso de la alfabetización en IA con entusiasmo —la mayoría de nuestras propias piezas anteriores lo documentan, insistiendo en que la IA educativa necesita marcos regulatorios y capacitación para ser ética AI News Social-Weekly Critical Analysis-Education-ES-20250720—, pero han concebido esa alfabetización casi exclusivamente como un problema pedagógico interno: cómo enseñan los docentes, cómo aprenden los estudiantes, cómo evaluar sin que ChatGPT haga la tarea. El fraude con clonación de voz y deepfakes obliga a un giro. Ya no se trata de la IA como herramienta de aula sino de la IA como arma dirigida contra la comunidad universitaria entera —contra el personal administrativo, contra el docente de humanidades que no distingue un archivo de audio manipulado de uno genuino, contra la madre jubilada de un estudiante que recibe la llamada con la voz clonada de su hijo. La tesis de este ensayo es que las universidades de la región están rezagadas no por falta de sofisticación técnica sino por un error de encuadre: siguen tratando la detección de fraudes con IA como un asunto de especialistas cuando debería ser una política institucional integral que abarque a toda la comunidad y se proyecte, mediante la extensión, hacia la sociedad que la rodea.

El error de encuadre: la alfabetización que dejamos afuera

Hay una ironía estructural en cómo las universidades han organizado su relación con la inteligencia artificial. El conocimiento técnico más avanzado convive con la vulnerabilidad más elemental. En el mismo campus donde un grupo de investigación publica sobre redes generativas adversarias, la oficina de tesorería opera con protocolos de verificación diseñados para un mundo donde una voz al teléfono era prueba de identidad. Esta convivencia no es casual: refleja la creencia, nunca examinada, de que la alfabetización en IA es competencia de quienes hacen IA.

García Canclini señaló, ya en 2019, el núcleo del problema cuando observó que ante operaciones de phishing y manipulación digital “la sociedad civil no dispone de conocimiento o de la capacidad necesaria para protegerse de estos ataques” Ciudadanos reemplazados por algoritmos. La frase describe a la sociedad civil en general, pero cabe con precisión inquietante en la universidad, esa institución que suele imaginarse a sí misma como excepción ilustrada. El personal administrativo, el cuerpo docente no técnico, los trabajadores de mantenimiento, los estudiantes de derecho o de enfermería: todos forman parte de la “sociedad civil” a la que Canclini se refiere, y ninguno recibe formación sistemática sobre las capacidades reales de las herramientas de suplantación.

El AI Index Report 2024 de Stanford documenta con crudeza el salto de capacidad: las herramientas de deepfake “han mejorado significativamente desde las elecciones estadounidenses de 2020” y hacen “significativamente más fácil generar tal desinformación” HAI AI-Index-Report-2024. Ese informe se concentra en la desinformación electoral, pero la misma curva de capacidad que abarata la propaganda abarata el fraude. Clonar una voz que hace tres años requería estudios de grabación y presupuesto de cine hoy requiere una muestra de audio y una suscripción de pocos dólares. La universidad, que consume estos informes en sus seminarios de posgrado, no ha traducido su lectura en protocolos que protejan a quien firma cheques.

Cristóbal Cobo nombró la trampa con exactitud al criticar una educación digital “meramente instrumental”, que resulta “incapaz de hacernos competentes en un contexto cada vez complejo, lo cual nos desprotege y nos hace vulnerables y fácilmente manipulables” Acepto las condiciones: usos y abusos de las tecnologías digitales. Cobo proponía superar esa formación instrumental “y enfocarse en el desarrollo del pensamiento crítico y autónomo”. El punto es decisivo para nuestra tesis: enseñar a los informáticos a construir detectores de deepfakes es formación instrumental de élite; formar a toda una comunidad para sospechar, verificar y resistir la urgencia manufacturada es formación crítica de masas. Las universidades han hecho lo primero y descuidado lo segundo.

Anatomía de un fraude que explota la confianza

Para entender por qué la universidad es un blanco y no un refugio, conviene desarmar el mecanismo del fraude. No es un ataque técnico contra sistemas; es un ataque psicológico que usa la IA como amplificador. Canclini, comentando la capacidad de las máquinas para operar en “la zona de los sentimientos”, advirtió que los bots “pulsarán cada vez más nuestros botones emocionales” Ciudadanos reemplazados por algoritmos. La estafa con voz clonada es la expresión más pura de esa profecía: no ataca la inteligencia de la víctima sino su afecto. La voz de la madre, la voz del hijo, la voz de la autoridad que pide un favor urgente.

El diseño del fraude descansa en tres pilares, y los tres son especialmente eficaces en el contexto institucional latinoamericano. El primero es la jerarquía. En organizaciones con culturas de autoridad marcadas —y muchas universidades de la región lo son— un pedido que parece venir del rector o del director financiero no se cuestiona: se obedece. El estafador no necesita romper una contraseña; necesita imitar una jerarquía. El segundo pilar es la urgencia fabricada. Toda estafa exitosa comprime el tiempo de reflexión: “hay que transferir antes de las tres”, “tu hijo está detenido y necesita fianza ahora”. La urgencia desactiva precisamente el pensamiento crítico y autónomo que Cobo reclamaba Acepto las condiciones: usos y abusos de las tecnologías digitales. El tercer pilar es la confianza cultural: en sociedades donde la palabra dada, la voz reconocida y el vínculo familiar tienen peso normativo fuerte, la evidencia sonora funciona como prueba casi irrefutable.

Marta Peirano, al analizar cómo la manipulación digital se ha profesionalizado en un mercado de ideas y personas, muestra que estas operaciones ya no son excepcionales sino sistémicas, con América Latina como terreno documentado —Chile aparece como ejemplo en su rastreo de vulnerabilidades regionales El enemigo conoce el sistema. La lección que se desprende de Peirano es que no estamos ante estafadores aficionados sino ante una economía de la manipulación que reinvierte utilidades en mejores herramientas. La universidad enfrenta, por tanto, no un incidente ocasional sino un adversario que se profesionaliza más rápido de lo que ella capacita a su gente.

Aquí conviene un dato que suele ignorarse: la universidad no es solo víctima potencial sino cantera involuntaria de materia prima. Los sitios institucionales publican audios de conferencias, videos de actos de graduación, discursos de autoridades. Cada uno de esos archivos es una muestra de entrenamiento gratuita para un clonador de voz. La transparencia académica —un valor legítimo— produce, sin quererlo, el insumo del fraude. Ninguna política institucional que conozca la región ha considerado siquiera este flanco.

Los casos que ya ocurrieron (y los que no se denuncian)

Conviene ser honestos sobre la evidencia. El fraude corporativo con deepfakes de voz y video está ampliamente documentado a nivel global —el salto de capacidad que registra el AI Index Report 2024 lo hizo previsible y luego real HAI AI-Index-Report-2024—, pero la denuncia sistemática de casos universitarios en América Latina es escasa, y esa escasez es en sí misma un dato. No significa que no ocurran; significa que las instituciones que los sufren tienen fuertes incentivos para no reportarlos. Una universidad que admite haber transferido fondos a un estafador porque su tesorería confió en una voz clonada expone una vulnerabilidad reputacional que preferiría enterrar. El silencio no es prueba de seguridad; es prueba de vergüenza institucional.

Este patrón de subdenuncia agrava el problema porque impide el aprendizaje colectivo. Si cada universidad estafada oculta el incidente, ninguna otra aprende de él, y el mismo guion funciona una y otra vez a lo largo del continente. La lógica es la misma que Peirano identifica en la economía de la manipulación: el atacante escala su conocimiento mientras las víctimas permanecen atomizadas, cada una creyéndose el único caso El enemigo conoce el sistema. Una política institucional madura tendría que incluir mecanismos de denuncia y difusión de incidentes —anonimizados si hace falta— entre pares regionales, del mismo modo que los bancos comparten información sobre patrones de fraude. La universidad, que predica la circulación abierta del conocimiento, todavía no la aplica a su propia seguridad.

El vector que menos se discute es el que involucra a las familias. El estudiante universitario es, para el estafador, un puente hacia una víctima más vulnerable: sus padres o abuelos. La estafa clásica del “hijo en apuros” —accidente, detención, secuestro simulado— alcanza una potencia inédita cuando la voz del hijo es clonada a partir de audios que el propio estudiante publicó en redes sociales. La comunidad universitaria extendida —esas familias que sostienen económica y afectivamente a quien estudia— queda expuesta por una tecnología que la universidad enseña a construir pero no enseña a resistir. Esta es la conexión que transforma el problema de una cuestión de seguridad interna a una de responsabilidad social.

Por qué la extensión universitaria es la pieza que falta

La universidad latinoamericana tiene una tradición que la distingue de sus pares del norte: la extensión, entendida como el compromiso con la comunidad que la rodea, inscrita desde la Reforma de Córdoba de 1918 en el ADN institucional de la región. Esa tradición es exactamente la infraestructura conceptual que se necesita para enfrentar el fraude con IA como problema público y no meramente corporativo.

Freire, cuya obra es piedra angular de esa tradición extensionista, distinguió entre la educación bancaria —que “deposita” información en un sujeto pasivo— y la educación liberadora, que pasa por nombrar el mundo para transformarlo Pedagogía del oprimido. Una campaña de alfabetización contra el fraude con IA que se limite a repartir folletos con “cinco señales de una estafa” es educación bancaria: deposita datos que se olvidan. Una formación freireana partiría de la experiencia de la propia comunidad —los intentos de estafa que ya vivieron, las llamadas sospechosas que recibieron— para construir colectivamente la capacidad de reconocer el patrón. La diferencia no es cosmética: determina si la persona meramente memoriza señales o desarrolla el pensamiento crítico autónomo que Cobo reclamaba como única defensa duradera Acepto las condiciones: usos y abusos de las tecnologías digitales.

La extensión universitaria puede hacer lo que ni las campañas comerciales ni las gubernamentales logran: llegar con credibilidad y sin fines de lucro a adultos mayores, a familias de bajos recursos, a comunidades rurales. Una facultad de comunicación puede diseñar talleres para clubes de jubilados; una de ingeniería puede demostrar en vivo cómo se clona una voz para desmitificar la tecnología y quebrar la creencia de que “la voz no miente”; una de trabajo social puede identificar a las poblaciones más expuestas. La materia prima institucional existe. Lo que falta es la decisión de tratarla como misión y no como actividad marginal.

Aquí, sin embargo, conviene una autocrítica. La extensión universitaria en la región arrastra dos debilidades históricas: el paternalismo —esa tendencia a “llevar la luz” a comunidades imaginadas como ignorantes— y el financiamiento precario que la convierte en la primera partida recortada. Freire mismo advirtió contra la extensión concebida como transmisión unidireccional del que sabe al que no sabe. Una alfabetización contra el fraude que reproduzca ese paternalismo fracasará doblemente: será ineficaz y será humillante. La comunidad rural o el adulto mayor no son ignorantes; tienen una experiencia del engaño —del cuento del tío, del estafador de siempre— que la universidad debería escuchar antes de pretender enseñar.

Las cinco lentes: disponibilidad, accesibilidad, aplicabilidad, alternativas, anticipación

Conviene ahora someter el problema al examen sistemático de las lentes con que esta publicación lee la realidad latinoamericana de la IA, porque cada una revela una cara distinta del rezago institucional.

Disponibilidad. Las herramientas de detección de deepfakes existen, pero no en español, no para usuarios no técnicos, y no gratuitamente. Un detector de audio sintético que requiere subir el archivo a un servicio en la nube, interpretar un puntaje de probabilidad y leer documentación en inglés es, para la enorme mayoría de la comunidad universitaria no informática, tan inaccesible como inexistente. La disponibilidad técnica sin disponibilidad práctica es una falsa promesa. La universidad, en lugar de esperar que aparezca la herramienta perfecta, debería asumir que la defensa no será tecnológica sino procedimental: protocolos de verificación por segundo canal, palabras clave familiares acordadas de antemano, políticas de “ninguna transferencia se autoriza solo por voz o video”. Estas defensas no requieren software; requieren cultura institucional.

Accesibilidad. Las soluciones comerciales de protección contra fraude son caras y están pensadas para corporaciones con presupuesto de ciberseguridad. Las universidades públicas de la región —que educan a la mayoría de los estudiantes— operan con presupuestos tensionados. Argentina, con un ILIA de 67.5 y un crecimiento del PIB de -1.3% en 2024 Argentina — World Bank / ILIA, difícilmente destinará fondos a suscripciones de detección de deepfakes cuando lucha por pagar salarios docentes. México, con un ILIA de 68.8 y una economía mayor Mexico — World Bank / ILIA, enfrenta la misma tensión distributiva. La accesibilidad, en este contexto, no se resuelve comprando la solución más cara sino desarrollando defensas de bajo costo y alta cultura: la formación crítica es barata comparada con el software y, según Cobo, más eficaz Acepto las condiciones: usos y abusos de las tecnologías digitales.

Aplicabilidad. Este es el punto donde la amenaza es más aguda en la región, y no menos. Las estafas con voz clonada son altamente aplicables aquí precisamente porque explotan la confianza en el vínculo familiar y las urgencias económicas cotidianas. En sociedades donde la respuesta a una emergencia del hijo es inmediata e incondicional, donde la autoridad se obedece sin cuestionar, y donde una parte grande de la población tiene poca exposición previa a estas tecnologías, el terreno es fértil. La aplicabilidad de la amenaza es, paradójicamente, más alta cuanto más fuertes son los lazos comunitarios que celebramos como virtud cultural. La estafa convierte nuestra mejor cualidad —la confianza— en nuestra mayor vulnerabilidad.

Alternativas. Las campañas tradicionales de prevención —radio, televisión, avisos en bancos— tienen un alcance que las herramientas digitales no logran, especialmente entre adultos mayores y en zonas rurales. Brasil, líder regional con un ILIA de 72.4 y un Plano Brasileiro de Inteligência Artificial 2024-2028 en marcha Brazil — World Bank / ILIA, tiene la escala poblacional y la infraestructura mediática para montar campañas masivas. Pero la alternativa tradicional no reemplaza la formación digital: la complementa. Una campaña de radio puede sembrar la sospecha (“si te llaman con una voz conocida pidiendo dinero urgente, colgá y volvé a llamar”), pero solo una formación sostenida construye la capacidad de verificar. La universidad puede ser el puente entre ambas: aportar el contenido riguroso a las campañas masivas y la profundidad formativa a la comunidad cercana.

Anticipación. La lente decisiva. La región debe preparar currículos de alfabetización en IA para el público general, no solo para universitarios y menos aún solo para informáticos. Anticipar significa aceptar que la curva de capacidad de las herramientas de fraude —esa que el AI Index documenta como ascendente y acelerada HAI AI-Index-Report-2024— seguirá subiendo, que los deepfakes de video en tiempo real durante videollamadas dejarán obsoletas las defensas basadas en “ver para creer”, y que la ventana para construir cultura de verificación se cierra. La universidad que empiece hoy a formar a su personal administrativo y a proyectar esa formación hacia las familias estará preparada; la que espere a ser estafada estará, como suele ocurrir, reaccionando a un desastre que pudo prever.

El contraargumento honesto: ¿es tarea de la universidad?

Sería deshonesto no considerar la objeción más fuerte. ¿Por qué debería la universidad asumir la protección contra el fraude con IA? ¿No es responsabilidad de los bancos, de las telefónicas, de los reguladores estatales, de las fuerzas de seguridad? La universidad ya está sobrecargada de mandatos —enseñar, investigar, extenderse, incluir, digitalizarse— y sumar la ciberseguridad ciudadana podría parecer una expansión ilegítima de su misión.

La objeción tiene fuerza, pero pasa por alto tres hechos. Primero, la universidad es simultáneamente blanco y fuente: es blanco porque maneja fondos y jerarquías imitables, y es fuente porque produce tanto el conocimiento que construye estas herramientas como el material de entrenamiento que las alimenta. Una institución que genera el riesgo tiene una responsabilidad diferencial sobre él. Segundo, la protección de su propia comunidad —personal, docentes, estudiantes— no es una expansión de misión sino un deber básico de cualquier empleador y educador; una universidad que no capacita a su tesorería contra fraudes conocidos es negligente, no simplemente austera. Tercero, la extensión hacia la sociedad no es caridad opcional sino, en la tradición reformista latinoamericana, constitutiva de lo que la universidad es.

Hay, además, una razón epistémica. Ninguna otra institución combina la capacidad de entender técnicamente la amenaza con la credibilidad social para comunicarla sin ánimo de lucro. El banco tiene el incentivo pero no la credibilidad —siempre se sospecha que vende un producto. El Estado tiene el mandato pero rara vez la agilidad. La universidad tiene ambas cosas y, sin embargo, no las usa. Como advirtió Canclini, cuando la sociedad civil carece del conocimiento para protegerse de estos ataques, alguien tiene que proveerlo Ciudadanos reemplazados por algoritmos, y no hay mejor candidato que la institución cuya razón de ser es producir y distribuir conocimiento.

Esto no significa que la universidad deba hacerlo todo ni sola. Significa que debe dejar de tratar el fraude con IA como problema ajeno. La política integral que este ensayo defiende no pide que la universidad reemplace a los bancos o a la policía; pide que asuma la parte que solo ella puede cumplir: formar críticamente a su comunidad y proyectar esa formación hacia la sociedad, articulándose con las otras instituciones en lugar de ignorar el problema.

Lo que sería una política integral

Vale la pena esbozar, sin pretensión de receta, qué distinguiría a una política institucional integral de las medidas fragmentarias actuales. Primero, incluiría a todos los estamentos, no solo a los técnicos: capacitación obligatoria y periódica para el personal administrativo —especialmente quienes manejan fondos, recursos humanos y datos sensibles—, para el cuerpo docente completo y para los estudiantes de todas las carreras. La detección de fraudes con IA se convertiría en un componente transversal, no en un electivo de informática.

Segundo, establecería protocolos de verificación que no dependan de la percepción humana. Dado que ni el oído ni la vista distinguen ya de manera confiable lo sintético de lo real, la defensa tiene que ser procedimental: doble canal de confirmación para toda operación financiera, palabras clave familiares, prohibición explícita de autorizar transferencias por voz o video sin verificación independiente. Estos protocolos son la traducción institucional de la desconfianza crítica que Cobo proponía como competencia Acepto las condiciones: usos y abusos de las tecnologías digitales.

Tercero, activaría la extensión con enfoque freireano —dialógico, no bancario, atento a la experiencia previa de las comunidades Pedagogía del oprimido— para llegar a las familias de la comunidad universitaria y a las poblaciones más expuestas. Cuarto, crearía mecanismos de denuncia y aprendizaje compartido entre universidades de la región, rompiendo el silencio reputacional que hoy permite que el mismo fraude se repita. Quinto, y como gesto de coherencia, revisaría su propia producción de materia prima: qué audios y videos publica, con qué controles, conscientes de que cada archivo abierto puede ser insumo de un clon.

Cierre: la institución como cortafuegos social

La escena del inicio —la jefa de departamento transfiriendo fondos a una voz clonada— no es una anécdota de ciencia ficción sino el presente que la curva de capacidad documentada hace cada vez más probable HAI AI-Index-Report-2024. Lo que está en juego no es solo el patrimonio de una institución sino su lugar en la sociedad. Durante un siglo, la universidad latinoamericana se pensó como faro: la institución que ilumina, que produce el saber que la comunidad necesita. El fraude con IA le ofrece una oportunidad de honrar esa autoimagen de un modo concreto y urgente, convirtiéndose en el cortafuegos social contra una amenaza que explota precisamente lo que la región más valora: la confianza en la voz del ser querido.

Pero la oportunidad tiene fecha de vencimiento. La ventana para construir cultura de verificación antes de que los deepfakes de video en tiempo real vuelvan obsoletas nuestras defensas actuales se está cerrando. Y las preguntas que quedan abiertas son incómodas. ¿Puede la universidad pública, con presupuestos como el de una Argentina en recesión Argentina — World Bank / ILIA, financiar una política integral sin sacrificar otras misiones? ¿Cómo evitar que la extensión contra el fraude reproduzca el paternalismo que Freire denunció Pedagogía del oprimido? ¿Puede una institución que se beneficia de la transparencia de sus archivos aceptar restricciones a esa transparencia para no alimentar el fraude? ¿Y quién capacita a los capacitadores, en un continente donde la propia alfabetización en IA de los docentes es todavía frágil?

No tengo respuestas cerradas para estas preguntas, y desconfiaría de quien las ofreciera. Lo que sí es claro es el diagnóstico: la universidad latinoamericana ha tratado la alfabetización en IA como un asunto de aula y de especialistas, y esa mirada estrecha la deja vulnerable a ella misma y omisa frente a la sociedad que dice servir. Canclini nos advirtió que la sociedad civil no tiene el conocimiento para protegerse Ciudadanos reemplazados por algoritmos. La universidad tiene ese conocimiento. La pregunta no es si puede compartirlo, sino si tendrá la lucidez de reconocer que compartirlo —empezando por su propia tesorería y terminando en la casa de un jubilado que está por atender una llamada con la voz de su hijo— es hoy parte inseparable de lo que significa ser universidad.