Alfabetización en IA: el antivirus mental que América Latina necesita con urgencia
El teléfono suena a las tres de la tarde. Al otro lado, la voz de tu hijo, entrecortada, dice que tuvo un accidente, que está en problemas, que necesita que le transfieras dinero ahora mismo. Reconoces cada inflexión, cada muletilla, la manera en que arrastra las vocales cuando está nervioso. Es él. Solo que no es él: es un modelo de clonación de voz entrenado con treinta segundos de un audio que tu hijo publicó en una historia de Instagram. La estafa no explota una vulnerabilidad de tu computadora. Explota una vulnerabilidad tuya —la más humana de todas, el reflejo de proteger a los que amamos— y lo hace con una fidelidad técnica que hace apenas tres años pertenecía a la ciencia ficción.
Este es el terreno donde la alfabetización en inteligencia artificial deja de ser una discusión de comités de política pública y se vuelve, literalmente, una cuestión de patrimonio y de confianza social. Durante años hemos hablado de la alfabetización en IA como si fuera un asunto de currículos, de competencias laborales, de prepararse para un mercado que valorará a quien sepa “usar” las herramientas. Esa conversación importa, pero deja fuera a la mayoría de la población latinoamericana: los que no van a diseñar prompts para su trabajo, los que no van a tomar un curso, los abuelos que apenas manejan WhatsApp y que son, precisamente, el blanco predilecto del fraude sintético. La alfabetización que esta región necesita con urgencia no es la del profesional que optimiza su productividad. Es la del ciudadano común que debe aprender a desconfiar de sus propios sentidos.
La estafa como examen de alfabetización que casi todos reprueban
Hay algo brutalmente clarificador en el fraude con IA: funciona como un examen sorpresa de alfabetización tecnológica que la mayoría de la población reprueba sin saber que lo está rindiendo. Y reprobarlo cuesta dinero, a veces los ahorros de una vida.
La clonación de voz y el deepfake no son ya tecnologías de laboratorio. El informe más completo sobre el estado de la IA documenta que las herramientas de deepfake han mejorado significativamente desde las elecciones estadounidenses de 2020, al punto de volver “significativamente más fácil generar desinformación” a gran escala HAI AI-Index-Report-2024. Lo que el informe encuadra como amenaza a las instituciones democráticas tiene un gemelo doméstico, menos glamoroso y más cruel: la misma facilidad que permite fabricar un video falso de un candidato permite fabricar la voz de una madre pidiendo auxilio. La barrera de entrada colapsó. Ya no se necesita un estudio de grabación ni conocimientos de ingeniería de audio; basta una aplicación y una muestra de voz que cualquiera regala gratis cada vez que sube un video.
Marta Peirano lo advirtió con precisión incómoda: operaciones como el phishing “están disponibles en un mercado desregulado” y “la sociedad civil no dispone del conocimiento o de la capacidad necesaria para protegerse de estos ataques” El enemigo conoce el sistema. La frase es de 2019, antes de que los modelos generativos de consumo masivo estuvieran al alcance de cualquier estafador de barrio. El diagnóstico solo ha empeorado. La asimetría es total: del lado del atacante, herramientas cada vez más baratas y accesibles; del lado de la víctima potencial, una comprensión pública de la IA que oscila entre el pánico apocalíptico y la indiferencia, sin apenas terreno intermedio donde vivan las habilidades concretas de defensa.
Aquí conviene nombrar el movimiento que hace la industria de la “concientización”. La respuesta institucional dominante ante el fraude sintético consiste en campañas que repiten el mantra “no compartas tus datos” y “desconfía de mensajes sospechosos”. Ese consejo, formulado para la era del phishing por correo con faltas de ortografía, es peligrosamente obsoleto frente a una voz clonada que no tiene ningún error detectable. El estafador ya no comete los errores que las campañas enseñan a buscar. Decirle a alguien que “desconfíe de mensajes sospechosos” cuando el mensaje es la voz perfecta de su hija no es alfabetización: es una coartada institucional que traslada toda la responsabilidad a la víctima mientras la deja sin herramientas reales.
Por qué la desconfianza cultural es el vector, no un accidente
La tentación es leer la vulnerabilidad latinoamericana al fraude con IA como un problema de “atraso” tecnológico: si la gente supiera más de tecnología, no caería. Es una lectura que consuela a los expertos y culpa a las víctimas, y es equivocada en su premisa central. El fraude con IA no explota principalmente el desconocimiento técnico. Explota la confianza, y la confianza es un tejido cultural, no una deficiencia individual.
García Canclini planteó, contra su propia incomodidad, que la inteligencia artificial “tendrá competencia en la zona de los sentimientos” y que los bots “pulsarán cada vez más nuestros botones emocionales” para vendernos autos o políticos Ciudadanos reemplazados por algoritmos. Su observación describe la publicidad algorítmica, pero se aplica con más fuerza aún al fraude: la clonación de voz es exactamente eso, una máquina que pulsa el botón emocional más profundo que tenemos. Y en América Latina, donde las redes familiares extensas siguen siendo la principal estructura de apoyo económico y afectivo, donde es completamente normal que un pariente pida dinero prestado en una emergencia, ese botón está más expuesto que en sociedades atomizadas. La solidaridad familiar —una virtud, un valor que la región ha defendido frente a la mercantilización de todo— se convierte en superficie de ataque.
Esto obliga a repensar qué significa “alfabetizar” contra el fraude. No se trata de convertir a cada abuela en analista forense de audio. Se trata de instalar un reflejo cultural nuevo que conviva con el reflejo antiguo de la solidaridad: la verificación por segundo canal. La regla no es “desconfía de tu hija”, que es psicológicamente imposible y socialmente corrosiva. La regla es “cuando tu hija te pide dinero por un canal, confírmalo por otro”. Es un hábito, no un conocimiento técnico, y esa distinción lo cambia todo, porque los hábitos se pueden enseñar a poblaciones enteras sin necesidad de que entiendan cómo funciona una red neuronal.
La brecha, entonces, no es de inteligencia ni de educación formal. Es de exposición. Quien nunca ha visto un deepfake, quien nunca ha escuchado una voz clonada en un contexto seguro, no tiene manera de saber que tal cosa existe. La primera vez que la encuentre será en el momento del ataque, cuando el costo del aprendizaje es máximo. Toda la lógica de la alfabetización antifraude debería consistir en garantizar que la primera exposición ocurra en un aula comunitaria, en un spot de radio, en una conversación familiar —en cualquier lugar menos en la llamada del estafador.
La alfabetización forense: de la noción abstracta a la habilidad concreta
Si algo distingue a esta alfabetización de las conversaciones anteriores sobre “comprender la IA”, es su exigencia de concreción. No basta con que la gente entienda, en abstracto, que “la IA puede generar contenido falso”. Esa noción, por sí sola, produce paranoia paralizante o, peor, la respuesta cínica de que “nada es real, entonces da igual”. Lo que hace falta es lo que podríamos llamar una alfabetización forense: un conjunto acotado de habilidades verificables que cualquier persona, incluso con baja alfabetización digital, pueda ejecutar bajo presión.
¿Qué contiene ese repertorio? Primero, el conocimiento de que la voz y el video ya no son prueba de identidad. Este es el cambio conceptual más difícil y más importante, porque contradice toda una vida de experiencia sensorial. Durante milenios, reconocer una voz fue reconocer a una persona. Ese vínculo se rompió, y la mayoría de la población no ha recibido la noticia. Segundo, la práctica del segundo canal: la palabra clave familiar acordada de antemano, la llamada de vuelta al número guardado, la pregunta cuya respuesta solo conoce la persona real. Tercero, el reconocimiento de las señales de urgencia manufacturada —la presión temporal, el secreto exigido, el pago por canales irreversibles— que son el denominador común de casi todo fraude, sintético o no.
Nótese que ninguna de estas habilidades requiere entender la tecnología subyacente. Y ahí está la clave que las campañas técnicas suelen errar. La alfabetización forense antifraude no es una versión simplificada de un curso de machine learning; es una disciplina propia, más cercana a la educación vial o a la prevención sanitaria que a la informática. Nadie necesita entender termodinámica para aprender a no tocar una estufa caliente. Nadie necesita entender arquitecturas de redes generativas adversarias para aprender a colgar y llamar de vuelta.
Esto marca una distancia deliberada respecto de encuadres anteriores de esta publicación, donde argumentamos que la alfabetización en IA debe integrar comprensión crítica y ética por encima de las habilidades meramente técnicas. Ese argumento sigue siendo válido para el ciudadano que participa del debate público sobre gobernanza algorítmica. Pero frente al fraude, el orden se invierte: la habilidad concreta y ejecutable viene primero, y la comprensión crítica más profunda puede construirse después, sobre el andamiaje de un hábito que ya salva dinero. Empezar por la teoría con una población que está siendo activamente robada es un lujo que la urgencia no permite.
El mercado de la protección: quién puede pagar por no ser estafado
Existen, es cierto, herramientas técnicas de detección de deepfakes y de audio sintético. Pero es aquí donde el análisis debe volverse escéptico del poder comercial, porque la narrativa de “hay una app para eso” oculta una desigualdad brutal en quién puede acceder a esa protección.
Las soluciones de detección más robustas son productos corporativos, diseñados para bancos, aseguradoras y plataformas —no para el usuario individual, y mucho menos para el usuario individual de habla hispana o portuguesa. El propio informe de referencia sobre el estado de la IA documenta que la “equidad” del rendimiento de los modelos varía según el idioma, con diferencias medibles en la tokenización de lenguajes distintos del inglés HAI AI-Index-Report-2024. Traducido: las herramientas construidas y entrenadas predominantemente en inglés funcionan peor en español y aún peor en las variantes regionales, en el spanglish, en las lenguas indígenas, en el portugués brasileño con sus modismos. La detección automática de fraude hereda esa desventaja. El escudo, cuando existe, encaja mejor sobre el cuerpo del angloparlante rico que sobre el del hablante de quechua o de guaraní.
Y hay una ironía más profunda, casi perversa. La misma industria que vende las herramientas para generar voces clonadas y videos falsos vende también, o venderá pronto, las herramientas para detectarlos. Es el modelo de negocio del incendio y la manguera en la misma tienda. Depositar la esperanza de la protección ciudadana en un mercado que lucra por ambos lados de la ecuación es una ingenuidad que la región no puede permitirse. La detección técnica es un componente, no una solución. La solución de fondo, la única que no depende de comprarle algo a quien también le vende al estafador, es cognitiva: reside en la cabeza de las personas, no en sus dispositivos.
Esto no significa rechazar la tecnología de detección; significa negarse a que la protección se privatice, a que la seguridad frente al fraude sintético se vuelva un servicio premium para quien puede pagarlo mientras el resto queda expuesto. La alfabetización pública masiva es, en este sentido, la alternativa democrática al mercado de la protección. Es gratuita en su núcleo, escalable, y no puede ser desactivada por una actualización de precios.
Aplicando las lentes: disponibilidad y accesibilidad de la defensa
Conviene detenerse explícitamente en dos de las lentes con que esta publicación examina cualquier tecnología en la región, porque el caso del fraude con IA las tensa hasta el límite.
Disponibilidad. Las herramientas para cometer el fraude están ampliamente disponibles; las herramientas para defenderse, no. Esta asimetría es el hecho estructural central. Un estafador en cualquier ciudad latinoamericana puede acceder hoy, con una conexión a internet mediocre, a servicios de clonación de voz que funcionan razonablemente bien en español. La víctima potencial no tiene un equivalente accesible: no existe, para el usuario común hispanohablante, una app confiable, gratuita y en su idioma que le diga en tiempo real “esta voz es sintética”. La defensa técnica está disponible en los laboratorios y en los productos corporativos, pero no en el bolsillo de la persona que recibe la llamada. La disponibilidad de la ofensa supera con creces la disponibilidad de la defensa, y ningún programa de concientización puede prosperar ignorando ese desbalance material. Por eso la defensa tiene que trasladarse del terreno de la herramienta —donde perdemos— al terreno del hábito, donde podemos ganar sin depender de que la disponibilidad tecnológica se empareje.
Accesibilidad. Aun donde existan soluciones, su costo y su forma las hacen inaccesibles para quienes más las necesitan. Los servicios comerciales de verificación son caros y están orientados a empresas. Los servicios públicos de alerta —cuando existen— son limitados, urbanos, y suelen no llegar a las zonas rurales donde la población mayor, más aislada y con menor exposición previa a estas tecnologías, es más vulnerable. Consideremos las cifras del contexto regional: en Brasil, el país mejor posicionado de la región en el índice latinoamericano de IA con 72.4 sobre 100, el PIB per cápita ronda los 10.310 dólares Brasil — Plano Brasileiro de Inteligência Artificial 2024-2028; en México, 14.185 dólares México — Estrategia Nacional de IA; en Argentina, 13.969 dólares con un crecimiento del PIB de -1.3% en 2024 Argentina — Plan Nacional de Inteligencia Artificial. En economías donde el ingreso medio es una fracción del de los países donde se diseñan estas herramientas, pagar por un servicio de detección de fraude no es una opción realista para la inmensa mayoría. La accesibilidad no es un detalle secundario: es la variable que determina si una defensa existe en la práctica o solo en el folleto.
Estas dos lentes convergen en una conclusión política incómoda. Si la disponibilidad y la accesibilidad de la defensa técnica están estructuralmente desbalanceadas contra la población vulnerable, entonces confiar en soluciones de mercado equivale a aceptar que millones queden desprotegidos por diseño. La única defensa que es a la vez disponible y accesible para todos es la que se instala en la mente mediante educación pública. No requiere descarga, no requiere pago, no requiere cobertura de red. Requiere voluntad política y una infraestructura de comunicación que la región, notablemente, ya posee.
La radio, los nietos y la infraestructura que ya tenemos
Aquí aparece la lente de las alternativas, y con ella una nota de optimismo fundamentado. América Latina no parte de cero en materia de comunicación pública masiva. La región tiene una tradición formidable de campañas de salud pública, de educación cívica por radio, de comunicación comunitaria que llega donde no llega el mercado. Esa infraestructura —la radio rural, las cuñas televisivas, las redes de promotores de salud, las parroquias, las organizaciones de base— es precisamente el canal que la alfabetización antifraude necesita y que las soluciones tecnológicas por sí solas nunca alcanzarán.
Las campañas tradicionales de prevención no reemplazan la formación digital, pero tampoco la formación digital las vuelve obsoletas. Un spot de radio que dramatiza una llamada de fraude con voz clonada y termina con el mensaje “si te piden dinero con urgencia, cuelga y llama de vuelta al número que tú tienes guardado” hace más por la alfabetización real de una población rural que la app de detección más sofisticada que nadie de esa comunidad podrá pagar. La lección debe migrar del formato del experto al formato del vecindario, del lenguaje técnico al lenguaje del refrán y la anécdota.
Y hay un recurso que ninguna campaña oficial ha explotado suficientemente: los jóvenes como alfabetizadores de sus mayores. La transmisión intergeneracional de habilidades tecnológicas suele fluir hacia arriba en la familia —el nieto que le configura el teléfono a la abuela— y esa dinámica, en lugar de ser un chiste sobre la brecha digital, puede convertirse en la columna vertebral de la defensa comunitaria. Un adolescente que entiende qué es una voz clonada, que ha visto los videos, que reconoce el fenómeno, puede transferirle a su abuela no el conocimiento técnico sino el hábito protector, en el lenguaje de la confianza familiar que ninguna campaña estatal puede replicar. Esta es una forma de alfabetización distribuida, capilar, que aprovecha la misma red de afectos que el fraude intenta explotar. Donde el estafador usa el vínculo familiar como vector de ataque, la familia puede usarlo como vector de defensa.
Freire nos enseñó que la alfabetización auténtica no consiste en depositar información en un sujeto pasivo sino en habilitarlo para nombrar y transformar su mundo Pedagogía del oprimido. Aplicado al fraude sintético, esto significa que no basta con advertir a la gente —el modelo bancario, del experto que deposita alarmas en la cabeza del ciudadano asustado—. Hace falta que las personas comprendan el fenómeno lo suficiente como para reconocerlo por sí mismas en situaciones que nadie previó, para explicárselo a otros, para volverse agentes activos de su propia protección y la de su comunidad. La diferencia entre una población advertida y una población alfabetizada es exactamente la diferencia entre memorizar una lista de precauciones y comprender la lógica del engaño. La primera falla ante cualquier variante nueva del fraude; la segunda se adapta.
El contraargumento: ¿no estaremos fabricando desconfianza?
Sería deshonesto no considerar la objeción más seria. Una campaña masiva que enseñe a la gente a desconfiar de la voz de sus seres queridos, ¿no corre el riesgo de corroer el tejido de confianza que hace posible la vida social? ¿No estaremos, con la mejor intención, entrenando a una población para la paranoia, para la sospecha permanente, para tratar cada llamada de un hijo como un potencial fraude?
El riesgo es real y merece respeto. Una sociedad donde nadie puede confiar en su propia percepción es una sociedad enferma, y la tecnología del deepfake ya empuja en esa dirección con o sin campañas. Pero la respuesta no es ocultar la amenaza para preservar una confianza ingenua que el mercado del fraude ya está desmantelando de todos modos. La confianza ingenua no sobrevive; la única pregunta es si la reemplazará una desconfianza caótica y aterrorizada, o una confianza informada y con procedimientos.
La distinción es la misma que existe entre el miedo y la seguridad. Enseñar a un niño a mirar antes de cruzar la calle no lo vuelve un paranoico del tráfico; lo vuelve capaz de moverse por el mundo con más libertad, no menos. El hábito del segundo canal de verificación no es desconfianza de la familia: es un pequeño protocolo que, una vez interiorizado, permite seguir confiando sin quedar indefenso. La familia que acuerda una palabra clave no está desconfiando entre sí; está construyendo, precisamente, un lenguaje de confianza que el estafador no puede falsificar. Paradójicamente, es la alfabetización lo que permite preservar la confianza; es su ausencia lo que la entrega al terror.
Hay un segundo matiz que la honestidad exige. Ninguna alfabetización, por buena que sea, protegerá a todos. Habrá siempre personas —por edad avanzada, por deterioro cognitivo, por aislamiento extremo, por la sofisticación creciente del ataque— que caerán pese a todo. La alfabetización no es una vacuna con cien por ciento de eficacia. Pero ninguna vacuna lo es, y no por eso dejamos de vacunar. El objetivo no es la protección perfecta sino la reducción masiva de la superficie de ataque, elevar el costo y la dificultad del fraude hasta que deje de ser el negocio trivial que hoy es. Una población mayoritariamente alfabetizada convierte el fraude sintético de una epidemia en un problema manejable.
Anticipación: el currículo que la región aún no ha escrito
Llegamos a la última lente, la de la anticipación, y con ella a la pregunta que debería ocupar a quienes diseñan la política pública tecnológica de la región. Las estrategias nacionales de IA existen —el Plano Brasileiro de Inteligência Artificial 2024-2028 Brasil — Plano Brasileiro de Inteligência Artificial 2024-2028, la Estrategia Nacional renovada en México México — Estrategia Nacional de IA, el Plan Nacional de Inteligencia Artificial argentino Argentina — Plan Nacional de Inteligencia Artificial— pero su mirada está puesta abrumadoramente en la competitividad económica, el talento especializado y la infraestructura de cómputo. La alfabetización defensiva del ciudadano común, el que no producirá IA ni la usará profesionalmente pero será su blanco, ocupa un lugar marginal o inexistente en esos documentos.
Es una omisión estratégica de primer orden. La región está construyendo estrategias de IA que preparan a una élite para producir y competir, mientras deja a la mayoría de la población expuesta a la cara depredadora de la misma tecnología. Es como invertir en la industria automotriz sin invertir en educación vial: se multiplican los vehículos y se multiplican los muertos. Anticipar significa, aquí, reconocer que un currículo de alfabetización forense antifraude —diseñado no para el aula especializada sino para la población general, adaptado a la baja alfabetización digital, distribuido por los canales que ya llegan a todos— es tan parte de una estrategia nacional de IA como los centros de datos y los programas de talento.
Ese currículo no existe todavía, o existe apenas en pilotos aislados y en la buena voluntad de bancos que advierten a sus clientes por interés propio. Escribirlo, financiarlo y distribuirlo es la tarea que la evidencia de esta semana pone sobre la mesa. No es una tarea del sector educativo formal únicamente; es una tarea de comunicación pública, de política sanitaria del ecosistema informativo, de defensa civil cognitiva.
Quedan preguntas abiertas que la región tendrá que responder pronto, y no en abstracto. ¿Quién paga por esta alfabetización, si el mercado no tiene incentivo para producir un bien público que reduce sus propias ventas de detección? ¿Cómo se mide su eficacia, cuando el éxito se manifiesta como fraudes que no ocurrieron? ¿Cómo se actualiza un currículo defensivo a la velocidad a la que evolucionan las herramientas de ataque, para que no enseñe a detectar la generación pasada de deepfakes mientras la generación presente ya es indetectable a ojo? ¿Y cómo se protege a las poblaciones que hablan lenguas para las que ni siquiera las herramientas de detección corporativas funcionan, esas comunidades que quedan, por diseño lingüístico, en el último lugar de la fila de la protección?
La estafa que te habla con la voz de tu madre no es un problema del futuro. Está sonando ya en teléfonos de toda la región, y cada llamada exitosa es un examen de alfabetización que alguien reprobó porque nadie le enseñó que lo estaba rindiendo. Convertir esa alfabetización en un derecho público, accesible y masivo —el antivirus mental que se instala en la conversación familiar y en la cuña de radio antes que en cualquier app— no es un lujo académico. Es, en el sentido más literal, defensa civil. Y como toda defensa civil, se juzga no por lo elegante de su teoría sino por las víctimas que evita. La región tiene la infraestructura, tiene la tradición comunicativa, tiene los nietos dispuestos a enseñarles a sus abuelos. Lo que falta es decidir que la protección del ciudadano común frente a la cara depredadora de la IA importa tanto como la competitividad de su industria. Esa decisión, por ahora, sigue sin tomarse.