La estafa tiene tu voz

I. La pregunta de la semana

Durante tres años, la conversación latinoamericana sobre alfabetización en inteligencia artificial ha girado alrededor de una promesa luminosa: que aprender a manejar estas herramientas nos volverá más productivos, más empleables, más competitivos en un mercado que no espera a nadie. Es la promesa que animó a The Trust for the Americas y Microsoft lideran capacitaciones para reducir la brecha de habilidades en IA, la que sostiene que la IA sirve a La Inteligencia Artificial (IA) al servicio de la inclusion financiera, la que hoy convoca a jóvenes y a gestoras culturales a cursos de prompting. Pero hay una alfabetización más urgente y menos glamorosa que esa conversación ha nombrado poco: la que enseñaría a una abuela en Maracaibo a dudar de la voz de su nieto cuando esa voz —clonada por un algoritmo a partir de diez segundos de un audio de WhatsApp— le pide, entre sollozos, que transfiera dinero porque está en apuros.

Esa es la pregunta de esta semana. La alfabetización que el discurso celebra es la del uso; la que los ciudadanos vulnerables necesitan es la de la sospecha. Y entre una y otra se abre una distancia que ningún curso corporativo ha cerrado.

El arco que rastreamos —sesenta y siete artículos a lo largo de tres trimestres activos, sin un solo punto de inversión en el tono— muestra una retórica que oscila entre el optimismo de la capacitación y la alarma por el “nuevo analfabetismo”, pero que casi nunca aterriza en lo concreto: el fraude, la clonación de voz, el video falso, la suplantación del familiar. Esta entrega traza esa retórica contra lo que efectivamente ha venido pasando —la maquinaria del engaño perfeccionándose sobre los cuerpos más frágiles— y pregunta dónde la conversación protegió a alguien y dónde solamente lo administró. La respuesta, adelanto, no favorece a quienes venden a la vez la enfermedad y la cura.

II. Lo que hemos venido diciendo

La retórica regional sobre alfabetización en IA arrancó, en el primer trimestre de 2025, con el pie firme en el optimismo. El encuadre dominante era el de la habilitación: quien no aprenda quedará afuera. The Trust for the Americas y Microsoft lideran capacitaciones para reducir la brecha de habilidades en IA presentó la formación como un puente sobre la desigualdad; la Corporación Andina de Fomento celebró en La Inteligencia Artificial (IA) al servicio de la inclusion financiera la capacidad de los algoritmos para incorporar a los históricamente excluidos del sistema bancario; y hasta la política se dejó seducir por el vocabulario de la oportunidad en Democracia Artificial: navegando el impacto de la IA en la sociedad latinoamericana. Alfabetizar, en esa gramática inicial, significaba enseñar a usar. El verbo era transitivo y su objeto era una herramienta.

Conviene notar quién hablaba. Una parte considerable de esa retórica del empoderamiento provenía de los propios proveedores de la tecnología o de fundaciones asociadas a ellos. Cuando el mismo actor que fabrica el modelo ofrece el curso para comprenderlo, la alfabetización deja de ser una defensa del ciudadano y se convierte en una extensión del producto. Lo notamos en nuestro propio briefing del 2025-01-01, donde el análisis longitudinal de la alfabetización ya revelaba “un entramado de oportunidades y desafíos que requieren un enfoque crítico y multidimensional” —una fórmula que, leída con distancia, admitía que el optimismo venía cargado de letra pequeña.

Para el segundo trimestre, el péndulo retórico se movió. El encuadre crítico ganó terreno hasta empatar casi punto por punto con el celebratorio. Apareció un concepto que resumía la inquietud: el del Nuevo analfabetismo: cuando dejamos que la inteligencia artificial piense por nosotros, que invirtió la promesa inicial —“la verdadera alfabetización del futuro no es técnica, sino crítica. Saber cuándo confiar, cuestionar o rechazar a la inteligencia artificial será clave”—. La docencia entró al debate reclamando una pedagogia critica y actualizada, y la ciencia sumó su alarma cuando Mas de 4.000 cientificos revelan que nos espera con la Inteligencia Artificial. El foco, sin embargo, seguía puesto en un peligro cognitivo abstracto: la atrofia del pensamiento propio, la delegación del juicio, la desinformación como contaminación del ambiente informativo. El riesgo de la desinformación: IA y pensamiento crítico en entornos educativos y IA en educación: alucinaciones, riesgos y alfabetización crítica advirtieron, con razón, que “hay problemas que no se presentan con estridencia, sino con una apariencia impecable de normalidad”. Pero el problema que se nombraba era el del estudiante que copia una respuesta falsa, no el del jubilado que atiende una llamada envenenada.

Ahí está el hueco de la retórica. Aun cuando la conversación viró hacia la crítica, mantuvo su domicilio en el aula. La alfabetización crítica se pensó como una competencia escolar, una asignatura del currículo, un asunto de estudiantes y docentes. En el tercer trimestre, cuando por fin apareció el ciudadano mayor en el radar —Canal Senior impulsa el aprendizaje de inteligencia artificial mediante actividades abiertas y online—, se lo convocó a “comprender” la digitalización como “dimensión transversal”, no a defenderse de quienes usan esa digitalización como arma. Las voces que pedían reglas humanas o que veían en la educación una oportunidad para conectar aprendizaje y futuro compartían un punto ciego: hablaban de la IA como fuerza ambiental, difusa, sistémica, y muy poco como instrumento en manos de un estafador con un objetivo preciso y una víctima elegida.

Solo hacia el cierre del arco la retórica empezó a incomodarse con datos duros de temor ciudadano. En Argentina, 72% exige capacitar docentes y 77% teme perder pensamiento crítico: el miedo, medido, ya era mayoría. Pero incluso ese miedo se articuló en el lenguaje del pensamiento crítico y la formación docente, no en el de la protección frente al engaño. Dijimos mucho sobre aprender a pensar con la IA. Dijimos poquísimo sobre aprender a que no nos mientan con ella.

III. Lo que ha venido pasando

Mientras la conversación deliberaba sobre currículos, la realidad hacía otra cosa: perfeccionaba el engaño y elegía a sus víctimas. La primera constatación es material y precede a cualquier estafa: no todos llegan a la mesa en igualdad de condiciones. La nueva brecha digital: El lado oculto de la inteligencia artificial lo formuló sin rodeos —“su avance también está dejando atrás a millones. No se trata de falta de conexión o de dispositivos”—. La brecha ya no es de acceso, es de comprensión, y esa asimetría es precisamente el terreno donde el fraude prospera: quien no entiende que una voz puede fabricarse no tiene cómo desconfiar de ella.

La segunda constatación es que la IA aprendió a operar sobre los sentimientos, y ese es el músculo del fraude contemporáneo. Néstor García Canclini lo anticipó en Ciudadanos reemplazados por algoritmos (2019) con una pregunta que hoy suena a profecía cumplida: “¿No nos había dicho que la inteligencia artificial también tendrá competencia en la zona de los sentimientos y que los bots pulsarán cada vez más nuestros botones emocionales para vendernos autos o políticos?”. Cámbiese “autos o políticos” por “una transferencia urgente” y se tiene la anatomía exacta de la estafa del familiar en apuros: la máquina no hackea un sistema, hackea el amor de una madre. El engaño no explota una vulnerabilidad técnica sino un vínculo afectivo, y ninguna capacitación en prompting prepara para eso.

La tercera constatación es que la maquinaria del engaño tiene una historia previa y una lógica de mercado que la alfabetización festiva prefiere no mirar. Marta Peirano lo documentó en El enemigo conoce el sistema: la infraestructura digital que usamos fue diseñada para capturar atención y extraer datos, y esa misma arquitectura de persuasión y vigilancia es la que hoy alimenta la clonación de voces y los perfiles hiperpersonalizados del fraude. El estafador no inventa las herramientas; alquila las que la economía de la atención ya construyó. Cuando La inteligencia artificial y el control algoritmico de los derechos fundamentales advierte que “entender la forma con la que actualmente los algoritmos condicionan nuestras vidas es una materia extremadamente novedosa para el común de los ciudadanos”, describe exactamente la ventaja del atacante: opera sobre una población que no conoce el sistema que la rodea.

La cuarta constatación es que la vulnerabilidad no está distribuida al azar. Tarcízio Silva mostró en Racismo algorítmico: inteligência artificial e discriminação nas redes digitais (2022) cómo la incorporación de la IA “tem sido ampliada na segurança pública, mas também está presente em nossos celulares”, y cómo su peso recae de manera desigual sobre quienes “ya enfrentan la marginación”. El fraude sigue esa misma geografía: golpea con más fuerza donde hay menos alfabetización, menos redes de contención, menos posibilidad de recuperar lo perdido. La víctima ideal del deepfake no es un ingeniero de sistemas; es la persona mayor que aprendió a usar el teléfono para hablar con sus nietos y para nada más.

Frente a este panorama, hubo respuestas genuinas, y sería injusto no registrarlas. La inteligencia artificial utilizada como bien social en poblaciones subalternizadas exploró, desde la decolonialidad, cómo la tecnología puede servir a los más frágiles en lugar de depredarlos; PDF Inteligencia Artificial: una herramienta clave en la lucha contra la pobreza y la exclusión social apostó a los aspectos sociales de la herramienta; y El Sur Global ante el reto de reescribir la gobernanza de la inteligencia artificial recordó que “el desequilibrio en la distribución de los beneficios económicos podría institucionalizar una nueva variante de desigualdad digital”. Pero incluso estas respuestas nobles tienden a pensar la IA como recurso a repartir, no como amenaza de la cual defender. El dato que mejor cifra la desprotección viene del aula: El riesgo invisible de la IA en las aulas reporta que el 91% de los estudiantes ya usa estas herramientas mientras “el uso masivo abre paso a nuevas vulnerabilidades en seguridad”. Si el nativo digital está expuesto, imagínese quien nunca lo fue. La realidad, en suma, no esperó a que termináramos el debate pedagógico.

IV. Donde se encuentran, donde se pierden

Se encuentran en un diagnóstico compartido: todos, optimistas y críticos, coinciden en que la ciudadanía no entiende el sistema que la envuelve. La retórica de la capacitación y la retórica de la alarma parten del mismo hecho —la opacidad algorítmica— y de ahí extraen conclusiones opuestas. Los primeros dicen “enseñemos a usar”; los segundos, “enseñemos a desconfiar”. El arco de tres trimestres, con su empate casi perfecto entre encuadres positivos y negativos, es el registro de esa disputa sin ganador.

Se pierden, en cambio, en el sujeto. La conversación fijó su domicilio en el estudiante y el docente, mientras el fraude fijó el suyo en el anciano y el niño. Esa divergencia no es inocente. Alfabetizar al estudiante es rentable y visible: hay cursos, certificados, mercados laborales, fotos institucionales. Blindar a la abuela contra la voz clonada de su nieto no vende nada, no tiene certificado y no aparece en ningún reporte de responsabilidad corporativa. La alfabetización que el mercado premió es la que produce trabajadores; la que los ciudadanos vulnerables necesitan es la que produce escépticos, y el escepticismo no cotiza.

Aquí conviene ser directos, porque la columna no es neutral. Los mismos actores que financiaron buena parte de la retórica del empoderamiento —las grandes plataformas, sus fundaciones, sus programas de capacitación— son parte del ecosistema que hizo posible el fraude a escala. La infraestructura que clona una voz, que genera un rostro, que redacta un mensaje de phishing impecable en español rioplatense es la misma que se ofrece, en su versión luminosa, como oportunidad de inclusión. No se puede vender la cura sin reconocer la parte que se tuvo en la enfermedad. Y cuando UNESCO, en Think Critically Click Wisely, recuerda que “el caso de Cambridge Analytica ilustra cómo la curación de contenidos impulsada por IA puede impactar los sistemas democráticos”, nos está diciendo que la manipulación algorítmica de masas ya ocurrió una vez a plena luz —y que la respuesta educativa llegó, como siempre, tarde.

La verdadera alfabetización contra el fraude, entonces, no es una asignatura más. Es lo que Paulo Freire, en Pedagogía de la autonomía, llamaría una educación para la lectura crítica del mundo: no enseñar a operar la herramienta, sino a interrogar el poder que la maneja. Una abuela que ha sido enseñada a preguntar “¿por qué esta voz me pide dinero con tanta urgencia y por un canal que evita el contacto directo?” está más protegida que un ingeniero que domina cincuenta prompts pero jamás sospecha. La defensa no es técnica; es una disposición del juicio. Y esa disposición no se descarga: se cultiva, se conversa, se hereda en la mesa familiar y en la escuela pública, esos dos lugares que ningún proveedor puede facturar.

Donde el discurso y la realidad debieron encontrarse —en la protección concreta del más frágil— se perdieron en una conversación sobre productividad. Ese desencuentro es el verdadero costo del arco.

V. La perspectiva histórica

La historia de la alfabetización siempre fue la historia de un poder que se democratiza tarde y a regañadientes. Leer y escribir dejaron de ser privilegio del clero recién cuando la imprenta volvió imposible el monopolio; el desciframiento crítico de los medios llegó, como enseñó toda una tradición latinoamericana de pensar la comunicación desde las mediaciones, décadas después de que la televisión ya moldeara sensibilidades enteras. La alfabetización contra el fraude algorítmico está hoy en ese mismo retraso: la amenaza corre a la velocidad del modelo generativo y la defensa camina al paso del debate pedagógico. Entre una y otra, hay una abuela con el teléfono en la mano y una transferencia pendiente.

Lo que este arco de tres trimestres deja claro es que la región dedicó su mejor energía retórica a preparar trabajadores para la IA y su peor atención a preparar ciudadanos contra ella. Confundimos usar con entender, y entender con defenderse. La corrección no es un curso más: es decidir que la alfabetización que importa no es la que nos vuelve productivos para el sistema, sino la que nos vuelve indóciles frente a quien lo usa para engañarnos.