Alfabetizar contra la impotencia: la semana que mostró que la verdadera brecha no es de herramientas sino de criterio
Hay una escena que se repite y que conviene mirar de cerca antes de creerle. Una empresa de ciberseguridad publica un informe alarmante: las estafas con inteligencia artificial se dispararon un porcentaje espectacular en el último año. El dato circula por titulares, se convierte en tuit, se vuelve el gancho de una nota de servicio que termina—casi sin excepción—recomendando descargar, contratar o suscribirse a algo. La secuencia es tan limpia que uno debería sospechar por su propia limpieza. El miedo entra por una puerta y la venta sale por la otra, y en el medio queda el lector, informado de que el mundo es peligroso pero no de cómo pensar ese peligro. Esta semana ese guion se representó varias veces, con clonación de voz, deepfakes electorales y estafas personalizadas de por medio, y lo que quedó expuesto no fue tanto la sofisticación de las amenazas como la pobreza de las respuestas que se ofrecen para enfrentarlas.
La tesis que quiero defender es incómoda para la industria de la concientización: la brecha de alfabetización en IA que importa no es la que separa a quien tiene acceso a la herramienta de quien no lo tiene, ni siquiera la que separa a quien sabe operar un modelo de quien no sabe. Es la que separa a quien puede preguntarse quién produce esta información, con qué interés y qué alternativas existen de quien recibe el pánico ya digerido y actúa sobre él. Alfabetizar en IA, si la palabra ha de significar algo más que un curso de supervivencia frente a estafadores, es enseñar a leer el poder detrás de la salida—no solo la salida.
El dato que viaja solo
Empecemos por el número, porque el número es el vehículo. Cuando un informe corporativo afirma que las estafas potenciadas por IA crecieron un 148% o cualquier cifra de esa magnitud, lo primero que un lector alfabetizado debería exigir es la metodología: ¿medido cómo, sobre qué base, con qué definición de “estafa con IA”, comparado contra qué línea previa? La mayoría de estos informes no publican el dato crudo ni el método; publican la conclusión y el logo. La cifra viaja sola, desprendida de su origen, y esa orfandad metodológica es precisamente lo que la hace tan viajera: sin el lastre de la evidencia, vuela.
Meredith Broussard describió con precisión esta dinámica cuando insistió en ser “más honestos y realistas sobre lo que entra en la tecnología y lo que se necesita para mantenerla funcionando” Artificial Unintelligence - How Computers Misunderstand. La observación se aplica igual a los informes sobre la tecnología: rara vez somos honestos sobre lo que entra en un dato de amenaza. Kate Crawford lo nombró de otro modo cuando escribió que se nos invita a “concentrarnos en la naturaleza innovadora del método en lugar de en lo que es primario: el propósito de la cosa misma” The Atlas of AI - Power, Politics, and the Planetary Costs. El propósito de la cosa misma, en el caso de un informe de amenazas, no siempre es informar. A menudo es vender el antídoto.
Esto no significa que las estafas con IA no existan o no crezcan. Existen y crecen, y la clonación de voz—usar un fragmento de audio para sintetizar la voz de un familiar y pedir dinero urgente—es una amenaza real y verificable. El punto es otro y más fino: la alfabetización en IA no consiste en creer o descreer del número, sino en tener el reflejo de preguntar de dónde salió y a quién beneficia que yo lo crea. Un lector que descarga una aplicación porque un informe lo asustó no está más alfabetizado que antes; está más asustado y más suscrito. La diferencia entre esos dos estados es exactamente el terreno donde debería operar una alfabetización que se tome en serio.
La estafa de la “persona responsable”
El segundo movimiento del guion es igual de predecible y más dañino. Cuando la amenaza ya está instalada, la solución que se propone casi siempre recae sobre el individuo: sé más cuidadoso, verifica antes de transferir, establece una palabra clave con tu familia, no confíes en llamadas urgentes. Todos consejos sensatos. Todos, también, una redistribución de la responsabilidad hacia abajo, hacia la víctima potencial, y lejos del sistema que hizo la estafa posible y barata.
Porque la pregunta que el enfoque del “usuario responsable” nunca hace es por qué es tan fácil clonar una voz en primer lugar. Las herramientas de síntesis de voz que hacen posible el fraude fueron construidas, entrenadas y distribuidas por empresas que capturaron audio a escala planetaria, muchas veces sin consentimiento significativo. Crawford documenta cómo la infraestructura de la IA descansa sobre “trabajo no visto” y extracción en cada etapa de la cadena, “desde el sector minero, donde se extraen recursos, hasta el lado del software” The Atlas of AI - Power, Politics, and the Planetary Costs. La estafa no es un accidente del sistema; es un subproducto de un diseño que priorizó la capacidad de generación sobre cualquier salvaguarda. Cargarle al abuelo que recibió la llamada la responsabilidad de no caer es, en el mejor de los casos, ingenuo, y en el peor, una operación ideológica que protege a quien diseñó la vulnerabilidad.
Aquí conviene ser explícito sobre qué reclama realmente el discurso del usuario responsable cuando se lo despoja de su envoltura de sentido común. Reclama que el problema es tu ignorancia, no su producto. Que la solución es tu vigilancia, no su regulación. Que si te estafan, fallaste tú. Esta es la mistificación central que una alfabetización en IA digna del nombre tiene que desmontar: la que convierte una falla estructural de diseño y responsabilidad corporativa en un déficit de atención personal. García Canclini vio venir esta lógica cuando advirtió que los bots “pulsarán cada vez más nuestros botones emocionales para vendernos autos o políticos” Ciudadanos reemplazados por algoritmos; la estafa emocional y la venta emocional comparten arquitectura. Y la alfabetización que solo enseña a esquivar la estafa individual, sin nombrar la arquitectura, deja el botón intacto.
Alfabetizar no es detectar deepfakes
Existe una versión tecnológica de la alfabetización en IA que merece escrutinio propio porque suena progresista y es, en el fondo, una trampa. Es la que promete que el problema de los deepfakes se resuelve con mejores detectores de deepfakes, que la desinformación sintética se combate con clasificadores, que a la máquina que miente se le opone la máquina que descubre la mentira. Es una carrera armamentística disfrazada de educación cívica.
El problema es doble. Primero, técnico: la detección va siempre un paso atrás de la generación, porque cada detector entrena, involuntariamente, al próximo generador para evadirlo. Segundo, y más grave, pedagógico: delegar el juicio en un detector es lo contrario de alfabetizar. Un ciudadano que necesita una aplicación para saber si un video es falso no desarrolló criterio; adquirió una dependencia más, y una que puede fallar, ser capturada o simplemente no estar disponible cuando la necesita. La alfabetización crítica que hace falta no es un mejor detector de deepfakes: es el hábito de preguntar, ante cualquier contenido incendiario, quién gana si yo creo esto y lo comparto.
García Canclini describió cómo el “acompañamiento algorítmico de nuestra existencia” convierte a la inteligencia artificial en “una forma de superyó dotado en todo momento de la intuición de la verdad” que orienta el curso de nuestras acciones Ciudadanos reemplazados por algoritmos. Es una imagen precisa del peligro: cuando delegamos en la máquina no solo la generación de contenido sino también su verificación, le entregamos la función de decidir qué es verdad. El detector de deepfakes se convierte en el oráculo, y el oráculo—como todo oráculo—es un dispositivo de poder que decide en nombre de quien lo consulta. Una alfabetización que multiplica oráculos en lugar de cultivar juicio no alfabetiza: sustituye una dependencia por otra.
El contraste con el modelo dominante de nuestras propias piezas previas es deliberado. En análisis anteriores esta publicación trató la alfabetización en IA sobre todo como preparación de la fuerza laboral y como integración curricular, discutiendo si la IA era aliada o enemiga del pensamiento crítico. El delta de esta semana es que el problema no está en si la herramienta ayuda o estorba, sino en que el propio marco de “aprender a usar la herramienta” y “aprender a detectar el engaño” es insuficiente. La evidencia de la semana—informes que venden, soluciones que dependen, responsabilidades que caen hacia abajo—muestra que la alfabetización en IA es antes que nada una disputa por el relato y por el poder, no un catálogo de destrezas.
La concientización que vigila
Hay una torsión adicional que la semana dejó a la vista y que merece nombrarse sin eufemismos: no toda campaña de concientización sobre amenazas de IA es lo que dice ser. Algunas son, en su diseño operativo, campañas de recolección de datos y de expansión de vigilancia. La lógica es conocida: para “protegerte” de las estafas, la plataforma necesita analizar tus comunicaciones, escanear tus llamadas, monitorear tus mensajes. La protección se ofrece a cambio de acceso, y el acceso es el negocio.
Shoshana Zuboff dio nombre a este intercambio: la protección prometida es el anzuelo, la extracción de datos es la captura. La retórica de la seguridad es especialmente eficaz porque desactiva la resistencia—¿quién va a oponerse a estar más seguro?—y porque enmarca el monitoreo como servicio. Aquí la alfabetización en IA tiene que hacer un trabajo particularmente delgado: distinguir cuándo una herramienta de seguridad genuinamente protege y cuándo es un caballo de Troya que convierte al usuario asustado en fuente de datos. La distinción no es siempre obvia, y esa dificultad es precisamente por qué el reflejo crítico—preguntar qué se lleva la herramienta a cambio de lo que da—es más valioso que cualquier lista de “señales de una estafa”.
Broussard señaló que unos pocos proyectos en periodismo y en la academia sugieren “una visión más equilibrada de la IA en el horizonte”, y citó instituciones dedicadas a escrutar el poder tecnológico como el AI Now Institute Artificial Unintelligence - How Computers Misunderstand. Ese es el modelo de alfabetización que hace falta: uno que trate a la IA no como fuerza natural ante la cual solo cabe adaptarse, sino como conjunto de decisiones humanas—corporativas, políticas, económicas—que pueden escrutarse, criticarse y, cuando corresponde, rechazarse. La alfabetización como escrutinio del poder, no como manual de autodefensa. La diferencia es la que hay entre un ciudadano y un consumidor asustado.
El costo latinoamericano de la impotencia enseñada
Conviene ahora aterrizar todo esto en la región, porque la lógica del pánico-que-vende y de la responsabilidad-que-cae tiene consecuencias específicas y desiguales en América Latina, y aquí las lentes de disponibilidad y accesibilidad hacen trabajo real.
Disponibilidad. Las herramientas de “protección contra IA” que se promueven en los informes de amenazas—detectores, monitores, servicios premium de verificación—están mayoritariamente diseñadas para mercados del norte, en inglés, con modelos de suscripción cuyo precio en dólares resulta desproporcionado frente a los ingresos locales. Un servicio de veinte dólares mensuales es trivial en San Francisco y significativo en un país donde el PIB per cápita ronda los 14.000 dólares anuales, como en Argentina Argentina (Argentina), o los 5.500, como en El Salvador El Salvador (El Salvador). La “solución” que el informe recomienda no está, en la práctica, disponible para la mayoría de los lectores a quienes asusta. Se les vende el miedo en moneda universal y el remedio en dólares. Esta asimetría convierte a la alfabetización tecnológica—la de “descarga esto”—en un privilegio, mientras que la alfabetización crítica—la del reflejo de preguntar—no cuesta suscripción y funciona sin conexión. La segunda es, materialmente, la más democrática de las dos.
Accesibilidad. Pero incluso la alfabetización crítica gratuita enfrenta barreras de acceso desigual. Los detectores de deepfakes y las herramientas de verificación funcionan peor con voces, rostros y contextos no anglosajones, porque fueron entrenados con datos que subrepresentan a la región. Un deepfake en español rioplatense o en portugués brasileño puede pasar filtros calibrados para el inglés estadounidense. Esto significa que la promesa tecnológica—“deja que la máquina detecte por ti”—es aún más vacía en América Latina que en el norte, porque la máquina detecta peor aquí. La consecuencia es contundente: la región no puede permitirse depender de detectores; tiene que invertir en criterio. Donde la herramienta falla más, el juicio humano vale más. La accesibilidad desigual de la solución tecnológica no es un argumento para lamentarse; es un argumento para redoblar la apuesta por la alfabetización que no depende de la herramienta.
Hay una dimensión política en esto que no conviene esquivar. México renovó su Estrategia Nacional de IA bajo la administración actual México (Mexico) y Argentina cuenta con un Plan Nacional de Inteligencia Artificial Argentina (Argentina); estos instrumentos tienden a concentrarse en fomentar la adopción y la competitividad, y mucho menos en formar ciudadanos capaces de escrutar críticamente el ecosistema que adoptan. Una política de IA que impulsa el uso sin impulsar el criterio produce usuarios cautivos, no ciudadanos alfabetizados. La región, si quiere anticipar en lugar de reaccionar, tendría que incorporar la alfabetización crítica—la del escrutinio del poder—como componente explícito de sus estrategias, no como añadido de concientización sobre estafas.
El deepfake electoral y la disputa por el relato
La semana también trajo el uso de deepfakes en contextos de campaña, y es aquí donde la apuesta se vuelve más alta, porque lo que está en juego no es una transferencia bancaria sino la formación de la voluntad política. Un video sintético de un candidato diciendo lo que nunca dijo, difundido en el momento preciso, puede mover una elección antes de que cualquier verificación lo desmienta—y en América Latina, con procesos electorales frecuentes y polarizados, el terreno es especialmente fértil.
La respuesta tecnológica—detectar el deepfake, etiquetarlo, removerlo—es necesaria pero insuficiente por las razones ya dichas: llega tarde, funciona peor en nuestros idiomas y contextos, y delega el juicio en un oráculo. La respuesta que la alfabetización crítica propone es otra y opera antes: cultivar en la ciudadanía el hábito de no reaccionar visceralmente a un contenido incendiario, de preguntar por la fuente, de esperar la confirmación, de sospechar precisamente de aquello que confirma con demasiada perfección lo que uno ya quería creer. Los deepfakes electorales no funcionan porque sean técnicamente indetectables; funcionan porque explotan el sesgo de confirmación de audiencias que quieren creer. La vacuna no es el detector: es el lector que reconoce su propio deseo de creer y desconfía de él.
García Canclini nombró la incomodidad de aceptar que la IA tendría “competencia en la zona de los sentimientos” Ciudadanos reemplazados por algoritmos. El deepfake electoral es exactamente eso: una máquina que compite en la zona de los sentimientos, que produce indignación o entusiasmo a demanda. Y contra una máquina que manipula sentimientos, un detector que analiza píxeles es una defensa de segundo orden. La defensa de primer orden es un ciudadano que sabe que sus sentimientos son manipulables y actúa en consecuencia. Esa es una competencia de alfabetización, no una función de software—y es, crucialmente, la única que no puede comprarse ni suscribirse.
El contraargumento honesto
Sería deshonesto no considerar la objeción más fuerte contra todo lo anterior. Alguien podría decir: está muy bien exigir criterio, escrutinio y hábitos críticos, pero la mayoría de la gente no tiene tiempo, formación ni interés para desarrollarlos, y mientras tanto las estafas ocurren y arruinan vidas reales. Frente a una amenaza inmediata, un detector imperfecto o un consejo de “usuario responsable” es mejor que un llamado abstracto a la formación del juicio. La alfabetización crítica es un proyecto de largo plazo; las estafas son de esta tarde.
La objeción es seria y merece una respuesta que no la desestime. Es verdad que ante una amenaza inmediata las medidas prácticas—establecer una palabra clave familiar, desconfiar de las urgencias, verificar por un canal alternativo—salvan a personas concretas hoy, y nadie debería despreciarlas. El error no está en dar esos consejos; está en presentarlos como la totalidad de la alfabetización en IA, en dejar que el consejo táctico ocupe todo el espacio que debería compartir con el escrutinio estructural. Se puede—y se debe—hacer ambas cosas: enseñar la palabra clave familiar y preguntar por qué clonar una voz es tan fácil y barato; recomendar la verificación por canal alternativo y señalar que el informe que difunde el pánico también vende la solución. La alfabetización crítica no reemplaza la defensa práctica; la enmarca, la contextualiza y le impide convertirse en coartada del sistema que produce la amenaza.
Hay además un punto de dignidad en juego. Tratar a las personas como incapaces de desarrollar criterio—como sujetos que solo pueden ser protegidos por herramientas y advertidos por expertos—es, en sí mismo, una forma de la impotencia que este ensayo denuncia. Freire distinguió entre la pedagogía que deposita información en un sujeto pasivo y la que forma un sujeto capaz de nombrar el mundo Pedagogía del oprimido. La alfabetización en IA que solo protege y advierte deposita miedo en un sujeto pasivo. La que forma criterio confía en que las personas pueden nombrar—y por lo tanto disputar—el mundo saturado de IA en el que viven. Esa confianza no es ingenuidad; es la premisa mínima de cualquier proyecto que se llame educativo sin traicionar la palabra.
Alternativas materiales y una anticipación
La lente de las alternativas exige preguntarse qué se puede hacer concretamente, más allá del diagnóstico. Aquí la propuesta es doble. En lo individual, cultivar el reflejo crítico como práctica cotidiana: ante cada contenido que asusta, entusiasma o indigna en exceso, detenerse a preguntar quién lo produce, con qué interés y qué gana si lo comparto. Es un hábito, no una compra, y se transmite en conversaciones familiares, en medios comunitarios, en cualquier espacio donde alguien insista en la pregunta antes que en la reacción. En lo colectivo, apoyar el periodismo y los proyectos independientes que escrutan el poder tecnológico—del tipo que Broussard identifica como la visión más equilibrada en el horizonte Artificial Unintelligence - How Computers Misunderstand—en lugar de depender de los informes corporativos que confunden concientización con marketing.
La lente de la anticipación cierra el arco. La región tiene una ventana para decidir qué modelo de alfabetización en IA quiere construir antes de que el modelo dominante—el del pánico que vende y la responsabilidad que cae hacia abajo—se sedimente como sentido común. Las estrategias nacionales de IA de México México (Mexico) y Argentina Argentina (Argentina), y las agendas digitales de países más pequeños como El Salvador El Salvador (El Salvador), podrían incorporar la alfabetización crítica—escrutinio del poder, lectura de intereses, formación del juicio—como política pública explícita, no como campaña esporádica de concientización sobre estafas. La diferencia es la que separa a una ciudadanía capaz de disputar el relato de la IA de una población entrenada para tener miedo y comprar remedios.
Cierre: la brecha que importa
Vuelvo a la escena del comienzo, ahora con las herramientas para leerla. El informe que asusta y vende, el consejo que responsabiliza a la víctima, el detector que promete resolver lo que solo el juicio puede enfrentar, la campaña de concientización que resulta ser de vigilancia: los cuatro comparten una operación de fondo, que es enseñar impotencia. Todos le dicen al lector, de un modo u otro, que el mundo de la IA es un peligro ante el cual solo cabe protegerse comprando, delegando o desconfiando de sí mismo. Ninguno le dice que puede entender, escrutar y disputar ese mundo.
La verdadera brecha de alfabetización en IA no es de herramientas. No es tener o no tener acceso al detector, al asistente, al servicio premium. Es de criterio: tener o no tener la capacidad de discernir el papel de la IA en la vida social, de preguntar quién produce la información y con qué interés, de reconocer la mistificación cuando el pánico llega envuelto en oferta comercial. Esa capacidad no se compra ni se suscribe, y por eso mismo es la más igualitaria de las alfabetizaciones posibles en una región de ingresos desiguales—y, no por casualidad, la que la industria del miedo tiene menos incentivos para promover.
Quedan preguntas abiertas que la semana no resolvió y que la región tendrá que enfrentar. ¿Cómo se enseña criterio a escala sin convertirlo en otro producto? ¿Quién financia una alfabetización que, por diseño, socava el modelo de negocio de quienes venden miedo? ¿Puede una política pública de IA impulsar simultáneamente la adopción y el escrutinio crítico de esa misma adopción, o hay ahí una contradicción que ninguna estrategia nacional querrá nombrar? No tengo respuestas cerradas, y desconfiaría de quien las ofreciera con demasiada perfección—que es, después de todo, la desconfianza que este ensayo entero ha querido cultivar. Lo que sí queda claro es dónde poner la energía: no en el próximo detector, sino en el próximo lector capaz de preguntar. La alfabetización contra la impotencia empieza ahí, en la restitución de una pregunta que el pánico organizado quisiera que dejáramos de hacer.