Quién verifica cuando nadie puede ver

Hay una promesa incrustada en cada guía de “cómo detectar contenido falso” que circula esta semana, y conviene nombrarla antes de creerla: la promesa de que mirar mejor basta. Que si el lector afina el ojo, revisa la textura de la piel en un video, cuenta los dedos en una mano generada, escucha las pausas antinaturales en una voz clonada, entonces recuperará el control sobre lo que es verdad. Es una promesa reconfortante porque devuelve la agencia al individuo: no estás indefenso, solo necesitas entrenarte. Y es una promesa falsa, porque la propia evidencia técnica que acompaña a esas guías la desmiente en la misma página.

Los detectores automáticos de contenido sintético —las herramientas construidas por especialistas, con acceso a los modelos, con presupuesto— aciertan alrededor de la mitad de las veces frente a material de alta calidad, un rendimiento que en la práctica es indistinguible de lanzar una moneda Deepfake detection tools tested by Which? offered a false sense of security. Las personas comunes, sometidas a pruebas controladas, identifican deepfakes de buena factura casi al azar Humans struggle to detect high-quality deepfakes, study finds. Si los expertos con máquinas empatan con la moneda y los ciudadanos apenas superan el azar, la instrucción “aprende a detectar” no es alfabetización: es una tarea imposible disfrazada de responsabilidad personal.

Esta es la tensión que la semana pone sobre la mesa. No es que las guías de detección sean inútiles porque los artefactos visuales se vuelven obsoletos —ese argumento ya lo hicimos, y era sobre la carrera armamentista técnica. La tensión de hoy es más incómoda: aun suponiendo que la detección funcionara, el marco entero está mal formulado. Cuando la percepción individual falla de manera estructural y comprobada, la pregunta alfabetizadora deja de ser cómo noto el falso y pasa a ser otra, más difícil de responder y más difícil de vender: quién conserva el deber de verificar cuando ya nadie puede ver.

El consejo que no se transfiere

Tome cualquiera de las listas que circulan y léala con atención a su lógica interna. “Revisa la URL antes de hacer clic.” “Si un familiar te pide dinero por audio, cuelga y llámalo tú.” “Usa PayPal en vez de transferencias irreversibles.” “Desconfía de la urgencia.” Cada ítem es razonable. Ninguno es transferible.

Un consejo es transferible cuando enseña un principio que el lector puede aplicar a un caso que la lista no anticipó. “Revisa la URL” no hace eso: enseña una acción para un canal específico —el correo o el mensaje con enlace— que no dice nada sobre la llamada telefónica, sobre el video en el grupo familiar, sobre el mensaje de voz que suena exactamente como tu hija. La lista funciona para el caso que describe y se apaga en el siguiente. Es lo contrario de lo que la palabra “alfabetización” promete: la alfabetización lectora sirve para textos que el maestro nunca vio; esta supuesta alfabetización sirve solo para el ejemplo del folleto.

El problema no es la calidad de cada consejo sino el género al que pertenecen. Son ítems, no juicio. Y el juicio —la capacidad de enfrentar una situación novedosa con criterios que se sostienen fuera del ejemplo— no se transfiere por enumeración. Paulo Freire nombró esta diferencia hace medio siglo cuando distinguió la educación bancaria, que “deposita” contenidos en un receptor pasivo, de la educación que forma la capacidad de “leer el mundo” Pedagogía del oprimido. La lista de detección es educación bancaria en su forma más pura: deposita cinco ítems y espera que el ciudadano los devuelva intactos cuando el examen —la estafa real— llegue con preguntas que no estaban en el temario.

Lo revelador es que las propias fuentes de la semana admiten, sin decirlo con estas palabras, que la enumeración no alcanza. Cuando una guía recomienda “acordar una palabra secreta con tu familia” para autenticar llamadas de emergencia How to protect yourself from AI voice cloning scams, está confesando que la detección perceptual ya se rindió: si tuvieras que fiarte de tu oído, no necesitarías una contraseña. La contraseña es el reconocimiento de que la voz clonada es indistinguible, de que el canal sensorial está comprometido, y de que la única defensa es un protocolo previo, acordado entre humanos, ajeno por completo a la agudeza individual. Es un buen consejo precisamente porque abandona el marco de “aprende a notar el falso”. Pero se ofrece dentro de ese marco, como si fuera un ítem más de la lista, cuando en realidad lo derriba.

La verificación se muda a la fuente de la duda

Si la percepción no basta y los ítems no se transfieren, ¿a dónde va el ciudadano a verificar? La respuesta que la industria ofrece esta semana tiene una circularidad que merece nombrarse en voz alta: a los mismos sistemas generativos que producen la duda.

El movimiento es explícito. Las plataformas promueven que el usuario pregunte al chatbot si una imagen es real, que use el asistente para “chequear hechos”, que trate la salida del modelo como una instancia de verificación. Y al mismo tiempo —a veces en la misma interfaz— el material advierte que estos sistemas no deben usarse para decisiones importantes, que pueden “alucinar”, que no sustituyen el criterio humano. La evidencia sobre si esto ayuda o daña es, siendo generosos, mixta: algunos estudios muestran que los asistentes pueden mejorar la evaluación de afirmaciones, otros muestran que aumentan la confianza del usuario sin aumentar su acierto, produciendo el peor resultado posible —más certeza sobre conclusiones erróneas Can AI help people detect misinformation? It’s complicated.

Lo que interesa aquí no es resolver ese debate empírico sino ver el gesto de poder que la circularidad ejecuta. Quien controla la infraestructura de generación se ofrece también como infraestructura de verificación. Es como si la fábrica que imprime billetes falsos abriera, en la vereda de enfrente, la oficina que certifica cuáles billetes son legítimos. La confianza que se retira de la percepción individual no se distribuye democráticamente: se concentra en el proveedor del sistema. Y ese proveedor tiene un incentivo estructural que el usuario rara vez considera: cuanto más se erosiona la confianza general en lo que uno ve y oye, más indispensable se vuelve el árbitro que promete restaurarla.

García Canclini vio la forma de este vínculo antes de que tuviera nombre técnico. La asimetría, escribió, está en que los algoritmos son opacos mientras nuestros datos son transparentes, y esa desigualdad “pone en duda nuestra capacidad de desempeñarnos como ciudadanos” Ciudadanos reemplazados por algoritmos. Cuando el ciudadano delega la verificación en el sistema que no puede inspeccionar, la ciudadanía no se ejerce: se subcontrata. Y se subcontrata precisamente al actor con menos incentivo para que la duda se disuelva del todo.

Este es el punto donde la alfabetización en IA tiene que reencuadrarse por completo. Mientras el objetivo sea “detectar el fake”, el ciudadano trabaja gratis para un sistema que lo supera y luego, al fracasar, corre a pedir ayuda al dueño de ese mismo sistema. La pregunta alfabetizadora no es cómo verifico. Es quién debería estar obligado a verificar antes de que el contenido llegue a mí, y qué autoridad le estoy concediendo, sin darme cuenta, a la salida de un chatbot cuando la trato como veredicto.

La autoridad indebida de la salida

Hay una operación silenciosa en el corazón de todo esto que la alfabetización debería enseñar a ver: la salida de un sistema generativo llega con una autoridad que nadie le otorgó explícitamente y que no está justificada por su funcionamiento.

Cuando un modelo responde “esta imagen parece generada por IA” o “esta afirmación es falsa”, produce una oración con la misma gramática de certeza que usaría un perito, un juez o un editor. Pero detrás de esa oración no hay un perito: hay una estimación de probabilidad sobre secuencias de tokens, calibrada para sonar segura porque la fluidez es lo que el sistema optimiza. La confianza del tono no correlaciona con la exactitud del contenido. Meredith Broussard llamó a esta tendencia general a atribuir capacidades inexistentes a las máquinas una forma de “unintelligence artificial”, el error de leer la sofisticación de la salida como evidencia de comprensión Artificial Unintelligence - How Computers Misunderstand. El ciudadano que trata la respuesta del chatbot como veredicto comete exactamente ese error, y las interfaces están diseñadas para inducirlo.

Alfabetizarse, entonces, significa aprender a preguntar de cada salida: ¿qué se está reclamando realmente aquí, y quién respondería si el reclamo es falso? Cuando un perito humano firma un dictamen, pone su nombre, su licencia y su responsabilidad legal detrás de la afirmación. Cuando un chatbot afirma lo mismo, no hay firma, no hay licencia, no hay nadie que responda —los términos de servicio se aseguraron de eso de antemano. La autoridad de la salida es, literalmente, una autoridad sin responsable. Y una afirmación sin responsable no es un veredicto: es una opinión con buena dicción.

Esta es la dimensión cívica de la alfabetización que las guías de detección no tocan, porque tocarla arruinaría el negocio. Enseñar a un ciudadano a exigir un responsable detrás de cada afirmación con pretensión de verdad lo convierte en un lector peligroso para cualquier sistema que produce afirmaciones sin responsables a escala industrial. La lista de cinco ítems es segura para el proveedor porque mantiene al ciudadano mirando la textura de la piel en el video. La pregunta “quién responde por esto” es peligrosa porque devuelve la mirada hacia arriba, hacia la estructura, hacia quien posee la infraestructura y decide qué autoridad se le concede.

“Los latinos son más vulnerables”: una exposición sin mecanismo

Aparece esta semana, como aparece cada vez que el tema toca a nuestras comunidades, la frase de cuidado: las audiencias latinas serían “más vulnerables” a la desinformación y a las estafas mediadas por IA Latinos are especially vulnerable to AI-generated disinformation, experts warn. La frase suena protectora. Es, leída con rigor, una etiqueta que describe una exposición sin nombrar jamás su mecanismo, y esa omisión hace trabajo político.

Porque “vulnerable” es un adjetivo que se pega a las personas, no a las condiciones. Dicho así, suena como un rasgo de la audiencia: los latinos serían, por alguna propiedad interna —menos educación, menos inglés, más credulidad—, más fáciles de engañar. Es la misma estructura de razonamiento que Freire criticaba cuando la pedagogía bancaria trata al oprimido como un recipiente deficitario que hay que llenar, en vez de preguntar qué relación produjo el déficit Pedagogía de la autonomía. La etiqueta de vulnerabilidad, aplicada a un pueblo, culpabiliza a la víctima con lenguaje de compasión.

¿Cuál es el mecanismo que la frase no nombra? Es enteramente estructural, y una vez enunciado desaparece la sensación de rasgo interno. Las plataformas moderan contenido en español y en portugués con una fracción de los recursos que dedican al inglés; los sistemas de verificación de hechos cubren el material en inglés antes y mejor; los canales donde circula la desinformación hacia comunidades latinas —WhatsApp, cadenas familiares cerradas, radios comunitarias— son precisamente los menos auditados por diseño. La “vulnerabilidad” no está en la audiencia: está en la asignación desigual de la infraestructura de verificación. El latino no es más crédulo; está peor protegido, y quien lo desprotege es una decisión de inversión de la plataforma, no un rasgo del usuario.

Nombrar el mecanismo cambia por completo la conclusión alfabetizadora. Si el problema es la vulnerabilidad de la audiencia, la solución es capacitar a la audiencia —más folletos, más listas, más “aprende a detectar”. Si el problema es la desinversión en moderación e infraestructura de verificación en español, la solución es exigir a la plataforma que iguale la protección entre idiomas, y exigir al Estado que lo haga cumplir. La primera lectura descarga la responsabilidad hacia abajo, sobre el ciudadano latinoamericano ya sobrecargado. La segunda la sube hacia donde vive el poder de decisión. Alfabetizarse es saber distinguir cuál de las dos lecturas te están vendiendo y por qué.

El costo humano que la palabra “autónomo” esconde

Hay una capa más profunda que la alfabetización cívica debería alcanzar, y la semana la ofrece si uno junta las piezas. La misma máquina que se presenta como árbitro de la verdad, como sistema “inteligente” capaz de verificar contenido, es en realidad una cadena de trabajo humano cuya invisibilidad es parte del diseño.

Detrás de cada modelo que “detecta” desinformación hay personas que etiquetaron millones de ejemplos, que moderaron el contenido más tóxico de internet para que el sistema aprendiera a reconocerlo, que transcribieron, categorizaron y limpiaron los datos —mucho de ese trabajo subcontratado en el Sur global, incluida América Latina, con pago por tarea y sin las protecciones que el trabajo tendría si se contara como lo que es. Kate Crawford documentó cómo este “trabajo no visto toma muchas formas —trabajo de cadena de suministro, crowdwork bajo demanda, y empleos tradicionales de la industria de servicios”, presentes en cada etapa del pipeline de IA The Atlas of AI - Power, Politics, and the Planetary Costs. La autoridad epistémica que le concedemos al sistema —su supuesta capacidad de saber qué es verdad— descansa sobre juicios humanos precarizados que la interfaz borra por completo.

Esto tiene una consecuencia alfabetizadora directa que rara vez se hace explícita. Cuando el ciudadano trata la salida del verificador automático como veredicto imparcial, no solo le concede autoridad indebida a una estimación de probabilidad: naturaliza el borrado del trabajo que la produjo. La misma investigación de crowdwork que Crawford cita observa que los clientes esperan “completar el trabajo de manera barata, ‘sin fricción’, sin supervisión, como si la plataforma no fuera una interfaz hacia” personas reales The Atlas of AI - Power, Politics, and the Planetary Costs. “Sin fricción” es exactamente cómo se siente preguntarle a un chatbot si algo es cierto: instantáneo, gratuito, aparentemente sin costo humano. La fricción existe; solo que ocurre en un centro de etiquetado que el usuario nunca verá, pagado a tarifas locales sin prestaciones.

La alfabetización en IA que se detiene en “detecta el fake” jamás llega hasta aquí, y esa es su función ideológica. Mantiene la conversación en la superficie perceptual —¿es real esta imagen?— para que nunca descienda a la pregunta estructural —¿quién trabajó, en qué condiciones, para construir el sistema que ahora me dice qué es real, y por qué debería confiar en la neutralidad de ese sistema si su propia producción está atravesada por la desigualdad? Ver la IA como relación laboral antes que como logro de ingeniería no es un desvío político del tema de la alfabetización. Es el fondo del tema. La autoridad de la máquina es la autoridad acumulada, y luego blanqueada, del trabajo humano que la sostiene.

El contraargumento honesto

Hay que darle su peso a la objeción más fuerte, porque existe y no es tonta. Dirá alguien: está muy bien reencuadrar la alfabetización hacia el poder y la responsabilidad estructural, pero mientras esa reestructuración no ocurra, el ciudadano concreto sigue recibiendo el audio de su hija pidiendo dinero esta noche. Los consejos, aunque no se transfieran perfectamente, salvan a personas reales de estafas reales hoy. Decirle a alguien “el problema es estructural” cuando está a punto de transferir dinero a un secuestrador ficticio es una abstracción cruel. La palabra secreta familiar, aunque confiese la derrota de la percepción, funciona. ¿No es esto dejar que lo perfecto sea enemigo de lo bueno?

La objeción es válida y hay que concederle lo suyo: sí, los protocolos concretos protegen, y ninguna crítica estructural debe usarse como excusa para dejar al ciudadano sin defensa inmediata. Un ensayo que despreciara la palabra secreta familiar porque “no ataca la raíz” sería exactamente la clase de purismo estéril que critica.

Pero la concesión tiene un límite, y el límite es este: lo bueno inmediato solo se opone a lo estructural cuando se presenta como suficiente. El problema nunca fue que existan consejos; el problema es el marco que ofrece los consejos en lugar de la responsabilidad estructural, que gasta el presupuesto público y la atención cívica en enseñar a la gente a mirar mejor mientras deja intacta la desinversión de las plataformas en moderación en español, la ausencia de responsables detrás de las salidas automáticas, y la precariedad de la cadena de trabajo. La palabra secreta familiar es un buen parche. El error es tratar los parches como política. Un ciudadano puede acordar una contraseña con su familia esta noche y exigir mañana que la plataforma iguale su protección entre idiomas; las dos cosas no compiten salvo cuando alguien decide que la primera basta para no hacer la segunda. La alfabetización afilada sostiene ambas a la vez y sabe cuál es el parche y cuál es la política.

Dos lentes sobre la realidad de la región

Aplicabilidad. Conviene bajar esto a lo concreto latinoamericano, porque la abstracción del “sistema verificador” oculta quién lo consume aquí. Los bancos que despliegan chatbots de atención, los medios que usan verificadores automáticos, las oficinas de gobierno que adoptan asistentes para trámites —todos ellos financian, sin auditarla, una cadena de suministro epistémico y laboral cuyos supuestos heredan. México, con exportaciones de alta tecnología que ya alcanzan el 19,3% de su manufactura y una Estrategia Nacional de IA renovada México — perfil país, datos 2024, es un consumidor institucional de estos sistemas a escala. Argentina, con su Plan Nacional de Inteligencia Artificial y un ILIA de 67,5 sobre 100 Argentina — perfil país, datos 2024, integra verificación automatizada en servicios públicos. La pregunta alfabetizadora para el ciudadano de estos países no es solo si sabe detectar un deepfake: es si su banco, su periódico y su ministerio saben quién responde cuando el sistema que compraron afirma algo falso sobre él —y si exigieron, al comprarlo, trazabilidad sobre el trabajo que lo entrenó. Casi ninguno lo hizo. La aplicabilidad realista es que la infraestructura de verificación llega a la región ya empaquetada, con sus supuestos y sus borrados incluidos, y el consumo institucional los importa sin inventario.

Alternativas. Contra el fatalismo de “la máquina decide y nadie responde”, vale registrar que existen formas concretas de reponer al responsable. Registros públicos de la cadena de suministro laboral de la IA, que obliguen al proveedor a declarar dónde y en qué condiciones se etiquetaron sus datos. Cláusulas de derechos del trabajador y de trazabilidad en la contratación estatal de sistemas de IA —el Estado como el mayor comprador de la región tiene un poder de mercado que rara vez ejerce en esta dirección. Cooperativas de datos y de etiquetado con salarios declarados, pequeñas frente al volumen pero capaces de fijar el estándar de lo que es exigible. Y una exigencia regulatoria de paridad de moderación entre idiomas, que convierta la “vulnerabilidad” latina de rasgo compasivo en obligación auditable de la plataforma. Ninguna de estas alternativas cabe en una lista de cinco ítems para el ciudadano, porque ninguna es una acción individual: todas reparten responsabilidad hacia arriba, hacia donde vive la decisión. Esa es, exactamente, la marca de la alfabetización que la semana nos pide construir en lugar de la que nos ofrece.

Lo que queda abierto

La alfabetización en IA cruzó esta semana un umbral que sus propios materiales delatan: la detección individual dejó de ser un objetivo alcanzable, y sin embargo se sigue vendiendo como el corazón del oficio. Cuando los expertos con máquinas empatan con la moneda Deepfake detection tools tested by Which? offered a false sense of security y los ciudadanos apenas superan el azar Humans struggle to detect high-quality deepfakes, study finds, insistir en “aprende a notar el falso” no es enseñar: es transferir una carga imposible al eslabón más débil y llamarlo empoderamiento.

El desplazamiento que este ensayo propuso no es un tecnicismo. Es un cambio de sujeto de la pregunta. De cómo detecto a quién debe verificar. De soy lo bastante astuto a quién responde por esta afirmación. De los latinos son vulnerables a quién decidió invertir menos en protegerlos. De el sistema es inteligente a quién trabajó, y en qué condiciones, para que pareciera inteligente. Cada uno de esos giros mueve la mirada desde el individuo sobrecargado hacia la estructura con poder de decisión, y esa reorientación es, contra todo el marketing de la industria, el contenido real de la alfabetización.

Quedan preguntas abiertas que la región tendrá que responder pronto, antes de que la subcontratación precaria y la delegación epistémica se consoliden como norma irreversible. ¿Puede un Estado latinoamericano exigir trazabilidad laboral a un proveedor de IA extranjero cuya cadena de suministro es deliberadamente opaca? ¿Qué autoridad tiene la salida de un chatbot en un tribunal, en una redacción, en una oficina pública, y quién está fijando esa respuesta mientras nadie mira? ¿Puede construirse una alfabetización que no dependa de la buena voluntad de la plataforma —una que le enseñe al ciudadano a exigir un responsable en vez de a mirar mejor la piel de un video?

Y la más incómoda, la que atraviesa todas las demás: si verificar cada afirmación que nos llega es imposible para el individuo, y delegar la verificación en el sistema que produce la duda es entregarse a su árbitro interesado, entonces la única salida es política —repartir el deber de verificar entre instituciones que respondan, no acumular tips en la cabeza de quien menos poder tiene. La pregunta del título no era retórica. Cuando nadie puede ver, alguien tiene que quedar obligado a verificar. Decidir quién es ese alguien —y negarse a que sea, por descarte y por diseño, el ciudadano latinoamericano solo frente a su pantalla— es la tarea alfabetizadora de esta década.