La era del engaño sintético: cuando la ola se adelanta a la respuesta

La semana dejó una imagen incómoda. Una voz clonada llama a una familia, imita a un hijo, y vacía una cuenta bancaria en minutos. Un video falso de un candidato circula en la segunda vuelta colombiana mientras el MinTIC monitorea desde arriba. Lo barato no es solo producir el engaño: lo barato es producir la duda. Y desmentirla cuesta caro.

Leído a través del marco de Alvin Toffler, este no es un problema de fraude. Es un síntoma de velocidad. Toffler distinguía entre el ruido del cambio —cosas que se reorganizan dentro de una misma época— y la transición estructural, el paso de una ola a otra. Las estafas telefónicas existen desde que existe el teléfono. Los rumores electorales, desde que existe la política. Lo que cambió esta semana no es la existencia del engaño. Es su costo, su escala y su velocidad. Y ahí, para el marco toffleriano, empieza lo verdaderamente diagnosticable.

La velocidad como el hecho central, no el engaño

Toffler construyó su obra sobre una idea sencilla y perturbadora. El problema no es que las cosas cambien. El problema es a qué ritmo cambian. Cuando el ritmo del cambio supera la capacidad humana de procesarlo, se produce lo que llamó future shock —el shock del futuro—: la sensación de mareo, parálisis y desorientación de quien recibe demasiado cambio en demasiado poco tiempo. No es una metáfora blanda. Es un diagnóstico sobre la brecha entre la velocidad de un fenómeno y la velocidad de la respuesta.

Apliquemos esa lente al engaño sintético. Durante siglos, falsificar una voz humana convincente fue imposible. Falsificar un video convincente fue, durante décadas, tarea de estudios de cine con presupuestos enormes. La escasez misma de la falsificación era una defensa. Costaba tanto engañar que el engaño era raro, y por ser raro, sospechoso.

Esa defensa desapareció. El AI Index de Stanford lo documenta con una frialdad reveladora: se ha vuelto “significativamente más fácil generar tal desinformación. Además, las herramientas de deepfake han mejorado significativamente desde las elecciones estadounidenses de 2020”, según el HAI_AI-Index-Report-2024. No es que apareció una tecnología nueva. Es que una tecnología que existía cruzó un umbral de costo y calidad. Cruzó de “posible pero caro” a “trivial y barato”.

El mismo reporte pone número al asunto. Describe un sistema completo de desinformación —un artículo falso atribuido a un periodista inventado, comentarios generados por IA que simulan participación orgánica, respuestas automáticas en redes sociales— que costó armar “alrededor de 400 dólares”, según el HAI_AI-Index-Report-2024. Cuatrocientos dólares para fabricar una realidad paralela con apariencia de organismo vivo. Ese número es el hecho toffleriano de la semana. No la falsedad. El precio de la falsedad.

Toffler distinguiría aquí con cuidado. La existencia de mentiras electorales es ruido dentro de la ola: la política siempre mintió. Pero el colapso del costo de producir mentiras indistinguibles de la verdad —eso es transición estructural. Cambia la arquitectura misma de cómo una sociedad decide qué es real. Cambia la ola.

Cuando la brecha adaptativa se convierte en el negocio

El fenómeno de la semana tiene una asimetría que el marco toffleriano ilumina como pocos. Producir el engaño es instantáneo y barato. Desmentirlo es lento y caro. Esa asimetría no es un accidente. Es la brecha adaptativa convertida en modelo de negocio.

Pensemos en cómo funciona la respuesta institucional. Un banco descubre un patrón de estafas por voz clonada. Debe verificar, documentar, alertar a clientes, rediseñar protocolos de autenticación, capacitar a su personal. Semanas, meses. Un tribunal electoral que enfrenta un deepfake debe convocar peritos, contrastar fuentes, emitir un comunicado —y para cuando lo emite, el clip ya circuló durante días. El AI Index describe exactamente este mecanismo: cuando “el comentario de los medios y los políticos está restringido, la difusión del clip no fue fácilmente contestada”, y su circulación amplia se vio favorecida por un vacío en la política de contenido de Meta que “no aplica a manipulaciones de audio”, según el HAI_AI-Index-Report-2024. El episodio, remata el reporte, ocurrió “en el contexto de una contienda electoral cerrada”.

Traduzcamos esto a lenguaje toffleriano. El productor del engaño opera a la velocidad de la Tercera Ola —la ola del conocimiento, donde la información se genera y se mueve a velocidad de máquina. El verificador opera a la velocidad de la Segunda Ola —la ola industrial, con sus procedimientos, sus jerarquías, sus tiempos de deliberación. La estafa se genera en segundos. La institución responde en semanas. Entre esos dos relojes hay un abismo, y ese abismo es precisamente donde el engaño hace su trabajo.

Toffler llamaría a esto una crisis de sincronización. Dos sistemas que deberían acoplarse corren a velocidades incompatibles. Y quien entiende esa incompatibilidad la explota. La frase del fenómeno de la semana lo captura con precisión quirúrgica: quien controla la duda, controla la decisión. Porque no hace falta que el engaño convenza. Basta con que la duda dure lo suficiente. Basta con que el desmentido llegue tarde. La brecha de velocidad es el arma.

El shock que no vemos: la erosión de la verificación como facultad

Aquí el marco toffleriano se vuelve más profundo, y menos cómodo. El future shock no es solo el mareo del individuo abrumado. Es el colapso de las estructuras que una sociedad usa para procesar la realidad. Y la estructura que colapsa esta semana es la más básica de todas: la capacidad de distinguir lo auténtico de lo fabricado.

En After shock —un libro que actualiza las preocupaciones tofflerianas para el presente digital— se nombra este daño con claridad. El problema no es solo la mala información. Es algo más hondo: los “desafíos a nuestra capacidad de discernir qué es auténtico impactan fundamentalmente nuestra comprensión del mundo y del futuro”, según After shock. Fíjese en la palabra: fundamentalmente. No es que nos equivoquemos más. Es que la facultad misma de discernir se erosiona.

Esto es lo que un análisis apresurado se pierde. La conversación pública trata el deepfake como un problema de contenido: este video es falso, aquel audio está manipulado, hay que etiquetarlos. Pero el daño toffleriano no está en cada pieza falsa individual. Está en el efecto acumulado sobre la confianza. Cuando cualquier cosa puede ser falsa, entonces cualquier cosa puede ser negada como falsa. El video real de un funcionario corrupto se descarta como deepfake. La grabación auténtica de una amenaza se desestima como voz clonada. La duda, una vez generalizada, corroe por igual lo verdadero y lo falso.

After shock describe el mecanismo social que agrava esto: “mientras los políticos predican más xenofobia, los influencers online persiguen vistas, y los medios curan el sensacionalismo, nosotros la gente somos asaltados por lo falso a nuestro alrededor. Y a veces reflexivamente lo creamos nosotros mismos a través de lo que compartimos online”, según After shock. El punto es incómodo y honesto: no somos víctimas pasivas del engaño. Participamos en su difusión. Compartimos antes de verificar. La velocidad nos convierte en cómplices.

Toffler diría que esto es lo que pasa cuando el cambio supera la adaptación. No desarrollamos, como sociedad, los hábitos de verificación que la nueva ola exige. Seguimos operando con los reflejos de una época donde ver era creer. Y esos reflejos, en la era del engaño sintético, son exactamente el punto de entrada del ataque.

América Latina y la respuesta que confunde la ola

El fenómeno de la semana tiene una dimensión regional que el marco toffleriano hace visible con particular filo. La respuesta institucional latinoamericana —el monitoreo del MinTIC durante la segunda vuelta colombiana como ejemplo— tiende hacia la vigilancia técnica. Detectar, monitorear, rastrear. Es una respuesta de la Segunda Ola a un problema de la Tercera.

¿Por qué importa la distinción? Porque la vigilancia técnica trata el engaño sintético como un problema de detección. Como si bastara con un mejor algoritmo para cazar deepfakes. Pero el marco toffleriano sugiere que ese enfoque corre siempre por detrás. El detector persigue al generador, y el generador siempre va un paso adelante, porque generar es más barato que detectar. Es la brecha adaptativa otra vez, ahora disfrazada de solución.

Lo que la respuesta técnica omite es la dimensión social del shock. Toffler insistía en que las transiciones entre olas no se resuelven con más tecnología, sino con nuevas estructuras adaptativas —nuevas instituciones, nuevos hábitos, nuevas formas de organización que corren a la velocidad de la ola entrante. Aplicado aquí: la crisis de verificación no se resuelve monitoreando desde arriba. Se resuelve construyendo, en la sociedad amplia, la capacidad de sostener la duda sin quedar paralizada por ella. La verificación como facultad ciudadana, no como servicio de vigilancia.

Aquí conviene despojar la jerga del poder. Cuando una institución propone “monitoreo” y “detección técnica” como respuesta a los deepfakes electorales, está reclamando algo concreto: el derecho a decidir qué es verdad desde arriba. Y ese reclamo, aunque se venda como protección, concentra poder. Quien controla el detector controla el veredicto. En una crisis de confianza, entregar el veredicto a la autoridad no restaura la confianza —la reubica. La ciudadanía que no puede verificar por sí misma queda dependiente de que le digan qué creer.

El marco toffleriano no es ingenuo respecto a esto. La transición de ola redistribuye poder. En After shock se describe el afán empresarial de construir “personas” —categorías que describen a grandes grupos de gente “en términos de sus creencias, pasiones y motivaciones, no importa cuán mundanas o inesperadas”—, según After shock. Esa maquinaria de perfilamiento es la misma que alimenta la producción de engaños dirigidos. Se conoce a la gente para persuadirla, y ahora también para engañarla a medida. La Tercera Ola no solo produce falsificaciones baratas. Produce falsificaciones personalizadas.

Y el perfilamiento tiene un costo humano oculto que el marco no debería silenciar. The Atlas of AI recuerda que detrás de los sistemas que producen y clasifican esta información hay trabajo escondido: “mineros, trabajadores en barcos, click workers que etiquetan conjuntos de datos, todo al servicio de la acumulación de capital por muy pocas personas”, según The Atlas of AI - Power, Politics, and the Planetary Costs. La ola del conocimiento no flota sobre el aire. Se apoya en trabajo mal pagado e invisible. Cualquier diagnóstico toffleriano honesto de esta transición debe incluir a quienes la cargan sobre sus espaldas sin cabalgarla.

Quién cabalga la ola y quién la sufre

El marco toffleriano siempre hace la misma pregunta filosa: en toda transición de ola, ¿quién la cabalga y quién sufre el shock? El engaño sintético reparte estos papeles de forma cruel.

Cabalga la ola quien produce el engaño. El estafador con voz clonada, el operador político con deepfakes, la fábrica de desinformación de 400 dólares. Todos ellos operan a la velocidad de la nueva ola, aprovechando la brecha. Sufren el shock los demás: la familia que recibe la llamada de un hijo que no es su hijo, el votante que no sabe si el video es real, el banco que descubre el fraude cuando el dinero ya se fue.

Pero hay una asimetría dentro de la asimetría. AI Ethics señala que “algunos usuarios de la IA son más vulnerables que otros”, y que las teorías sobre privacidad y explotación suelen asumir un usuario “autónomo, relativamente joven, sano, adulto, con plenas capacidades mentales”, según AI Ethics - The MIT Press Essential Knowledge series. El engaño sintético no golpea parejo. Golpea más fuerte a quien tiene menos herramientas para dudar: el adulto mayor que confía en la voz de su nieto, la persona con menos alfabetización digital, la comunidad con menos acceso a fuentes que verifiquen. La ola no reparte el shock democráticamente. Lo concentra donde ya hay vulnerabilidad.

Esto le da al análisis una dirección ética clara. La respuesta al engaño sintético que solo protege al usuario ideal —joven, conectado, escéptico por hábito— falla precisamente a quienes más lo necesitan. Y la respuesta que centraliza la verificación en la autoridad falla a la ciudadanía entera, porque reemplaza la facultad de dudar por la obligación de obedecer al que dice la verdad.

The Atlas of AI nombra el gesto profundo que hace posible todo esto: la IA depende de “reducir las cosas a un conjunto escueto de formalismos basados en proxies: identificar y nombrar algunos rasgos mientras se ignoran o esconden innumerables otros”, según The Atlas of AI - Power, Politics, and the Planetary Costs. Una voz clonada es exactamente eso: un puñado de rasgos acústicos capturados y reproducidos, mientras se ignora todo lo que hace que una voz sea de una persona real. La falsificación funciona porque reduce a la persona a sus proxies. Y funciona sobre quien no sabe que la persona es más que sus proxies.

La pregunta que el marco deja sobre la mesa

Toffler nunca prometió detener las olas. Su marco no es nostálgico. No pide volver a la Segunda Ola, ni fantasea con un mundo sin deepfakes. Lo que exige es que las estructuras adaptativas alcancen la velocidad del cambio antes de que el shock paralice. Y esa es la pregunta que el fenómeno de esta semana deja sobre la mesa, sin resolver.

La respuesta institucional latinoamericana apostó por la vigilancia técnica: detectar el engaño desde arriba. Pero el marco toffleriano sugiere que esa apuesta corre por el carril equivocado. No porque la detección sea inútil, sino porque trata la crisis como un problema de contenido cuando es un problema de velocidad y estructura. El detector siempre irá detrás del generador. La brecha adaptativa no se cierra con mejores algoritmos de caza.

Se cierra —si se cierra— construyendo en la sociedad amplia la capacidad de habitar la duda sin ahogarse en ella. Una ciudadanía que verifica por reflejo, que no comparte antes de contrastar, que sabe que ver ya no es creer y actúa en consecuencia. Eso no es una app. Es una estructura adaptativa social, y se construye despacio, con educación crítica y con instituciones que enseñen a dudar en lugar de dudar por nosotros.

Aquí está la tensión que el marco vuelve visible y que el interés del lector obliga a nombrar. Hay dos caminos para responder al engaño sintético. Uno concentra la verificación en la autoridad: monitoreo, detección, el Estado o la plataforma decidiendo qué es real. Ese camino es rápido de anunciar y cómodo para el poder, pero deja a la ciudadanía más dependiente, no más capaz. El otro distribuye la verificación en la sociedad: alfabetización crítica, hábitos ciudadanos, capacidad instalada de dudar. Ese camino es lento, incómodo, y no le regala poder a nadie desde arriba. Por eso mismo casi nunca es el que se elige.

El marco toffleriano no decide por nosotros. Pero sí ilumina lo que está en juego. Si la respuesta al colapso de la confianza es más vigilancia, entonces salimos de la crisis con una ciudadanía que confía menos en lo que ve y más en lo que la autoridad le dice que vea. Eso no es adaptación. Es rendición disfrazada de solución.

La pregunta, entonces, es esta: cuando la ola del engaño sintético llegue con toda su fuerza —y esta semana confirma que ya está llegando—, ¿América Latina va a construir la facultad de dudar en su gente, o va a delegar la duda en quien controle el detector? Porque el marco de Toffler es claro en una cosa. Quien controla la respuesta al shock, controla la sociedad que sale del shock. Y esa decisión, a diferencia del deepfake, no es barata de producir ni fácil de deshacer.