La confianza asesinada: cómo las estafas con IA erosionan el tejido social en América Latina

Suena el teléfono a las tres de la tarde. Del otro lado, una voz entrecortada: la de tu hija, la de tu hijo, la de tu nieto. Llora. Dice que tuvo un accidente, que lo secuestraron, que necesita dinero ahora mismo, que no cuelgues. Reconocés cada inflexión, cada muletilla, ese modo particular de arrastrar las vocales cuando está nervioso. No hay duda posible: es su voz. Salvo que no lo es. Es un modelo de síntesis de habla entrenado con treinta segundos de audio extraídos de un video de Instagram, ejecutado por alguien que nunca conoció a tu familia y que, sin embargo, sabe exactamente cómo hacerte temblar.

Ese es el fenómeno que quiero examinar esta semana, y quiero examinarlo sin la coartada tranquilizadora del “problema técnico”. Porque la tentación, frente a la clonación de voz y los deepfakes, es tratar el asunto como una cuestión de detección: mejores algoritmos que atrapen a los sintéticos, marcas de agua invisibles, herramientas que distingan lo real de lo fabricado. Esa conversación importa, pero desvía la mirada de lo que realmente se está destruyendo. Lo que la estafa con voz clonada ataca no es el bolsillo —aunque también el bolsillo— sino algo más costoso de reconstruir: el reflejo social que nos hace responder al llamado de auxilio de un ser querido. En regiones donde la familia y la ayuda mutua no son adorno retórico sino infraestructura de supervivencia, envenenar ese reflejo es un daño de otra categoría.

Lo que se roba no es solo dinero

Empecemos por dimensionar la amenaza sin exagerarla. Las herramientas de generación de desinformación sintética han mejorado de manera sustancial: el informe anual de Stanford registra que los sistemas de deepfake avanzaron considerablemente desde las elecciones estadounidenses de 2020 y que la desinformación a gran escala ahora es “significativamente más fácil de generar” HAI AI-Index-Report-2024. Ese salto técnico —de laboratorios que producían falsificaciones toscas a aplicaciones de consumo que clonan una voz con segundos de muestra— es el que traslada la capacidad de fraude desde actores estatales hacia el crimen organizado común y corriente.

Pero fijémonos en el objeto del daño. Cuando un banco pierde dinero por fraude, lo absorbe como costo operativo y lo distribuye. Cuando una persona pierde sus ahorros porque creyó escuchar la voz de su hijo pidiendo rescate, pierde dos cosas simultáneas: el capital y la certeza de que puede confiar en su propio oído. La segunda pérdida es la grave. Marta Peirano describió con precisión cómo operan las técnicas de manipulación en el mercado desregulado de la posverdad: el phishing y las operaciones de suplantación “están disponibles en un mercado desregulado” mientras “la sociedad civil no dispone de conocimiento o de la capacidad necesaria para protegerse de estos ataques” El enemigo conoce el sistema. La clonación de voz es la versión afectiva de ese phishing: ya no explota tu descuido con una contraseña, sino tu amor.

Néstor García Canclini anticipó esta dirección con una lucidez incómoda. Al comentar la promesa de que la inteligencia artificial tendría “competencia en la zona de los sentimientos” y que los bots “pulsarán cada vez más nuestros botones emocionales” para vendernos autos o políticos Ciudadanos reemplazados por algoritmos, señalaba un desplazamiento del terreno de disputa: de la información a la emoción. La estafa con voz materna es exactamente eso llevado a su conclusión criminal. No te vende un auto; te vende, durante noventa segundos de pánico, la certeza de que tu familiar está en peligro. Y esa certeza es la mercancía más eficaz jamás construida, porque viene precargada con toda la historia afectiva de una vida.

Por qué la región es un blanco particularmente blando

Sería un error tratar esto como una amenaza universal e indiferenciada. Las estafas con IA son altamente aplicables en América Latina por razones estructurales que conviene nombrar sin sentimentalismo. La primera es la centralidad real de los lazos familiares en la organización económica cotidiana. En sociedades donde las remesas, los préstamos entre parientes y la ayuda de emergencia familiar sustituyen al Estado de bienestar ausente, la petición súbita de dinero de un hijo no es sospechosa: es rutina. El estafador no necesita inventar una situación inverosímil; solo necesita activar un guion que la vida ya ensayó mil veces.

La segunda razón es la asimetría entre exposición tecnológica y penetración de las herramientas defensivas. México exporta 19,3% de manufacturas de alta tecnología Contexto país México, datos 2024 y ocupa el tercer lugar regional en el Índice Latinoamericano de Inteligencia Artificial, pero esa capacidad industrial y estatal no se traduce en protección para el adulto mayor de un barrio periférico que recibe la llamada. La infraestructura de IA de un país y la alfabetización de sus ciudadanos frente a la IA son dos cosas distintas, y la brecha entre ambas es donde el fraude encuentra su presa.

La tercera es la materia prima. Los estafadores no fabrican sus voces de la nada: cosechan audio de redes sociales, personalizan las llamadas con datos que las víctimas y sus familias publican sin sospecha. García Canclini ya advertía que las cuentas que diseminaron desinformación en campañas electorales “aún estaban activas” y que las operaciones de suplantación circulan en un mercado sin regulación Ciudadanos reemplazados por algoritmos. El deepfake de voz es el paso siguiente: ya no basta con difundir mentiras a la multitud; ahora se fabrica una mentira a medida, dirigida a una sola persona, construida con los fragmentos de vida que esa persona y sus seres queridos ofrecieron gratuitamente a las plataformas.

Aquí conviene resistir una simplificación cómoda. Es tentador culpar a la víctima —“cómo no se dio cuenta”— o culpar al usuario que subió el video de cumpleaños donde suena la voz del nieto. Pero esa culpabilización individual es precisamente la operación ideológica que hay que desarmar. El problema no es que la abuela sea ingenua; el problema es que un modelo de negocio construido sobre la extracción total de datos personales dejó a disposición del crimen un archivo sonoro de la humanidad entera. Zuboff nombró ese arreglo: la lógica de acumulación que convierte la experiencia humana en materia prima gratuita para predicción y modificación de conducta The Age of Surveillance Capitalism. La estafa con voz clonada es un subproducto criminal de esa acumulación. El delincuente que clona la voz de tu hija está aprovechando la infraestructura de vigilancia que una industria legal construyó primero.

El adulto mayor como frente principal

Las denuncias que circulan en México y Colombia sobre estafas con voces de hijos “secuestrados” ficticiamente comparten un patrón: la víctima preferente es la persona mayor, y no por azar. Hay una convergencia cruel de factores. El adulto mayor suele tener ahorros líquidos o acceso a ellos; suele estar solo en el momento de la llamada, sin nadie que interrumpa el pánico con una pregunta escéptica; suele tener una relación con la tecnología marcada por la desconfianza genérica pero sin las herramientas específicas para detectar una síntesis de voz; y, sobre todo, suele haber sido educado en una cultura donde no responder a un hijo en peligro es una falla moral impensable.

Ese último punto merece detenerse. La estafa no explota una debilidad cognitiva sino una fortaleza moral. La disposición a soltarlo todo por un hijo es lo mejor de una persona, y es exactamente lo que el fraude captura. Por eso el daño psicológico posterior es tan corrosivo: la víctima no solo perdió dinero, sino que descubrió que su amor —el vínculo que la definía— fue el vector del ataque. Muchos reportes describen a personas mayores que, tras ser estafadas, desarrollan una desconfianza generalizada hacia el teléfono, hacia las llamadas de sus propios familiares reales, hacia el impulso de ayudar. Ese repliegue es la verdadera transferencia de riqueza: no del bolsillo del anciano al del criminal, sino de la confianza colectiva al miedo individual.

Y aquí el daño se vuelve social, no meramente personal. Cuando el reflejo de auxilio se contamina de sospecha, algo se erosiona en el tejido de reciprocidad que sostiene a comunidades enteras. La solidaridad familiar y vecinal en América Latina no es un valor abstracto: es un sistema funcional de seguridad social informal que suple carencias del Estado. Introducir en ese sistema la duda permanente —”¿y si esta llamada de auxilio es falsa?”— es introducir un impuesto a la solidaridad. Cada segundo de vacilación ante un pedido de ayuda genuino es un costo que el fraude impone a toda la sociedad, incluso a quienes nunca fueron estafados directamente.

La detección técnica no va a salvarnos (sola)

Frente a esto, la respuesta dominante de la industria es la carrera armamentista de la detección: herramientas que identifiquen audio sintético, marcas de agua criptográficas, autenticación biométrica. Vale la pena mirar ese movimiento con escepticismo, no porque la detección sea inútil, sino porque la manera en que se la promociona reproduce una vieja ilusión: que un problema social causado por la tecnología se resuelve con más tecnología.

Primero, la asimetría estructural juega en contra de la detección. Generar es más barato que verificar. Cada avance en detección genera un avance correspondiente en generación, y el detector siempre corre detrás. El propio informe de Stanford documenta cómo los sistemas de generación de desinformación pueden orquestar cadenas completas —crear el contenido falso, generar comentarios que simulan interacción orgánica, distribuirlo automáticamente— sin intervención humana HAI AI-Index-Report-2024. Frente a esa automatización, una herramienta de detección que exige que el usuario copie y pegue un audio en una web, espere el análisis y lo interprete, es un anacronismo en el momento mismo del pánico. Nadie que crea escuchar a su hijo secuestrado va a abrir una aplicación de verificación forense.

Segundo, y más importante: la detección resuelve el problema en el registro equivocado. El daño no ocurre porque falte una herramienta; ocurre porque falta un hábito social. La pregunta relevante no es “¿cómo detecto que esta voz es sintética?” sino “¿qué protocolo compartido tiene mi familia para verificar una emergencia?”. Esa es una respuesta cultural y colectiva, no un producto. La palabra clave secreta acordada de antemano entre padres e hijos —la vieja contraseña familiar— es infinitamente más efectiva que cualquier detector, y no cuesta nada. Que la solución más robusta sea premoderna y gratuita debería hacernos sospechar del entusiasmo con que la industria empuja soluciones caras y propietarias.

Peirano insistía en que la sociedad civil carece del conocimiento necesario para protegerse El enemigo conoce el sistema, y ahí está el núcleo: el déficit no es de herramientas, es de alfabetización. Pero alfabetización entendida en un sentido preciso, no como capacitación técnica para operar software, sino como comprensión pública de qué es posible ahora, de qué guiones existen, de qué reflejos hay que reeducar. Es la diferencia entre entregarle a alguien un detector de mentiras y enseñarle a no soltar todo lo que tiene ante la primera voz que llore.

Las lentes: qué está disponible, para quién, y qué falta anticipar

Conviene aplicar aquí, de manera explícita, dos de las lentes con que esta publicación examina cada fenómeno en clave latinoamericana, porque revelan la forma exacta del abandono.

Disponibilidad y accesibilidad. Las herramientas de detección de deepfakes existen, pero examinemos para quién. La mayoría opera en inglés, con interfaces diseñadas para investigadores o periodistas, y las versiones comerciales robustas cobran suscripciones que ninguna persona mayor de ingresos medios va a pagar para protegerse de una amenaza que aún percibe como lejana. Los servicios públicos de alerta —líneas telefónicas, campañas de concientización— son limitados y, cuando existen, se concentran en zonas urbanas conectadas. El resultado es una distribución perversa: la protección está más disponible precisamente para quienes menos la necesitan, los usuarios jóvenes, urbanos, angloparlantes y tecnológicamente sofisticados, mientras que la víctima preferente —mayor, rural o periurbana, hispanohablante monolingüe, con relación de desconfianza genérica hacia la pantalla— queda fuera del alcance de toda defensa formal. La brecha de accesibilidad no es un detalle de implementación; es la forma que toma la desigualdad cuando se cruza con esta amenaza. En El Salvador, con un PIB per cápita de 5.579 dólares Contexto país El Salvador, datos 2024, la idea de que la defensa contra el fraude sea un producto de suscripción es, sencillamente, una ficción para la enorme mayoría de la población.

Anticipación. Esta es la lente más incómoda, porque señala una omisión activa. La región tiene estrategias nacionales de IA —Argentina con su Plan Nacional de Inteligencia Artificial Contexto país Argentina, datos 2024, México con su Estrategia Nacional renovada, El Salvador con su Agenda Digital 2020-2030— y esas estrategias hablan mucho de competitividad, de talento, de infraestructura de cómputo. Hablan poco o nada de alfabetización defensiva del público general frente a los usos criminales de estas tecnologías. Se planifica para producir IA y para adoptar IA en el sector productivo, pero no se planifica para proteger a la ciudadanía contra la IA convertida en arma de fraude afectivo. Esa omisión es reveladora: expone que el “público” imaginado por las políticas de IA es el trabajador productivo o el consumidor, no la abuela que recibe la llamada. Anticipar de verdad significaría construir currículos de alfabetización en detección de fraude dirigidos al público general —a través de la radio, de los centros de salud, de las iglesias, de las organizaciones de jubilados— y no solo a quienes pasan por una institución educativa formal. La formación digital contra el fraude tiene que salir del aula y entrar en la vida donde la vida ocurre.

Y aquí aparece la lente de las alternativas, que rescata lo que la fascinación tecnológica descarta demasiado rápido. Las campañas tradicionales de prevención —radio comunitaria, televisión, mensajería en centros de salud— no son reliquias a superar; son, para la población más expuesta, el canal más efectivo. Una cuña radial que explique en lenguaje llano que “si te llaman diciendo que secuestraron a tu hijo, colgá y llamá a tu hijo directamente” salva más ahorros que cualquier detector forense. La radio llega a la zona rural donde el detector nunca llegará. No se trata de elegir entre lo tradicional y lo digital, sino de reconocer que la solución de mayor cobertura para la víctima real es la de menor sofisticación técnica. La modernidad de la amenaza no exige una respuesta igualmente sofisticada; exige una respuesta que llegue.

El contraargumento honesto

Un lector escéptico podría objetar que estoy inflando el fenómeno. Las estafas telefónicas existen desde que existe el teléfono; el “cuento del tío”, el falso secuestro, la lotería inexistente son géneros venerables del crimen latinoamericano. ¿Qué agrega realmente la voz clonada, más allá de un tono más dramático? ¿No es esto simplemente una vieja estafa con maquillaje nuevo, y no merece el pánico de un ataque civilizatorio contra la confianza?

La objeción tiene mérito y conviene tomarla en serio. Es cierto que el fraude por suplantación es antiguo y que la respuesta humana —escepticismo, verificación, sentido común— también lo es. Pero hay un salto cualitativo que la continuidad aparente oculta. El “cuento del tío” clásico dependía de la habilidad actoral del estafador y de la ambigüedad de una voz desconocida que la víctima quería creer que era su familiar. La clonación de voz elimina esa ambigüedad: ya no hay que querer creer, porque la evidencia sensorial es completa. El oído, que era el último tribunal —“esa no es la voz de mi hijo”—, queda inhabilitado como defensa. Es la diferencia entre una falsificación que requiere tu complicidad y una que anula tu capacidad de discernir. Y esa diferencia escala: lo que antes exigía un estafador talentoso por víctima ahora puede automatizarse y dirigirse a miles simultáneamente con datos cosechados en masa.

Hay una segunda objeción, más de fondo: que enfatizar la destrucción de la confianza es alarmista, que las sociedades se adaptan, que la gente aprenderá a desconfiar de las llamadas del mismo modo que aprendió a desconfiar de los correos del príncipe nigeriano. Es posible. Pero esa adaptación tiene un costo que no deberíamos naturalizar. Aprender a desconfiar del auxilio no es una adaptación neutra; es una pérdida. Cada capa de sospecha que agregamos a nuestras interacciones más íntimas empobrece el tejido social. La adaptación existe, sí, pero la moneda con que se paga es la calidez de la vida en común. Que una sociedad pueda blindarse contra el fraude volviéndose colectivamente más fría y suspicaz no significa que ese sea el desenlace deseable ni el único posible.

La política de la culpa

Vale la pena, antes de cerrar, nombrar un movimiento retórico que veremos repetirse a medida que estos fraudes se generalicen: el desplazamiento de la responsabilidad hacia la víctima y hacia el usuario individual. “Educá a tus mayores.” “No subas videos con la voz de tus hijos.” “Verificá antes de actuar.” Todos consejos razonables en su superficie, y todos, en conjunto, una operación de descarga de responsabilidad desde las estructuras que hicieron posible el daño hacia los individuos que lo sufren.

Porque la pregunta que ese discurso evita es: ¿quién construyó el archivo sonoro de la humanidad que el crimen ahora saquea? ¿Quién diseñó plataformas que incentivan publicar cada momento de la vida familiar? ¿Quién comercializa herramientas de clonación de voz sin ninguna verificación de propósito legítimo? ¿Quién regula —o más bien no regula— el mercado desregulado que Peirano describía El enemigo conoce el sistema? La respuesta no es la abuela que atendió el teléfono. La responsabilidad se distribuye entre plataformas que extraen datos, empresas que venden capacidades de síntesis sin salvaguardas, y Estados que planifican la IA como oportunidad económica y no como riesgo ciudadano.

Cuando toda la carga de la defensa recae sobre el individuo —aprendé, verificá, desconfiá—, se está privatizando un problema que es estructural. Es el mismo movimiento por el cual la responsabilidad de la contaminación se traslada al consumidor que no recicla, mientras la industria que contamina queda fuera de foco. La alfabetización pública contra el fraude es necesaria, pero no como sustituto de la regulación de las plataformas y de los proveedores de herramientas de síntesis. Es necesaria además de, y quien la proponga en lugar de está haciendo el trabajo de relaciones públicas de la industria que lucra con la infraestructura del daño.

Cierre: la solidaridad como bien común a defender

Vuelvo al teléfono que suena a las tres de la tarde. Lo que está en juego en esa llamada excede a la persona que la recibe. Está en juego la capacidad de una sociedad para seguir respondiendo al auxilio de los suyos sin que cada llamado active un cálculo de sospecha. Está en juego un bien común —la confianza interpersonal— que ninguna de las estrategias nacionales de IA de la región contabiliza en su balance, porque no aparece en las métricas de competitividad ni en los índices de adopción tecnológica.

La confianza es un bien común precisamente en el sentido en que lo son el aire limpio o el agua: nadie lo produce solo, todos lo consumen, y su degradación afecta incluso a quienes no la causaron. Un fraude exitoso contra una persona mayor en un barrio no daña solo a esa persona; instala en toda su red de vínculos la advertencia de que el auxilio puede ser una trampa. Ese es el mecanismo por el cual una amenaza que parece individual —una llamada, una víctima, una transferencia— produce un daño colectivo que ninguna suma de precauciones individuales alcanza a reparar.

Quedan preguntas abiertas que la región tendrá que responder pronto, y no en el registro técnico sino en el político y cultural. ¿Puede construirse una alfabetización pública en detección de fraude que no dependa de la escolaridad formal ni de la conectividad, que llegue por radio, por parroquia, por centro de jubilados, a quien más lo necesita? ¿Están dispuestos los Estados a exigir a los proveedores de herramientas de síntesis de voz salvaguardas verificables, o seguirán tratando la regulación de la IA como un freno a la competitividad? ¿Puede la región resistir la tentación de comprar productos de detección caros importados y, en cambio, invertir en las respuestas de baja tecnología y alta cobertura que su realidad demanda? ¿Y podemos hablar de esto sin caer en la culpabilización de las víctimas, nombrando en cambio a quienes construyeron y lucran con la infraestructura del daño?

La estafa que te habla con la voz de tu madre no es un problema de audio sintético. Es un ataque a lo que García Canclini llamaba la zona de los sentimientos Ciudadanos reemplazados por algoritmos, convertida ahora en campo de batalla comercial y criminal. Defender esa zona —la capacidad de amar y ayudar sin que ese amor sea el vector del despojo— es una de las tareas sociales más urgentes que la inteligencia artificial le impone a América Latina. Y es una tarea que no se resuelve con más máquinas, sino con la decisión política de tratar la confianza como lo que es: un bien común que vale la pena proteger.