La IA perfecta para regímenes autoritarios: la semana que confirmó que la eficiencia algorítmica es la nueva forma de poder estatal
Hay una palabra que aparece cada vez que un gobierno anuncia un nuevo sistema de inteligencia artificial: eficiencia. Se instala reconocimiento facial en el metro para hacer más eficiente la seguridad. Se algoritmiza la elegibilidad para subsidios sociales para hacer más eficiente el gasto público. Se despliega analítica predictiva en la policía para hacer más eficiente el uso de patrullas. La palabra es tan blanda, tan aparentemente neutral, que casi nadie pregunta lo obvio: eficiente ¿para quién? ¿A costa de qué? ¿Con qué distribución de los beneficios y los sacrificios? La semana dejó en claro algo que la retórica de la optimización se esfuerza por ocultar: los regímenes que más entusiastamente adoptan estas herramientas no las quieren porque sean neutrales, sino precisamente porque no lo son. Las quieren porque hacen algo que ningún burócrata podría hacer solo: expandir el poder del Estado sobre los más pobres mientras convierten esa expansión en una cuestión técnica, aburrida, indiscutible.
Ese es el movimiento que conviene mirar de cerca. No la tecnología en sí —que rara vez es tan mágica como su marketing— sino la operación política que la envuelve: presentar como optimización lo que es, en el fondo, una redistribución del poder de vigilar, clasificar y castigar. La tesis de este ensayo es incómoda pero, creo, difícil de esquivar: cuando un sistema de IA se aplica a decidir quién recibe bienestar social y quién es sospechoso de un crimen, la “eficiencia” del sistema deja de ser una virtud técnica y se convierte en la coartada de una ampliación del control estatal que golpea, casi siempre, a las mismas comunidades que ya cargaban con lo peor. Y para América Latina —región de Estados con historias frescas de autoritarismo, aparatos de seguridad hipertrofiados y desigualdades estructurales— esta no es una discusión abstracta. Es la pregunta política de la década.
La neutralidad como táctica, no como error
Conviene empezar desmontando el supuesto que hace posible todo lo demás. Se nos dice, una y otra vez, que la IA es una herramienta neutral: que un algoritmo no tiene ideología, que no odia a nadie, que solo procesa datos. Este es el corazón de lo que Kate Crawford llama, en su análisis de la infraestructura material de estos sistemas, el “determinismo encantado”: la operación por la cual “se nos dice que nos enfoquemos en la naturaleza innovadora del método en lugar de en lo que es primario: el propósito de la cosa en sí” The Atlas of AI - Power, Politics, and the Planetary Costs. El encantamiento tiene una función precisa: “oscurece el poder y clausura la discusión pública informada, el escrutinio crítico o el rechazo directo” The Atlas of AI - Power, Politics, and the Planetary Costs.
Ese es el punto que suele perderse. La neutralidad proclamada no es una descripción ingenua del sistema; es una táctica de despolitización. Si el reconocimiento facial es simplemente un algoritmo, entonces preguntar por qué se instala en los barrios pobres y no en los ricos, quién queda en la base de datos y quién no, cómo se corrige un falso positivo que termina en una detención —todas esas preguntas se vuelven ruido, molestia de activistas que “no entienden la tecnología”. El vocabulario técnico hace desaparecer la pregunta política. Ruha Benjamin lo describe con precisión cuando muestra cómo los sistemas de aprendizaje automático heredan y amplifican jerarquías sociales bajo la apariencia de objetividad matemática; la distinción entre aprendizaje “supervisado” y “no supervisado” que ella analiza revela que incluso las categorías más técnicas del campo esconden decisiones humanas sobre qué etiquetar, qué contar como dato, qué mundo reproducir Race After Technology - Abolitionist Tools for the New Jim.
No es que los sistemas fallen y por eso discriminen. Es que discriminan cuando funcionan exactamente como fueron diseñados, porque fueron entrenados con el mundo tal como es —un mundo ya jerarquizado— y lo devuelven pulido, cuantificado, con la autoridad de una salida numérica. El sesgo no es un bug que un mejor ingeniero corregirá; es una propiedad estructural de tomar el presente desigual como fuente de verdad.
Por qué el autoritario prefiere el algoritmo
Aquí es donde el argumento se vuelve político en serio. Si la IA fuera realmente neutral, sería indiferente a quién la usa. Pero no lo es, y por eso hay un patrón observable: ciertos tipos de aplicaciones —las que gestionan poblaciones, clasifican elegibilidad, predicen criminalidad— resultan especialmente atractivas para gobiernos con vocación de control. La razón es sencilla y perturbadora. Un aparato de vigilancia humano es costoso, visible y, sobre todo, tiene testigos: el policía que sigue una orden injusta puede rehusarse, filtrar, recordar. Un sistema algorítmico no rehúsa, no filtra, no recuerda de una manera que pueda testificar. Convierte una decisión política —a quién vigilar, a quién negar un beneficio— en un proceso opaco cuya responsabilidad se diluye entre el proveedor del software, el funcionario que lo compró y el “modelo” que nadie entiende del todo.
García Canclini capturó algo esencial de esta dinámica al describir cómo el acompañamiento algorítmico de la existencia produce “una forma de superyó dotado en todo momento de la intuición de la verdad y que orienta el curso de nuestras acciones individuales y colectivas” Ciudadanos reemplazados por algoritmos. Lo que él observó en el terreno del consumo y la política electoral aplica con más fuerza aún al Estado penal y asistencial: el algoritmo se presenta como poseedor de una verdad sobre el ciudadano —eres riesgo, no eres riesgo; mereces el subsidio, no lo mereces— que el ciudadano mismo no puede contestar porque no la ve, no la comprende y no tiene a quién apelar. La asimetría es total. El Estado ve todo; el vigilado no ve nada, ni siquiera el hecho de estar siendo clasificado.
Y la clasificación no es simétrica en sus errores. Virginia Eubanks documentó cómo los sistemas automatizados de gestión del bienestar en Estados Unidos no distribuyen sus fallas al azar: castigan sistemáticamente a los pobres, los expulsan de programas a los que tienen derecho, los someten a una sospecha permanente que los solventes nunca padecen Automating Inequality. El sistema no está roto: hace exactamente lo que un aparato de austeridad necesita, que es reducir la nómina de beneficiarios con una coartada técnica. Cuando un régimen quiere recortar la asistencia social sin pagar el costo político de decir “vamos a quitarles el subsidio a los pobres”, el algoritmo le ofrece la fórmula perfecta: “estamos mejorando la focalización mediante inteligencia artificial”. Nadie protesta contra la focalización. Todos protestarían contra el recorte. La IA traduce lo segundo en lo primero.
El colonialismo de datos como marco, no como metáfora
Para América Latina hay una capa adicional, y es la que da a este ensayo su filo regional. Las herramientas que los Estados latinoamericanos adoptan no se fabrican en la región. Se importan de proveedores del Norte global, se entrenan con datos extraídos de poblaciones que nunca consintieron nada, y funcionan sobre una infraestructura física —centros de datos, cables, chips— cuya cadena de valor deja en el Sur los costos y en el Norte las ganancias. Esto no es una queja anticolonial nostálgica; es una descripción de la arquitectura económica del sector.
Crawford lo formula sin ambages: el trabajo invisible que sostiene los sistemas de IA “existe en todas las etapas del pipeline, desde el sector minero, donde los recursos se extraen y transportan para crear la infraestructura central de los sistemas de IA, hasta el lado del software” The Atlas of AI - Power, Politics, and the Planetary Costs. La región que aporta el litio para las baterías, el agua para enfriar los servidores y la mano de obra barata para etiquetar los datos de entrenamiento es la misma que luego recibe, de vuelta, los sistemas terminados para vigilar a su propia población. El circuito se cierra sobre sí mismo: extracción de recursos y datos hacia afuera, importación de instrumentos de control hacia adentro. Eso es colonialismo de datos, y el término no es hiperbólico: nombra una relación de dependencia estructural en la que el valor generado por la información de una región es capturado por actores externos que luego venden de regreso el producto refinado.
Las cifras del contexto regional ayudan a dimensionar la asimetría. México, tercero en el Índice Latinoamericano de Inteligencia Artificial con 68.8 sobre 100, exporta un 19.3% de alta tecnología sobre su total manufacturado —el mayor de los países aquí considerados— y sin embargo su Estrategia Nacional de IA, renovada bajo la administración Sheinbaum, opera sobre modelos y plataformas cuyo núcleo tecnológico sigue siendo importado México (Mexico). Argentina, cuarta con 67.5, apenas alcanza un 3.9% de exportaciones de alta tecnología y arrastra un crecimiento del PIB de -1.3% en 2024, lo que hace de cualquier suscripción premium en dólares un lujo estructuralmente inaccesible para el desarrollador o el municipio promedio Argentina (Argentina). El contraste con El Salvador —42.9 en el índice, decimosexto lugar— es aún más elocuente: un país que ha convertido la “innovación tecnológica” y la seguridad algorítmica en bandera de gobierno mientras exhibe uno de los aparatos de control poblacional más agresivos de la región El Salvador (El Salvador). El patrón es claro: cuanto menor la capacidad tecnológica propia, mayor la dependencia del instrumento importado, y mayor la tentación de usarlo para lo que mejor se vende: vigilar.
La contabilidad tramposa: qué se cuenta como costo y qué no
Hay una segunda operación de ocultamiento que la semana volvió a exhibir, y es la contabilidad de los costos. Cuando un gobierno o una corporación presenta el caso de negocio para un centro de datos o un sistema de IA, la ecuación se dibuja siempre del mismo modo: aquí las ganancias de eficiencia, aquí los empleos prometidos, aquí la modernización. Lo que no entra en la hoja de cálculo es el otro lado: el consumo hídrico en regiones que ya sufren estrés de agua, el consumo energético en redes eléctricas frágiles, las exenciones impositivas que se otorgan a cambio de inversiones cuya generación de empleo local suele ser marginal y temporal.
Este es el corazón de lo que Crawford desmonta al insistir en mirar los “costos planetarios” que la narrativa del sector prefiere borrar The Atlas of AI - Power, Politics, and the Planetary Costs. Un centro de datos no es una nube etérea; es una instalación física que bebe agua y quema energía. Cuando un Estado latinoamericano ofrece años de exención tributaria a una corporación para que instale su infraestructura, está subsidiando con recursos públicos —agua, electricidad, suelo, dinero no recaudado— una operación cuyos beneficios se contabilizan en otra jurisdicción. La promesa de “empleos tecnológicos” rara vez se materializa en la escala prometida, porque estos centros están diseñados precisamente para ser eficientes en mano de obra: unos pocos técnicos altamente especializados administran instalaciones enormes.
La asimetría de sacrificios es el punto. Los beneficios de la eficiencia algorítmica —para el Estado que recorta gasto, para la corporación que captura el valor de los datos— son concentrados y visibles en los balances. Los costos —el agua drenada de la comunidad, el falso positivo del reconocimiento facial que termina en una detención, el subsidio negado por un modelo opaco— son difusos, dispersos entre miles de personas sin poder para nombrarlos como un daño coherente. Esta es la genialidad perversa del encuadre de la eficiencia: hace que las ganancias sean legibles y las pérdidas ilegibles. Y una pérdida que no se puede nombrar no se puede impugnar.
El contraargumento que hay que tomar en serio
Sería deshonesto no detenerse en la objeción más fuerte, porque existe y tiene peso. El defensor de estos sistemas dirá: la alternativa al algoritmo no es la justicia perfecta, es el burócrata humano, y el burócrata humano también discrimina —peor, de hecho, porque discrimina con prejuicios personales, con corrupción, con arbitrariedad de mostrador. Un sistema algorítmico de asignación de subsidios, dirá, al menos aplica el mismo criterio a todos, es auditable, deja rastro. Y hay algo verdadero ahí: la focalización manual de programas sociales en América Latina ha sido históricamente un nido de clientelismo, donde el subsidio se cambia por el voto y el funcionario decide según simpatías. Frente a eso, un criterio uniforme suena a progreso.
El argumento merece respeto, pero se derrumba en dos puntos. Primero, presenta una falsa dicotomía: como si las únicas opciones fueran el clientelista de ventanilla o el algoritmo opaco. La tercera vía —criterios transparentes, apelables, diseñados con participación de las comunidades afectadas, auditados por terceros independientes— es descartada de entrada porque es más lenta y más cara. La eficiencia vuelve a ganar la discusión antes de que empiece. Segundo, y más grave, el argumento supone que el algoritmo es efectivamente auditable, cuando en la práctica los sistemas comerciales que los Estados compran son cajas negras protegidas por secreto empresarial. El ciudadano al que se le niega un beneficio no puede ver el código, no puede impugnar la lógica, no puede saber qué variable lo condenó. El burócrata corrupto al menos tenía un rostro al que reclamar. El modelo no tiene rostro, y esa ausencia de rostro no es transparencia: es impunidad rediseñada.
Hay un matiz adicional que conviene admitir para no caricaturizar. No todo sistema de IA estatal es un instrumento de opresión; hay usos —detección temprana de brotes epidemiológicos, optimización de rutas de distribución de vacunas, traducción de servicios públicos a lenguas indígenas— donde la herramienta amplía derechos en lugar de restringirlos. El problema no es la IA en el Estado como tal, sino la IA aplicada a las funciones de clasificación, vigilancia y castigo, allí donde el error tiene consecuencias irreversibles sobre cuerpos concretos y donde la asimetría de poder entre el sistema y el vigilado es máxima. La distinción importa: rechazar el reconocimiento facial policial no obliga a rechazar la telemedicina algorítmica. La pregunta correcta no es “¿IA sí o no?” sino “¿IA para qué, decidida por quién, apelable cómo?”.
Las lentes LATAM: disponibilidad desigual y anticipación necesaria
Conviene aterrizar esto en dos de las lentes con las que esta publicación lee la región, porque el análisis abstracto se vuelve concreto justo ahí.
Disponibilidad y accesibilidad desiguales. La primera trampa es creer que la IA llega a América Latina como un bloque homogéneo. No es así. Las capacidades de alto rendimiento —los modelos que realmente funcionan, las suscripciones premium, la infraestructura de cómputo— están disponibles para quien pueda pagarlas en dólares, lo que en una región con las cifras económicas descritas significa una minoría: grandes corporaciones, Estados con presupuesto de seguridad abultado, startups financiadas con capital extranjero. El resto —el municipio pequeño, la ONG, el desarrollador que subsiste con un plan gratuito— accede a versiones degradadas que sesgan su percepción de lo que la herramienta puede y no puede hacer. Esta desigualdad de acceso tiene una consecuencia política directa: los actores con mayor capacidad de daño —aparatos de seguridad, grandes empleadores— son precisamente los que acceden a las capacidades más potentes, mientras la sociedad civil que debería vigilarlos trabaja con herramientas de segunda. La asimetría tecnológica refuerza la asimetría de poder en lugar de compensarla. El reconocimiento facial de grado estatal no tiene versión freemium para los activistas que quisieran documentar sus abusos.
Anticipación. Aquí está, quizás, la lente más urgente, porque la ventana para actuar se cierra. La región está en un momento en que las decisiones sobre gobernanza algorítmica todavía no se han petrificado. Las estrategias nacionales de IA —la mexicana renovada, el Plan Nacional argentino, la Agenda Digital salvadoreña— se están escribiendo o reescribiendo ahora México (Mexico). Lo que se anticipe hoy determinará el margen de maniobra de la próxima década. Y lo que hay que anticipar es preciso: estándares de transparencia obligatoria para todo sistema algorítmico que tome decisiones sobre derechos —bienestar, libertad, elegibilidad—; mecanismos de apelación que devuelvan al ciudadano un rostro al cual reclamar; auditorías independientes que rompan la caja negra del secreto empresarial; y una contabilidad honesta de los costos ambientales y fiscales de la infraestructura antes de firmar las exenciones. Nada de esto ocurrirá espontáneamente, porque va contra el interés de los proveedores y contra la conveniencia de los Estados que prefieren el silencio tecnocrático. Tendrá que ser exigido.
La alternativa material también merece nombrarse, porque no todo es denuncia. Frente a la dependencia del instrumento importado, el desarrollo de capacidad regional en modelos de código abierto, la formación de cuadros técnicos capaces de auditar y no solo consumir sistemas, y la cooperación entre Estados latinoamericanos para negociar en bloque frente a los proveedores globales son vías concretas de soberanía tecnológica. La región no está condenada a ser solo la cantera de datos y el mercado de sistemas de vigilancia. Pero la ventana para elegir otra cosa depende de decisiones que se toman ahora, en la letra chica de estrategias nacionales que casi nadie lee.
Lo que la eficiencia hace desaparecer
Vale la pena regresar, para cerrar, a la palabra del principio. Eficiencia. Toda la operación política que este ensayo intenta desnudar descansa sobre la capacidad de esa palabra para hacer desaparecer una pregunta. La pregunta es: ¿cómo se distribuyen los costos y los beneficios de esta tecnología, y quién decide esa distribución? Cada vez que un sistema de IA se presenta como pura optimización, esa pregunta se evapora, y con ella se evapora la posibilidad misma de la política democrática sobre la tecnología. Porque si algo es solo técnico, entonces no hay nada que debatir, solo que implementar. El experto reemplaza al ciudadano. La métrica reemplaza al argumento. El modelo reemplaza a la deliberación.
García Canclini tituló su libro con una advertencia que suena cada semana más literal: Ciudadanos reemplazados por algoritmos Ciudadanos reemplazados por algoritmos. El reemplazo no es una fantasía distópica de robots gobernantes; es esto, lo mundano, lo que ya ocurre: la sustitución progresiva del ciudadano como sujeto que delibera por el ciudadano como dato que se procesa, se clasifica y se administra. Cuando la elegibilidad para un derecho se decide por modelo, cuando la sospecha penal se calcula por predicción, cuando el acceso a un servicio depende de una salida numérica inapelable, lo que se erosiona no es la eficiencia del Estado —esa mejora— sino la ciudadanía misma como relación política. El vigilado no es ya un sujeto con derechos que puede impugnar; es un perfil de riesgo que puede, a lo sumo, esperar que el sistema se equivoque a su favor.
La semana confirmó, entonces, no un descubrimiento sino un patrón que ya conocíamos y que conviene nombrar sin eufemismos: la IA que los regímenes con vocación autoritaria prefieren no es la que cura enfermedades ni la que traduce lenguas indígenas. Es la que clasifica, vigila y castiga con la coartada de la neutralidad. Y el peligro específico para América Latina no es la ciencia ficción de la máquina que se rebela, sino algo mucho más cercano y más gris: la burocratización silenciosa del control, la conversión de decisiones profundamente políticas en asuntos técnicos que ya nadie discute porque ya nadie los entiende, la extracción de valor de los datos de la región para luego venderle de regreso los instrumentos de su propia vigilancia.
Quedan las preguntas abiertas, que son las que importan. ¿Puede una región con Estados históricamente propensos al abuso de sus aparatos de seguridad construir a tiempo los contrapesos —transparencia, apelación, auditoría independiente— que impidan que la eficiencia algorítmica se vuelva la forma más eficiente de opresión? ¿Puede la sociedad civil, trabajando con herramientas de segunda mientras el Estado accede a las de primera, vigilar efectivamente a quien la vigila? ¿Y estamos dispuestos, como región, a pagar el precio de la lentitud democrática —criterios apelables, deliberación pública, auditoría— frente a la tentación siempre presente de la solución técnica rápida que promete resolverlo todo sin tener que discutir nada? La respuesta no está en la tecnología. Nunca estuvo. Está en si conservamos la capacidad de hacer, sobre cada sistema que se nos presenta como neutral, la vieja pregunta política que ninguna eficiencia debería poder silenciar: ¿a costa de quién?