Captura regulatoria y bienestar de mentira: la IA que daña hoy mientras promete salvar mañana
Hay un truco viejo en la retórica del poder tecnológico, y conviene nombrarlo antes de que se disfrace de novedad: cuando una industria no quiere que le mires los pies, te obliga a mirarle la cabeza. Te habla del futuro. Te propone un debate elevado, filosófico, casi teológico —¿puede una inteligencia artificial sufrir?, ¿tenemos obligaciones morales hacia un modelo?— mientras, al ras del suelo, los sistemas que ya están desplegados discriminan a quien busca empleo, vigilan barrios enteros con sesgo racial incorporado, y se sostienen sobre el trabajo precario de miles de personas que etiquetan datos por centavos. La conversación sobre el “bienestar de la IA” no es inocente. Es un desvío de la mirada, y esta semana vale la pena examinar hacia dónde nos están pidiendo que miremos —y hacia dónde deliberadamente no.
Porque el movimiento no es solo discursivo. Tiene una contraparte material y regulatoria que se está jugando, ahora mismo, en América Latina. Mientras se discute la consciencia hipotética de un algoritmo, en México se legisla la inteligencia artificial de un modo que conviene examinar con cuidado; mientras se debate la ética de futuros sistemas superinteligentes, un caso judicial en Estados Unidos —el de Workday— revela cómo el sesgo algorítmico deja de ser un accidente local para volverse infraestructura de toda una economía. Y detrás de ambos, sosteniendo el andamiaje entero, están el agua, la energía y el trabajo invisible que el relato de la “tecnología limpia” prefiere no contabilizar. Este ensayo sostiene una tesis incómoda: la sociedad latinoamericana no necesita más ética hipotética sobre daños futuros. Necesita regulación vinculante sobre daños presentes, y necesita reconocer que la narrativa del bienestar futuro es, muchas veces, la coartada de la captura actual.
La abstracción como coartada
Empecemos por la maniobra intelectual más fina, porque es la que legitima todo lo demás. Kate Crawford lo formula con precisión en su análisis de la economía política de estos sistemas: describir la IA como algo “fundamentalmente abstracto” la distancia de la energía, el trabajo y el capital necesarios para producirla, y de las muchas formas de minería que la hacen posible The Atlas of AI - Power, Politics, and the Planetary Costs. La palabra clave es distancia. La abstracción no es un rasgo neutral del lenguaje técnico; es un dispositivo que produce invisibilidad. Cuando decimos “la nube”, no pensamos en centros de datos consumiendo agua potable. Cuando decimos “modelo entrenado”, no pensamos en las personas que etiquetaron millones de imágenes para que ese modelo aprendiera a distinguir un gato de un semáforo.
Ese trabajo invisible no es marginal al sistema: es su condición de posibilidad. Crawford documenta que las formas explotadoras de trabajo existen en todas las etapas del pipeline de la IA, desde el sector minero donde se extraen y transportan los recursos que forman la infraestructura básica, hasta el lado del software, donde se distribuye el trabajo de anotación y moderación The Atlas of AI - Power, Politics, and the Planetary Costs. Este trabajo toma muchas formas —trabajo de cadena de suministro, crowdwork bajo demanda, empleos tradicionales del sector servicios— y su rasgo común es que se mantiene fuera del cuadro. El producto final llega pulido, mágico, sin cicatrices visibles de su producción.
Aquí es donde el debate sobre el “bienestar de la IA” cumple su función. No estoy diciendo que quienes lo plantean actúen de mala fe; algunos son investigadores serios explorando preguntas legítimas sobre estatus moral y sistemas complejos. Digo algo más estructural: que la economía de la atención pública tiene un presupuesto limitado, y cada gramo de esa atención dedicado a la consciencia hipotética de un modelo es un gramo que no se dedica a las condiciones reales de quienes lo construyen. García Canclini describe con inquietud cómo la inteligencia artificial se convierte en “una forma de superyó dotado en todo momento de la intuición de la verdad y que orienta el curso de nuestras acciones individuales y colectivas” Ciudadanos reemplazados por algoritmos. Cuando ese superyó tecnológico reclama para sí un estatus casi moral —el de una entidad cuyo bienestar debemos considerar— hemos completado la inversión: el sistema que explota trabajo humano se presenta como el sujeto vulnerable de la ecuación.
México y la anatomía de la captura
Traslademos esto al terreno concreto de la política latinoamericana, porque es ahí donde la abstracción se vuelve dinero y ley. México ocupa el tercer lugar regional en el Índice Latinoamericano de Inteligencia Artificial, con 68.8 sobre 100, y una economía de 1.85 billones de dólares con exportaciones de alta tecnología que representan el 19.3% del total manufacturado Mexico ILIA country profile. No es un actor menor. Es, junto a Brasil, uno de los mercados que definen cómo se gobernará la IA en la región. Y precisamente por eso, cómo México legisla importa mucho más allá de sus fronteras.
El fenómeno que conviene mirar con lupa es un patrón de captura regulatoria: la situación en la que la legislación destinada a regular una industria termina escrita, en la práctica, por esa misma industria. Cuando artículos enteros de una propuesta legislativa aparecen copiados de los documentos de posición de una empresa tecnológica, no estamos ante una coincidencia ni ante un asesoramiento técnico legítimo. Estamos ante la sustitución del interés público por el interés privado, disfrazada de proceso democrático. Este no es un fenómeno mexicano ni latinoamericano: es un clásico del lobby corporativo global, documentado durante décadas. Noam Chomsky y Edward Herman lo describieron en su modelo de cómo el poder concentrado moldea el discurso y las reglas: no mediante conspiración, sino mediante la estructura de incentivos que hace que las instituciones filtren la información y la legislación a favor de quienes tienen recursos Manufacturing Consent.
La pregunta que un lector latinoamericano debe hacerse no es “¿está mal que las empresas participen en la conversación regulatoria?” —participar es legítimo—, sino “¿quién más está en la mesa?”. Cuando una startup redacta seis artículos de una ley y una comunidad afectada por la vigilancia algorítmica no redacta ninguno, la asimetría no es un detalle: es el diseño. La regulación por sectores —el enfoque de ir permitiendo caso por caso, cediendo a las presiones de cada industria— produce exactamente el resultado que las empresas prefieren: reglas fragmentadas, huecos aprovechables, y ausencia de un marco general que imponga transparencia obligatoria. Es la diferencia entre una regulación que pregunta “¿cómo facilitamos la innovación?” y una que pregunta “¿cómo protegemos a las personas de los daños?”. La primera pregunta la escriben los abogados de las empresas. La segunda tiene que escribirla otra gente.
Y aquí conviene ser honesto con la complejidad. México, Argentina —con su Plan Nacional de Inteligencia Artificial y un ILIA de 67.5— y Costa Rica —con su Estrategia Nacional y un ILIA de 62.7 pese a ser una economía mucho más pequeña— Costa Rica ILIA country profile enfrentan un dilema real: tienen economías que necesitan crecer, con crecimientos del PIB modestos o incluso negativos (Argentina registró -1.3% en 2024) Argentina ILIA country profile, y la inversión tecnológica se presenta como motor de desarrollo. La tentación de flexibilizar la regulación para atraer capital no es irracional. Es el mismo cálculo que hicieron los países de la región con la minería, con las maquiladoras, con el agronegocio. El problema es que ese cálculo tiene una historia, y la historia no es alentadora.
El monocultivo algorítmico: cuando el sesgo se vuelve sistema
El caso Workday merece un tratamiento propio porque ilustra un salto cualitativo en la naturaleza del daño. Workday es un proveedor de software de recursos humanos cuyos sistemas de cribado de candidatos son usados por miles de empresas. Cuando ese sistema incorpora un sesgo —contra personas mayores, contra ciertos grupos raciales, contra quien no encaja en el patrón que el modelo aprendió a premiar— ese sesgo no afecta a una empresa. Afecta a todas las empresas que usan Workday. La demanda colectiva contra la compañía plantea justamente esto: que un solo proveedor de infraestructura algorítmica puede volver sistémica una discriminación que antes hubiera sido, en el peor de los casos, la política de un departamento de recursos humanos particular.
Ruha Benjamin nombró este fenómeno con una precisión que anticipa el caso: lo que ella llama el “New Jim Code” describe cómo sistemas técnicos presentados como neutrales u objetivos codifican y amplifican la desigualdad existente, precisamente porque su apariencia de neutralidad los blinda contra el escrutinio Race After Technology. Un reclutador humano racista puede ser demandado, denunciado, corregido. Un algoritmo racista viene envuelto en el lenguaje de la eficiencia y la objetividad: “el sistema simplemente evalúa méritos”. La discriminación no desaparece; se lava. Y al concentrarse en pocos proveedores, se estandariza. Llamemos a esto por su nombre: un monocultivo algorítmico. Del mismo modo que un monocultivo agrícola vuelve a toda una cosecha vulnerable a una sola plaga, un monocultivo algorítmico vuelve a todo un mercado laboral vulnerable a un solo sesgo.
Para América Latina esto tiene una implicación específica y grave. La región no produce estos sistemas: los importa. Las herramientas de recursos humanos, de scoring crediticio, de análisis de riesgo que se despliegan en Ciudad de México, Buenos Aires o San José fueron entrenadas con datos de otros contextos, sobre patrones de otras poblaciones, optimizadas para otros mercados. El sesgo no solo es racial o etario: es geográfico y cultural. Un modelo entrenado para reconocer el “buen candidato” según los patrones del mercado laboral estadounidense aplicado a un contexto latinoamericano no es una herramienta neutral que viaja bien; es una plantilla ajena que se impone. García Canclini advertía sobre cómo el relato tecnológico se entrelaza con “trastornos sociales de la gubernamentalidad” Ciudadanos reemplazados por algoritmos —y la importación acrítica de infraestructura algorítmica es exactamente eso: una forma de gubernamentalidad delegada a sistemas diseñados en otra parte, que responden a otros intereses, y sobre los cuales la sociedad receptora no tiene ni voz ni datos.
El agua, la energía y los cuerpos: la factura que llega al Sur
Detengámonos en lo más material, porque es lo que el discurso limpio más se esfuerza en ocultar. Un modelo de inteligencia artificial no vive en el éter. Vive en centros de datos que consumen electricidad en cantidades industriales y que requieren agua —agua potable, muchas veces— para enfriar sus servidores. Crawford insiste en desmontar la retórica que presenta a la IA como algo etéreo: la descripción de estos sistemas como abstractos, dice, es precisamente lo que los distancia de la energía y los recursos que consumen The Atlas of AI - Power, Politics, and the Planetary Costs. El costo ambiental no es un efecto secundario lamentable; es constitutivo del sistema.
¿Y quién paga ese costo? Aquí es donde el patrón latinoamericano se vuelve dolorosamente reconocible. Los costos de entrenamiento —el proceso computacionalmente monstruoso de crear el modelo— se pagan mayormente en el Norte Global, donde están las grandes empresas. Pero los costos de operación —el consumo continuo de energía y agua para mantener los servicios funcionando— empiezan a trasladarse a donde se instalan los centros de datos: territorios con energía barata, regulación laxa, y comunidades sin capacidad de negociación. Es el guion de siempre. Es, literalmente, el guion que Eduardo Galeano trazó hace medio siglo: una región configurada como fuente de recursos para el consumo de otros, donde “la lluvia que irriga a los centros del poder imperialista ahoga los vastos suburbios del sistema” Las venas abiertas de América Latina. Cambien el mineral por el agua de refrigeración y el patrón se sostiene íntegro.
La diferencia respecto a las industrias extractivas clásicas es que esta vez el discurso es aún más eficaz para ocultar el daño, porque la mercancía —la inteligencia, el algoritmo— parece inmaterial. Nadie ve una mina de litio cuando usa un chatbot. Nadie ve el río cuando pide una imagen generada. La abstracción de la que hablábamos al inicio no es solo un problema conceptual: es la tecnología de invisibilización que permite que una comunidad en un país latinoamericano vea caer su nivel freático mientras el beneficio de ese consumo se contabiliza en un balance corporativo a miles de kilómetros. Y a diferencia del petróleo o el cobre, que al menos figuran en las estadísticas de exportación, el agua consumida por un centro de datos rara vez aparece en ningún reporte accesible al público.
El contraargumento que hay que tomar en serio
Sería intelectualmente deshonesto no plantear la objeción más fuerte, así que la planteo en su versión más robusta. Alguien podría decir: estás construyendo una falsa oposición. No hay que elegir entre pensar los daños futuros y frenar los daños presentes; podemos y debemos hacer ambas cosas. Descartar el debate sobre el bienestar de la IA o sobre riesgos a largo plazo es una forma de anti-intelectualismo que empobrece la conversación.
La objeción es legítima y merece respeto. Es verdad que una sociedad madura puede sostener múltiples conversaciones a la vez. Es verdad que algunos riesgos futuros son reales y que ignorarlos por completo sería imprudente. Pero la objeción falla en un punto empírico que no puede ignorarse: la atención pública y el capital político no son ilimitados, y su distribución no es neutral. Cuando el CEO de una empresa de IA dedica sus intervenciones públicas a la superinteligencia y al riesgo existencial, y guarda silencio sobre las condiciones laborales de sus anotadores de datos o el consumo hídrico de sus centros, esa distribución de énfasis no es casual. Es estratégica. Chomsky lo llamaba la fabricación del marco: no se trata de censurar temas, sino de decidir cuáles ocupan el centro del escenario y cuáles quedan en la periferia, fuera de foco Manufacturing Consent.
Dicho de otro modo: el problema no es que se piense el futuro. El problema es que se piense el futuro en lugar del presente, y que quienes tienen más poder para dirigir la conversación tengan un interés material directo en que la miremos hacia allá. La prueba está en la asimetría de la acción. Del lado del bienestar futuro de la IA hay conferencias, papers, comités de ética bien financiados. Del lado de los daños presentes hay demandas judiciales que las empresas litigan hasta el agotamiento, informes de ONGs que rara vez llegan a la prensa masiva, y trabajadores sin sindicato. Si ambas conversaciones fueran igualmente importantes para el poder, tendrían recursos comparables. No los tienen. Eso, por sí solo, nos dice dónde mirar.
Las lentes LATAM: disponibilidad, aplicabilidad y anticipación
Apliquemos ahora, de manera explícita, las herramientas de análisis que esta publicación usa para leer la región, porque revelan capas que el análisis general no alcanza.
Disponibilidad y accesibilidad. La evidencia de los costos humanos y ambientales de la IA existe. Está en el trabajo de Crawford, en informes de organizaciones internacionales, en investigaciones académicas. Pero disponible no es lo mismo que accesible. La huella hídrica de un centro de datos específico, las condiciones contractuales de los etiquetadores de datos que trabajan para una empresa concreta, los términos exactos de un acuerdo entre un gobierno latinoamericano y un proveedor tecnológico: estos datos están sistemáticamente fuera del alcance del público. Las empresas los tratan como secreto comercial. Marta Peirano ha documentado con precisión cómo la opacidad no es un accidente del sistema técnico sino su arquitectura deliberada: quienes construyen la infraestructura conocen el sistema, y esa asimetría de conocimiento es una asimetría de poder El enemigo conoce el sistema. El primer acto de regulación real, entonces, no es prohibir nada: es forzar la visibilidad. Transparencia obligatoria sobre consumo de recursos, sobre cadenas de trabajo, sobre los datos con que se entrenaron los modelos que se despliegan en la región. Sin visibilidad, no hay debate posible; solo hay fe.
Aplicabilidad. Ya lo señalamos, pero conviene formularlo como principio: América Latina consume infraestructura algorítmica que no diseñó, entrenada con datos que no la representan, optimizada para mercados que no son el suyo. El costo de entrenamiento se pagó afuera; el costo de operación y el costo social del sesgo se pagan adentro. Esto invierte la ecuación habitual del comercio internacional. Normalmente importamos un producto terminado y asumimos su precio de mercado. Aquí importamos un producto cuyo precio real —el sesgo que discrimina a nuestra gente, el agua que consume en nuestro suelo— no está en la factura. Es una externalidad que viaja escondida dentro de la mercancía. La pregunta de aplicabilidad que todo funcionario, todo periodista, todo ciudadano debería hacer ante cualquier sistema de IA que se despliega en la región es: ¿este modelo fue evaluado con datos de esta población, en este contexto? ¿O simplemente se asumió que lo que funciona allá funciona acá?
Anticipación. Y aquí está la advertencia central, la que da sentido a todo lo anterior. Sin regulación que exija transparencia y que se enfoque en los daños presentes, América Latina se convertirá en el vertedero de los costos externalizados de la IA global. Repetirá, con nueva tecnología, el patrón exacto de las industrias extractivas: recursos que salen, daños que quedan, beneficios que se contabilizan en otra parte. La captura regulatoria que hoy vemos insinuarse en la legislación mexicana no es un incidente aislado; es el mecanismo mediante el cual ese futuro se construye. Cada ley escrita por la industria, cada centro de datos instalado sin auditoría hídrica pública, cada sistema de contratación importado sin evaluación de sesgo local, es un ladrillo de esa arquitectura. La anticipación no consiste en imaginar máquinas conscientes dentro de veinte años. Consiste en reconocer un patrón histórico que ya está en marcha y decidir, ahora, si lo repetimos o lo interrumpimos.
Qué significa frenar el daño presente
Frente a este diagnóstico, la respuesta no puede ser el fatalismo ni la nostalgia tecnofóbica. La IA no es el problema; el problema es cómo se gobierna, quién decide, y a costa de quién. Las alternativas existen y conviene nombrarlas para que no queden como abstracción.
La primera es regulatoria y es la más urgente: marcos de transparencia obligatoria que obliguen a los proveedores a declarar el consumo de recursos, la procedencia de los datos de entrenamiento, y los resultados de auditorías de sesgo realizadas con datos locales. No es una utopía; es política pública concreta, del tipo que la Unión Europea ha comenzado a ensayar y que la región puede adaptar sin esperar permiso. La segunda es institucional: procesos legislativos blindados contra la captura, donde la participación de la industria esté balanceada por la participación obligatoria de las comunidades afectadas, de la academia independiente y de la sociedad civil. Si una startup redacta seis artículos, alguien más tiene que redactar los otros seis. La tercera es económica: la posibilidad de modelos más pequeños, entrenados localmente, y de cooperativas de etiquetado de datos con condiciones laborales dignas —alternativas al monocultivo algorítmico importado que hoy parece inevitable solo porque no hemos construido la infraestructura de su reemplazo.
Nada de esto es fácil, y sería un insulto a la inteligencia del lector pretender lo contrario. Las economías de la región necesitan crecer, la inversión tecnológica es real, y la presión por flexibilizar la regulación para no “quedarse atrás” es constante y persuasiva. Pero “quedarse atrás” es exactamente el marco que las empresas quieren que aceptemos, porque convierte cualquier exigencia de transparencia o protección en un obstáculo al progreso. García Canclini nos recordaba que el relato tecnológico se entrelaza siempre con los trastornos sociales de la gubernamentalidad Ciudadanos reemplazados por algoritmos; nuestra tarea es no dejar que ese relato escriba solo el guion.
Cierre: la pregunta que no debemos ceder
Vuelvo al truco del inicio, porque ahora podemos verlo completo. Cuando el poder tecnológico nos invita a debatir el bienestar futuro de la inteligencia artificial —su posible consciencia, sus derechos hipotéticos, su sufrimiento imaginable— nos está ofreciendo un debate honorable que cumple una función deshonrosa: mantener nuestra mirada apartada de los cuerpos reales que hoy etiquetan datos por centavos, de los ríos reales que hoy se vacían para enfriar servidores, de las personas reales a quienes hoy un algoritmo importado les niega un empleo con la fría autoridad de lo que parece objetivo. La sociedad latinoamericana tiene todo el derecho de participar en las grandes conversaciones sobre el futuro. Pero tiene la obligación de no ceder el presente a cambio de un asiento en esa mesa.
Quedan preguntas abiertas, y las dejo abiertas a propósito porque no tengo respuestas fáciles y desconfío de quien las ofrece. ¿Puede la región construir capacidad regulatoria propia antes de que la captura se consolide, o llegamos, como tantas veces, con la ley escrita después de que el daño ya es estructura? ¿Es posible una soberanía tecnológica real —modelos locales, datos locales, trabajo digno— en economías que dependen del capital y la infraestructura del Norte? ¿Y cómo construimos la exigencia ciudadana de transparencia cuando la opacidad está diseñada precisamente para que no sepamos qué exigir? No lo sé. Lo que sí sé, lo que este ensayo ha intentado defender, es dónde poner la mirada: no en la máquina que quizás algún día sufra, sino en las personas que ya están pagando el precio de que funcione. Ese es el punto de partida. Lo demás es teología, y la teología, en este terreno, casi siempre la escriben quienes tienen algo que esconder.