El umbral del daño lo fija el patrón

Hay una sola prohibición sobre la inteligencia artificial en el trabajo que es hoy inmediatamente exigible, sin margen de interpretación, sin ejercicio de discrecionalidad: no se puede inferir emociones de un trabajador. Todo lo demás —vigilar el desempeño en tiempo real, puntuar la productividad con un modelo, filtrar candidatos, monitorear la pantalla, contabilizar los silencios en una llamada— queda en manos de quien contrata. Esa asimetría no es un vacío legal a la espera de reglamentación. Es la arquitectura. Los marcos de evaluación de riesgo que las empresas y los gobiernos adoptan para “gobernar” sus sistemas de IA no reparten poder: lo confirman. Le conceden a la organización el derecho de declarar cuánto daño es aceptable y archivar el resto como residual. La palabra técnica para eso —“apetito de riesgo”— suena a prudencia actuarial. Es una cláusula de soberanía.

La semana entregó las piezas de este argumento dispersas, como siempre, entre celebraciones de capacidad técnica y notas al pie sobre las condiciones laborales que la sostienen. Un titular anuncia un modelo más potente; tres párrafos más abajo, si uno insiste, aparecen los trabajadores keniatas que etiquetaron los datos por dos dólares la hora. El movimiento retórico es tan constante que ya casi no se nota: la autonomía se presenta como atributo de la máquina, cuando es el nombre comercial de una cadena de suministro humana. Vale la pena, entonces, leer la inteligencia artificial esta semana no como logro de ingeniería sino como relación laboral —porque es ahí, en el contrato y no en el algoritmo, donde se decide quién puede hacerle qué a quién.

El apetito de riesgo, o el derecho a declarar el daño aceptable

Empecemos por la pieza que parece más neutral y es la más política: el marco de evaluación de riesgos. Cuando una empresa despliega un sistema de IA para contratar, evaluar o vigilar, la buena práctica de gobernanza le pide que documente los riesgos, los clasifique por probabilidad y severidad, y defina su “apetito de riesgo”: el nivel de daño potencial que está dispuesta a tolerar a cambio del beneficio esperado. Suena razonable. Toda organización maneja riesgos. El problema es quién ocupa el asiento del que decide y quién ocupa el del que sufre las consecuencias.

En un marco de apetito de riesgo, el trabajador vigilado no es parte de la deliberación: es una variable en la casilla de “impacto”. Si un sistema de scoring descarta injustamente al 3% de los candidatos calificados, esa cifra no aparece como una injusticia que exige remedio sino como una tasa de error que la organización puede juzgar “aceptable” frente al ahorro en costos de reclutamiento. El daño no desaparece; cambia de categoría contable. Pasa de ser un agravio a ser un residual. Y el residual, por definición, es lo que uno decide no atender.

Kate Crawford lo nombró con precisión al insistir en que el trabajo es una forma de extracción presente en toda la cadena de la IA, “desde el sector minero, donde se extraen y transportan los recursos para crear la infraestructura central de los sistemas de IA, hasta el lado del software” The Atlas of AI - Power, Politics, and the Planetary Costs. El apetito de riesgo aplica esa misma lógica extractiva al plano de la gobernanza: extrae del cálculo de la empresa a las personas que cargan con el error y las deja como cifra. La operación es elegante porque no niega el daño —lo cuantifica, lo tabula, lo firma— y con eso lo legitima. Un daño documentado y aceptado por la autoridad competente deja de ser un escándalo; se convierte en política.

Aquí conviene ser exacto sobre lo que se está reclamando. Cuando un proveedor dice que su marco de gobernanza “gestiona el riesgo de sesgo”, no está prometiendo eliminar el sesgo. Está prometiendo medirlo y decidir cuánto tolera. Son dos cosas distintas, y la distancia entre ellas es exactamente el espacio donde vive el poder del empleador. Despojemos la jerga: gobernanza de riesgo, en la práctica dominante, significa que la parte con más poder se otorga a sí misma la facultad de fijar el techo del daño que las otras partes deberán absorber.

El modelo de amenaza equivocado

Hay una segunda operación, más sutil, en cómo se imagina el peligro de la IA. Buena parte del discurso de seguridad —el de los grandes laboratorios, el de las conferencias, el de los documentos de política— está organizado alrededor de una amenaza espectacular: la máquina que se sale de control, que persigue objetivos propios, que se rebela contra sus creadores. Es un modelo de amenaza que mira hacia el futuro y hacia arriba, hacia una superinteligencia hipotética. Y mientras mira allá, no mira lo que ocurre aquí abajo, ahora: la IA dirigida por humanos contra humanos.

El peligro concreto, documentado, cotidiano, no es que el modelo desarrolle voluntad propia. Es que funcione exactamente como su dueño quiere. Un sistema de moderación que suspende cuentas de activistas porque el cliente gubernamental lo pidió no está fallando; está obedeciendo. Un algoritmo de asignación de turnos que castiga a quien pide licencia médica no se descontroló; ejecuta la política de su empleador con eficiencia inhumana. García Canclini anticipó el desplazamiento cuando advirtió que la pregunta relevante ya no sería la explotación sino la irrelevancia —el temor a “no ser necesarios para ocupar trabajos” Ciudadanos reemplazados por algoritmos— pero la semana muestra que la explotación no fue reemplazada por la irrelevancia: fue reorganizada bajo su sombra. El trabajador latinoamericano que etiqueta datos o modera contenido no es irrelevante. Es imprescindible y, precisamente por eso, prescindible como individuo: reemplazable, vigilado, pagado por tarea.

El modelo de amenaza importa porque decide qué se regula. Si el peligro se define como la máquina rebelde, la respuesta es más control de la máquina: más pruebas de alineamiento, más “botones de apagado”, más investigación de seguridad técnica. Si el peligro se define como el humano que dirige la máquina contra otros humanos, la respuesta es otra: derechos exigibles, contrapoder colectivo, auditoría externa, límites legales a lo que un empleador puede hacer con un sistema. La primera respuesta deja intacto el poder del que despliega. La segunda lo confronta. No es casualidad que la industria financie con entusiasmo la primera conversación y trate la segunda como un obstáculo regulatorio.

Marta Peirano ofreció la imagen más nítida de esta inversión al describir cómo, en China, “el Ministerio de Trabajo se ha convertido en el Ministerio de Recursos Humanos y Seguridad Social, uniendo la institución creada para proteger la integridad del mercado de trabajo… con la empresa diseñada específicamente para destruirlos” El enemigo conoce el sistema. El modelo de amenaza equivocado hace precisamente eso: funde la protección con la vigilancia, presenta el instrumento de control como si fuera el instrumento de cuidado. La IA que “protege” la productividad es la misma que erosiona la autonomía del trabajador. Nombrar bien la amenaza es el primer acto de defensa.

La discriminación la documenta el periodismo, no la evaluación de impacto

Si la gobernanza corporativa realmente detectara los daños que dice gestionar, esperaríamos que los sesgos de estos sistemas aparecieran primero en las evaluaciones de impacto internas, señalados por los propios equipos de cumplimiento antes del despliegue. La realidad es la inversa. Los casos de discriminación algorítmica que conocemos casi siempre salen a la luz por el periodismo de investigación, por demandas laborales, por denuncias de trabajadores —nunca por el marco de riesgo que supuestamente los previene. Eso no es una falla del marco; es una revelación sobre para qué sirve.

Un marco de evaluación de impacto que descubre daños antes de que ocurran es incómodo para la organización: le impone costos, retrasos, la obligación de rediseñar o cancelar. Un marco que los descubre después, si es que los descubre, o que los reclasifica como residuales aceptables, es cómodo: produce el papeleo de la responsabilidad sin su sustancia. Ruha Benjamin llamó a esta clase de mecanismos parte del “New Jim Code”: tecnologías que reproducen jerarquías bajo una capa de neutralidad y objetividad técnica Race After Technology. La evaluación de impacto que no encuentra nada no es prueba de que no haya daño; a menudo es prueba de que el instrumento fue diseñado para no encontrarlo.

Virginia Eubanks documentó el mismo patrón en los sistemas automatizados de asignación de servicios sociales: herramientas presentadas como más justas y objetivas que la discreción humana terminaban penalizando con mayor dureza a los más pobres, precisamente porque codificaban sospechas y sesgos en reglas que después se presentaban como imparciales Automating Inequality. El punto no es que estos sistemas fallen al azar. Fallan sistemáticamente contra los mismos grupos, y esa sistematicidad los vuelve invisibles a un marco de riesgo que solo mide promedios agregados. Un modelo puede tener una tasa de error “aceptable” en general y devastadora para un subgrupo específico. El apetito de riesgo, que promedia, no lo ve. El periodismo, que busca a la persona concreta, sí.

La implicación es dura pero necesaria: mientras la detección de la discriminación dependa de que un periodista con tiempo, un sindicato con recursos o un trabajador dispuesto a arriesgar su empleo la saque a la luz, la rendición de cuentas será episódica, tardía y desigual. Los abusos que nadie tiene el poder de documentar simplemente no existirán en el registro. Y en América Latina, donde el periodismo de investigación tecnológica es escaso y los recursos sindicales para auditar sistemas son mínimos, esa dependencia significa que la mayoría de los daños jamás llegarán a contarse.

La consulta laboral, sepultada como un punto más de la lista

Existe un contrapeso real al poder del empleador sobre estos sistemas, y no es misterioso ni utópico: la consulta obligatoria a los representantes de los trabajadores antes de desplegar tecnología que los afecta. En varias tradiciones jurídicas europeas, la introducción de sistemas de monitoreo o de decisión automatizada que impacten las condiciones de trabajo exige negociación con el comité de empresa. No es una prohibición; es una obligación de compartir la decisión. Es, quizá, el único mecanismo que convierte el “apetito de riesgo” de una declaración unilateral en algo negociado.

Y sin embargo, en los marcos de gobernanza de IA, esa consulta suele aparecer sepultada como un ítem entre docenas: un punto de cumplimiento en una lista de verificación, al mismo nivel que la documentación del modelo o la política de retención de datos. Su degradación retórica es reveladora. Cuando el derecho colectivo más importante —el de participar en la decisión que te afecta— se presenta con el mismo peso que un requisito de formato, el mensaje es claro: el diseño del marco prefiere el cumplimiento técnico a la deliberación política. Freire distinguió entre una educación bancaria, que deposita contenidos en un sujeto pasivo, y una práctica de libertad que pasa por nombrar el mundo junto a otros Pedagogía del oprimido. La gobernanza de IA dominante es bancaria: deposita en el trabajador un sistema ya decidido y le pide, a lo sumo, que acuse recibo.

El contraste con Sudáfrica ilumina el problema desde otro ángulo. El país ha retrasado su política nacional de IA hasta 2027 —un aplazamiento que, desde cierta lectura, parece prudencia deliberativa: mejor una buena política tarde que una mala pronto. Pero mientras la política se demora, los despliegues no se demoran. Los bancos siguen automatizando decisiones de crédito, los hospitales siguen incorporando sistemas de triaje, los call centers siguen instalando monitoreo emocional y de productividad. El vacío regulatorio no es neutral: es tiempo regalado al que despliega. Cada mes sin regla es un mes en que el apetito de riesgo lo fija exclusivamente la empresa, sin contrapeso legal alguno. La deliberación pausada de arriba se paga con la exposición acelerada de abajo.

Esta es la asimetría temporal que rara vez se discute. La tecnología se despliega a la velocidad del capital; la regulación avanza a la velocidad de la deliberación democrática. Entre una y otra hay un intervalo, y ese intervalo no es espacio muerto: es un período en el que se consolidan prácticas, se normalizan expectativas, se acumulan datos y se forman hábitos organizacionales que después serán casi imposibles de revertir. Cuando la política de 2027 llegue, encontrará un terreno ya ocupado.

América Latina no está esperando la cadena: ya es un eslabón

Conviene resistir una tentación cómoda: la de leer todo esto como un problema del Norte que eventualmente llegará a nuestra región. No va a llegar. Ya está aquí. Los centros de etiquetado de datos, de moderación de contenido y de transcripción que alimentan a las grandes plataformas operan en América Latina desde hace años, subcontratados a través de cadenas de intermediación que difuminan quién es el empleador real y bajo qué ley se responde. La prensa tecnológica rara vez los nombra con país y con salario. Aparecen, cuando aparecen, como “operaciones de anotación” o “servicios de datos”, eufemismos que borran a las personas.

Aquí conviene aplicar explícitamente la lente de disponibilidad, invertida respecto de su uso habitual. Solemos preguntar si una tecnología está disponible para América Latina —si podemos acceder al último modelo, a la última herramienta. La pregunta correcta esta semana es la contraria: ¿qué de América Latina está disponible para la industria de la IA? Y la respuesta es su fuerza de trabajo. La región es un insumo. La disponibilidad que importa no es la de los modelos para nuestros usuarios, sino la de nuestros trabajadores para las cadenas de suministro globales, a un costo que, medido en dólares del Norte, es una fracción. Un anotador en Buenos Aires, Bogotá o San Salvador es “disponible” en el sentido en que lo es una mina: como recurso extraíble a bajo costo.

Los números de contexto ayudan a dimensionar la brecha que hace atractiva esta extracción. El PIB per cápita de Argentina ronda los 13.969 dólares Argentina — ILIA / World Bank, el de México los 14.185 Mexico — ILIA / World Bank, y el de El Salvador apenas 5.579 El Salvador — ILIA / World Bank. Frente a los salarios del sector tecnológico del Norte, estos niveles convierten a la región en un destino racional para la subcontratación de trabajo de datos. Y aquí entra la lente de accesibilidad: para el trabajador latinoamericano concreto, este empleo es accesible y hasta deseable frente al desempleo o la informalidad local. Ese es justamente el punto incómodo. No se trata de trabajos que nadie quiere; se trata de trabajos que muchos necesitan, ofrecidos en condiciones que la necesidad vuelve difíciles de rechazar. El pago por tarea, la ausencia de prestaciones, el contrato inexistente o precario, la jerga contractual importada que difumina la relación laboral —todo eso se acepta no porque sea justo, sino porque la alternativa es peor. La accesibilidad, en este caso, es la forma que toma la falta de poder de negociación.

El Salvador ofrece un caso especialmente elocuente por su combinación de PIB per cápita bajo y una Agenda Digital 2020-2030 que apuesta por insertarse en la economía tecnológica global El Salvador — ILIA / World Bank. La pregunta que ninguna agenda digital de la región responde con claridad es bajo qué condiciones se produce esa inserción. Insertarse como proveedor de trabajo de datos precario no es lo mismo que insertarse como productor de valor tecnológico con derechos laborales protegidos. La diferencia entre una y otra ruta no la define el mercado; la define la política. Y la política, hasta ahora, ha preferido la foto de la inversión al examen de las condiciones —un patrón que esta publicación ya señaló al analizar la visita de Nvidia a México como una celebración sin cláusulas AI News Social — SA 2026-09-06. El delta esta semana es que el problema no está solo en los grandes anuncios de infraestructura, sino en el trabajo cotidiano, invisible y desprotegido que ya sostiene la cadena mucho antes de que llegue cualquier centro de datos.

La aplicabilidad que hereda el riesgo

Hay una tercera lente que vale la pena activar aquí: la de aplicabilidad. Las industrias latinoamericanas que consumen estos modelos —banca, retail, medios, salud, gobierno— no son espectadoras de la cadena de suministro laboral de la IA. Son sus financiadoras finales. Cada banco que despliega un modelo de scoring crediticio, cada retailer que usa un sistema de atención al cliente automatizado, cada hospital que incorpora un asistente diagnóstico, está pagando —río arriba— por el trabajo de anotación y moderación que hizo posible ese sistema. Y casi ninguno audita esa cadena.

Esto tiene una consecuencia práctica que va más allá de la ética: el riesgo se hereda. Cuando estalla un escándalo de condiciones laborales en un proveedor de datos, o cuando una regulación futura exija trazabilidad de la cadena de suministro, las empresas latinoamericanas que consumieron esos modelos sin preguntar heredarán el pasivo reputacional y regulatorio. Compraron capacidad técnica; recibieron, sin saberlo o sin querer saberlo, una exposición. El apetito de riesgo del proveedor se convierte, por transitividad, en el riesgo del comprador. La gobernanza que no mira río arriba no es gobernanza; es negación con papeleo.

El contraargumento honesto es que esta trazabilidad es costosa y difícil. Las cadenas de suministro de datos son opacas por diseño, con múltiples capas de subcontratación que ni el proveedor directo conoce completamente. Exigir trazabilidad laboral completa a cada comprador de IA en la región podría, en el límite, encarecer tanto la adopción que la frene —y frenar la adopción de IA en América Latina tiene sus propios costos, en productividad y en competitividad. Es un dilema real y no conviene resolverlo con voluntarismo. Pero reconocer la dificultad no es lo mismo que aceptar la opacidad. Entre la trazabilidad total imposible y la ignorancia deliberada actual hay un amplio espacio de exigencias razonables: certificaciones de terceros, cláusulas contractuales mínimas, auditorías por muestreo. La dificultad justifica gradualismo, no parálisis.

Las alternativas existen y son pequeñas, que es distinto de que no existan

Contra el fatalismo —“esto es así, la cadena global manda, no hay nada que hacer”— conviene registrar que ya funcionan alternativas concretas, aunque a escala modesta. Existen cooperativas de datos y de etiquetado que declaran salarios, pagan prestaciones y comparten la propiedad del trabajo con quienes lo hacen. Existen experiencias de auditoría sindical de la cadena de suministro, donde los trabajadores organizados exigen transparencia sobre las condiciones río arriba. Existen esquemas de compra pública que incorporan trazabilidad laboral como criterio de adjudicación, de modo que el Estado no compre sistemas manchados por la precariedad.

La lente de alternativas obliga a nombrarlas sin idealizarlas. Son pequeñas frente al volumen de la subcontratación precaria. Una cooperativa de anotadores no va a desplazar a la industria de datos de bajo costo por su cuenta. Pero su función no es competir en volumen; es fijar un estándar exigible. Una vez que existe una cooperativa que paga salarios declarados y demuestra que el trabajo de datos puede hacerse con dignidad y aun así ser viable, la excusa de que “es imposible pagar más” pierde fuerza. Las alternativas pequeñas importan no por su tamaño sino por lo que vuelven decible: que otra forma de organizar el trabajo es posible, y que la actual es una elección, no una ley natural.

Aquí es donde el debate latinoamericano puede aportar algo propio en lugar de importar marcos. La región tiene una tradición robusta de cooperativismo, de economía social y de organización sindical que el Norte, en su versión más financiarizada, casi ha olvidado. Aplicar esa tradición al trabajo de datos —imaginar cooperativas de anotación, sindicatos de moderadores de contenido, contratos colectivos para el trabajo gig de IA— no es una fantasía; es una extensión natural de instituciones que ya existen. La pregunta es si la política pública las apoyará o si dejará que el mercado, por defecto, imponga la subcontratación precaria como norma.

Lo que la región debería anticipar

La lente de anticipación cierra el arco. El peor escenario no es que la subcontratación precaria de trabajo de IA llegue a América Latina —ya llegó—. El peor escenario es que se consolide como norma irreversible antes de que exista siquiera una conversación pública sobre ella. La irreversibilidad no es un rasgo de la tecnología; es un rasgo del tiempo. Cuanto más se demore la regulación, más difícil será revertir las prácticas ya instaladas.

Hay, al menos, tres medidas anticipatorias que la región podría tomar mientras la ventana sigue abierta. La primera es un registro público de la cadena de suministro laboral de la IA: exigir que los proveedores que operan en la región declaren quién hace el trabajo de datos, dónde, bajo qué contrato y por cuánto. La transparencia no resuelve la explotación, pero la vuelve visible, y lo invisible no se puede regular ni organizar. La segunda es la incorporación de cláusulas de derechos del trabajador en la contratación estatal de sistemas de IA: el Estado latinoamericano es un comprador enorme de tecnología, y su poder de compra es palanca regulatoria antes que cualquier ley específica se apruebe. La tercera es una conversación sindical explícita sobre la moderación de contenido y el trabajo de datos —reconocer a estos trabajadores como trabajadores, con derecho a organizarse, en lugar de tratarlos como “contratistas independientes” cuya soledad es funcional al modelo.

Ninguna de estas medidas requiere esperar a 2027. Ninguna requiere resolver primero el debate filosófico sobre la superinteligencia. Todas parten de una premisa simple: que la IA es una relación laboral antes que un logro técnico, y que las relaciones laborales se gobiernan con derechos, no con apetitos de riesgo declarados unilateralmente por quien tiene el poder.

Las preguntas que quedan abiertas

Queda una tensión que este ensayo no resuelve, y es honesto dejarla planteada. Si el empleo de datos es accesible y deseable para trabajadores que enfrentan el desempleo, y si exigir mejores condiciones podría encarecerlo hasta desplazarlo a otra región más barata, ¿no es la protección laboral, en el límite, un lujo que la necesidad no puede pagar? Es el argumento que siempre se opone a la regulación laboral en economías dependientes, y no conviene despacharlo con indignación. La respuesta no está en negar el dilema sino en rechazar su falso binario. La historia del derecho laboral es precisamente la historia de sociedades que decidieron que ciertas condiciones eran inaceptables aun cuando alguien estuviera dispuesto a aceptarlas por necesidad. La jornada de ocho horas también encarecía el trabajo; se impuso igual, porque la dignidad no se subasta a la baja.

La segunda pregunta abierta es sobre el sujeto de la acción. ¿Quién impulsa estas medidas en una región donde los sindicatos han sido debilitados, la fiscalización laboral es escasa y los Estados compiten por atraer inversión ofreciendo, precisamente, mano de obra barata y poca regulación? El contrapeso real —el poder colectivo de los trabajadores— es justamente lo que las últimas décadas se dedicaron a erosionar. Reconstruirlo para la economía de la IA no es un ajuste técnico; es un proyecto político de largo aliento.

Y la tercera, la más incómoda: mientras esperamos que la política reaccione, los sistemas se despliegan. Cada semana que pasa sin registro público, sin cláusulas laborales, sin conversación sindical, es una semana en que el apetito de riesgo lo fija el patrón y el resto de nosotros lo hereda. El umbral del daño aceptable lo está fijando alguien, ahora mismo, en una sala donde los trabajadores no están. La pregunta no es si habrá gobernanza de la IA en el trabajo. Ya la hay. La pregunta es de quién será la mano que dibuje el umbral —y si América Latina va a llegar a esa sala antes de que la puerta se cierre.