Un solo día, tres caídas: la promesa del agente y la dependencia que nadie audita
Hubo un día, esta semana, en que tres de las herramientas de IA más publicitadas del mundo dejaron de responder casi al mismo tiempo. ChatGPT, Claude y Grok —tres marcas que la prensa tecnológica presenta como rivales, como si el mercado ofreciera opciones genuinamente distintas— fallaron dentro de la misma ventana, y en esa coincidencia hay más información sobre la naturaleza de estas herramientas que en cualquier anuncio de producto. Porque la caída simultánea no es un accidente estadístico: es la radiografía de una infraestructura que se presenta como plural y opera como singular. Detrás de los logos que compiten por tu suscripción hay un puñado de proveedores de cómputo, de nubes, de cadenas de dependencia que se cruzan hasta volverse el mismo punto único de falla. Y cuando ese punto falla, no falla una herramienta: fallan todas las que dependen de ella.
La tesis que quiero defender esta semana es incómoda para quien ya integró estas herramientas en su flujo de trabajo, y lo es para las industrias latinoamericanas que las están adoptando a toda velocidad sin auditar lo que compran. El rasgo definitorio de las herramientas de IA de esta generación ya no es su capacidad —que es real y creciente— sino su dependencia: la manera en que concentran, en unos pocos nodos infraestructurales, el riesgo de millones de usuarios que creen estar diversificando cuando en verdad están apostando todo al mismo caballo con distintas monturas. A esa dependencia se le suma una segunda propiedad, más silenciosa: estas herramientas retienen, sistemáticamente, todo lo que haría falta para auditarlas. No publican los pesos, ni los parámetros, ni el corpus con que fueron entrenadas; no reportan cuánta energía consume cada consulta; no dejan rastro reproducible de cómo llegaron a una respuesta. Y cuando esa opacidad produce daño —una alucinación citada como hecho en un tribunal, por ejemplo— la respuesta institucional no audita el producto: regula al usuario que se atrevió a confiar en él.
La pluralidad de marcas y la unicidad de la infraestructura
Empecemos por el hecho más duro de la semana. La caída conjunta de tres proveedores desmiente, de un solo golpe, uno de los consejos de gestión de riesgo más repetidos en los foros de adopción corporativa: “no dependas de un solo modelo, usá varios”. El consejo suena prudente. Presupone que ChatGPT, Claude y Grok son puntos de falla independientes, de modo que si uno cae, los otros sostienen la operación. Pero la independencia estadística que ese consejo asume no existe. Los grandes modelos de lenguaje corren sobre una capa de infraestructura —centros de datos, proveedores de nube, redes de distribución de contenido— tan concentrada que una perturbación en un nodo se propaga a marcas que el usuario creía separadas. Diversificar entre modelos que comparten el mismo sustrato físico no es diversificar riesgo: es multiplicar la ilusión de haberlo hecho.
Esta confusión entre pluralidad aparente y unicidad real no es nueva en la historia de la tecnología, pero la IA la lleva a un extremo. Kate Crawford lo describe con precisión cuando insiste en que la inteligencia artificial no es ni artificial ni inteligente en el sentido que el marketing sugiere, sino una industria material, planetaria, hecha de recursos extraídos, cómputo centralizado y trabajo humano The Atlas of AI - Power, Politics, and the Planetary Costs. La palabra clave es centralizado. Cuando una herramienta se vende como parte de un “ecosistema” —término que evoca diversidad biológica, resiliencia, abundancia de nichos— conviene preguntarse cuántos organismos distintos hay realmente en ese ecosistema y cuántos son la misma criatura con distintos nombres comerciales. La caída simultánea contestó la pregunta sin ambigüedad.
Para el usuario latinoamericano que integra estas herramientas en su trabajo cotidiano, la lección es concreta y cara. Un estudio jurídico en Buenos Aires, una redacción en Bogotá, un equipo de soporte en Ciudad de Guatemala que decidió automatizar respuestas: todos ellos, si construyeron su operación sobre “varios modelos” para no depender de uno, descubrieron ese día que dependían de una infraestructura única sobre la que no tienen ni visibilidad ni control. La centralización no está disfrazada de monopolio —eso sería demasiado visible— sino de ecosistema, que es la forma más eficaz de esconder la concentración: hacerla parecer su contrario.
El agente que conduce tu navegador y no rinde cuentas
Mientras la infraestructura demostraba su fragilidad, la industria seguía vendiendo la próxima capa de promesa: el agente. Ya no un modelo que responde preguntas, sino un sistema que actúa —que abre tu navegador, llena formularios, hace compras, agenda reuniones, ejecuta tareas en tu nombre a través de las interfaces que vos usás. La palabra “agente” es elegante porque desliza una atribución de autonomía: el agente decide, el agente hace, el agente se ocupa. Pero esa gramática de la autonomía oculta la pregunta central de las herramientas: ¿quién responde cuando el agente hace algo mal?
Ya argumentamos en estas páginas que los agentes autónomos no eliminan la fricción sino que transfieren sus costos ocultos al usuario en forma de dependencia, gasto y consumo de recursos. Esa sigue siendo cierta, pero el delta de esta semana es otro: no se trata solo de que el costo se transfiera, sino de que la rendición de cuentas se transfiera con él. Cuando un agente conduce tu navegador y ejecuta acciones con tus credenciales, en tus cuentas, con tu identidad digital, el proveedor de la herramienta se coloca en una posición extraordinaria: dirige la acción sin asumir la responsabilidad de la acción. El contrato de uso —esa jerga que casi nadie lee— asigna al usuario la responsabilidad de todo lo que el agente haga “en su nombre”, incluso cuando el usuario no puede auditar qué hizo el agente ni por qué.
Aquí conviene ser preciso sobre lo que significa “no poder auditar”. No es una queja retórica. Una afirmación de reproducibilidad —el estándar mínimo que cualquier disciplina técnica exige para llamar a algo un resultado y no una anécdota— requiere ciertos campos: los pesos del modelo, los parámetros de configuración, el corpus de entrenamiento, la semilla aleatoria, el registro de la inferencia. Estos son los datos que permiten a un tercero repetir el procedimiento y verificar que la respuesta no fue un accidente ni una fabricación. Las herramientas comerciales de esta generación retienen todos esos campos. Vos podés ver la respuesta, pero no podés ver cómo se produjo, ni reproducirla, ni contrastarla contra el proceso que la generó. En términos de García Canclini, la asimetría es doble y precisa: opacidad de los algoritmos y transparencia de nuestros datos —ellos saben todo de nosotros, nosotros nada de ellos, y ese vínculo laboral y de uso desigual pone en duda nuestra capacidad de actuar como sujetos y no como insumos Ciudadanos reemplazados por algoritmos.
El agente, entonces, es el punto donde la opacidad deja de ser una molestia epistemológica y se vuelve un problema de responsabilidad legal y económica. Un modelo que responde mal a una pregunta te hace perder tiempo. Un agente que actúa mal en tu nombre te hace perder dinero, contratos, reputación o datos —y lo hace a través de una caja negra que ninguna de las dos partes del contrato puede abrir. El vendedor no puede (o no quiere) mostrar cómo decidió el agente; el usuario no puede verificarlo. La herramienta actúa en el mundo real con consecuencias reales, y sin embargo su funcionamiento interno queda fuera del alcance de todos.
El costo que escala con el uso y que nadie reporta
Hay un campo que las herramientas retienen con especial celo: el costo energético de la inferencia. No el costo de entrenar el modelo —ese se paga una vez y ya circula en estimaciones públicas— sino el costo de usarlo, que se paga cada vez, con cada consulta, con cada acción del agente, y que escala directamente con el volumen de uso. Cada vez que el agente conduce tu navegador, cada vez que el modelo genera un párrafo, se consume energía y agua de refrigeración en un centro de datos que el usuario no ve y cuya factura ambiental no aparece en ninguna interfaz.
Crawford documenta que el trabajo invisible y los costos materiales de la IA existen en todas las etapas de la cadena, desde la minería de recursos hasta la operación de los centros de cómputo, y que la industria ha logrado mantener esos costos fuera de la conversación precisamente porque no aparecen en el punto de consumo The Atlas of AI - Power, Politics, and the Planetary Costs. El usuario ve un chat limpio, una respuesta instantánea, una interfaz frictionless. No ve el consumo. Y lo que no se reporta no se puede regular, no se puede optimizar, no se puede siquiera discutir.
Para América Latina esto tiene una dimensión que la prensa tecnológica del norte tiende a ignorar. Los centros de datos que sirven a estas herramientas se instalan crecientemente en la región —Chile, con exportaciones de alta tecnología del 8.3% de su manufactura y una de las mejores posiciones regionales en preparación para IA, se ha vuelto destino de inversión en infraestructura de cómputo Chile — ILIA 70.2/100. Pero el consumo de agua y energía de esos centros compite con necesidades locales en territorios donde ya hay estrés hídrico. La factura de inferencia no reportada no es solo una omisión contable: es un costo real que se localiza en comunidades específicas mientras el beneficio se globaliza. El usuario en Santiago que le pide una tarea a un agente no ve que el costo de esa tarea puede estar cayendo sobre un acuífero a pocos kilómetros de su casa.
Y hay un problema estructural en que el costo escale con el uso mientras el precio se presente como plano o por suscripción. Significa que el proveedor tiene un incentivo para incrementar tu uso —más consultas, más acciones del agente, más “conveniencia”— aunque cada incremento tenga un costo material creciente que él absorbe hasta que decide no absorberlo más. La lógica es la misma que denunció Shoshana Zuboff en el capitalismo de vigilancia: el modelo de negocio no está diseñado para servirte sino para extraer de vos un flujo de comportamiento cada vez mayor, y la “gratuidad” o el precio plano son el anzuelo, no el trato The Age of Surveillance Capitalism. Cuando la herramienta te empuja a usarla más, no te está haciendo un favor: está construyendo tu dependencia y difiriendo el momento en que te presentará la cuenta completa.
La alucinación en el tribunal: se regula al firmante, no al sistema
El tercer movimiento de la semana es el más revelador sobre cómo el poder institucional está decidiendo distribuir la responsabilidad. Los tribunales de varias jurisdicciones vienen respondiendo a un problema concreto: abogados que presentan escritos con citas de jurisprudencia inventadas por un modelo de lenguaje —casos que no existen, precedentes fabricados, fallos alucinados con una confianza sintáctica que los hace parecer reales. El problema es grave: una herramienta que produce ficción con la gramática de la verdad, insertada en un procedimiento donde la verdad de las citas es todo.
La respuesta de los tribunales es instructiva por lo que hace y por lo que se niega a hacer. Las nuevas reglas vigilan al firmante: exigen que el abogado certifique haber verificado cada cita, imponen sanciones a quien presente material generado por IA sin comprobarlo, obligan a declarar el uso de la herramienta. Todo eso recae sobre el usuario. Nada recae sobre el sistema que produjo la alucinación. No hay regla que exija al proveedor del modelo reportar su tasa de fabricación, ni marcar las respuestas cuya confianza interna es baja, ni auditar por qué su herramienta inventa jurisprudencia con tanta soltura. La institución responde a la falla del producto regulando al consumidor del producto.
Esta asimetría no es casual ni ingenua. Es el patrón por defecto con que las instituciones absorben una tecnología cuyo funcionamiento no entienden y cuyos proveedores tienen más poder que ellas: se traslada la carga de la responsabilidad hacia el eslabón más débil y más visible de la cadena —el usuario individual, el firmante, el profesional— y se deja intacto el eslabón más poderoso y más opaco —el sistema, el proveedor, la infraestructura. Es más fácil sancionar a un abogado que auditar a una corporación tecnológica transnacional. Y es más barato, políticamente, tratar la alucinación como un fallo de diligencia humana que como un defecto de diseño del producto.
Ya señalamos en estas páginas que la inyección de prompts no es un bug parcheable sino una falla arquitectónica de los modelos de lenguaje, y que América Latina importa estas herramientas sin verificación local. La alucinación pertenece a la misma familia: no es un error ocasional que un mejor modelo eliminará, sino una propiedad de sistemas que generan texto plausible sin ningún mecanismo interno para distinguir lo verdadero de lo verosímil. El delta de esta semana es que ahora vemos cómo las instituciones eligen responder a esa propiedad estructural: no exigiendo que el producto la corrija, sino castigando a quien la sufra. El próximo paso —el que la región debería anticipar— es exigir mecanismos concretos de responsabilidad jurídica del proveedor, no solo del usuario.
Contraargumento: ¿no es acaso responsabilidad del usuario?
Conviene detenerse en la objeción más fuerte contra todo lo anterior, porque tiene fuerza real. Alguien dirá: el abogado que presenta citas falsas es negligente, y con razón se lo sanciona; el usuario que construye su operación sobre una sola infraestructura sin plan de contingencia es imprudente; el que no lee el contrato de uso asume lo que firmó. La herramienta es una herramienta —un martillo no responde por el dedo que golpea. La responsabilidad, dice la objeción, es de quien usa mal el instrumento.
El argumento es sólido hasta que se examina el desequilibrio de información sobre el que descansa. La analogía del martillo falla en un punto decisivo: un martillo es transparente, su funcionamiento es visible, y quien lo usa puede evaluar completamente qué hace y por qué. Una herramienta de IA es opaca por diseño; retiene precisamente los campos que permitirían a un usuario diligente evaluarla. No se le puede exigir a alguien la diligencia de verificar lo que el propio proveedor hace imposible verificar. Cuando el abogado no puede saber la tasa de alucinación de la herramienta porque el proveedor no la reporta, la exigencia de “verificar cada cita” es real pero insuficiente: verifica el output caso por caso, pero no puede evaluar el instrumento. La responsabilidad del usuario existe, pero es una responsabilidad amputada, ejercida sobre una fracción de la información necesaria para ejercerla bien.
Hay además una asimetría de poder que la analogía borra. El usuario individual no negoció el contrato de uso; lo aceptó como condición de acceso a una herramienta que se ha vuelto casi indispensable en muchos oficios. Freire lo diría en otros términos: la relación en la que un polo deposita condiciones y el otro solo puede recibirlas es una relación de sujeto a objeto, y la respuesta no es aceptar mejor las condiciones sino recuperar la capacidad de nombrarlas y cuestionarlas Pedagogía del oprimido. Tratar al usuario como único responsable de un sistema que no puede auditar ni negociar es una forma de esa relación bancaria trasladada al terreno tecnológico: el proveedor deposita el riesgo, el usuario lo recibe.
Esto no significa exonerar al usuario. Significa distribuir la responsabilidad en proporción al poder y a la información de cada parte. Quien diseña un sistema opaco, lo comercializa como confiable, retiene los campos de auditoría y no reporta sus tasas de falla, tiene una responsabilidad que ninguna certificación del firmante puede sustituir. La objeción del “usuario negligente” es, en el fondo, la misma operación que hacen los tribunales: mirar al eslabón visible y no al poderoso.
Lentes latinoamericanas: aplicabilidad y anticipación
Corresponde ahora aplicar dos de las lentes con que esta publicación lee la realidad regional, porque el análisis abstracto de dependencia y opacidad tiene consecuencias distintas según dónde caiga.
Aplicabilidad. Las industrias latinoamericanas que ya consumen estos modelos —banca, retail, medios, salud, gobierno— están financiando una cadena de dependencia que no auditan y cuyos fallos heredarán como riesgo propio. Cuando un banco en São Paulo o una aseguradora en Santiago integra un agente de IA en su atención al cliente, no está comprando una capacidad: está comprando una dependencia de infraestructura extranjera opaca, con un contrato que le transfiere la responsabilidad y le niega la auditabilidad. El día de la caída simultánea, esas industrias descubrieron el punto único de falla que habían instalado en el corazón de su operación. Y cuando el agente alucine, o cuando actúe mal en nombre de la empresa, será la empresa —no el proveedor californiano— la que enfrente al regulador local, al cliente afectado, al tribunal. La región está importando no solo herramientas sino un modelo de asignación de responsabilidad que la deja siempre en el lado de la carga. Argentina, con su Plan Nacional de Inteligencia Artificial y una posición regional destacada en preparación para IA Argentina — ILIA 67.5/100, tiene la capacidad institucional para exigir trazabilidad; la pregunta es si la voluntad política la acompaña o si el entusiasmo adoptivo la desactiva.
Anticipación. La región debería preparar, antes de que la subcontratación precaria y la dependencia opaca se consoliden como norma irreversible, tres cosas concretas. Primero, registros públicos de la cadena de suministro de las herramientas de IA que el Estado contrata: qué infraestructura las sostiene, dónde corren, quién responde cuando fallan. Segundo, cláusulas de auditabilidad en la contratación estatal —que ningún organismo público compre un sistema cuyos campos de reproducibilidad el proveedor se niega a entregar, porque un Estado que no puede auditar la herramienta con que decide sobre sus ciudadanos ha delegado su soberanía en una caja negra. Tercero, una exigencia de reporte del costo de inferencia —energético e hídrico— para los centros de datos que operan en territorio latinoamericano, de modo que la factura ambiental deje de ser invisible en el punto donde efectivamente se paga. Guatemala, con recursos institucionales más modestos y una Política Nacional de Gobierno Electrónico aún en desarrollo Guatemala — ILIA 45.2/100, ilustra la asimetría regional: no todos los países tienen la misma capacidad de exigir estas condiciones, y el riesgo es que las herramientas se impongan primero donde menos capacidad de negociación hay, fijando ahí el estándar más bajo.
La lente de las alternativas merece al menos una mención, porque el diagnóstico sin salida es una forma de resignación. Ya funcionan, aunque a escala pequeña, modelos de infraestructura distribuida, auditorías independientes de sistemas de IA, y esquemas de contratación pública que exigen trazabilidad al proveedor. Son diminutos frente al volumen de la adopción comercial, pero fijan el estándar de lo exigible: demuestran que una herramienta auditable es técnicamente posible, y por lo tanto que la opacidad de las herramientas comerciales es una decisión de negocio, no una necesidad técnica. Esa distinción importa, porque desplaza la conversación de “así son estas herramientas” a “así eligieron hacerlas quienes las venden”.
Cierre: la dependencia como propiedad, no como accidente
Un solo día, tres caídas. La coincidencia condensó lo que el resto de la semana confirmó por otras vías: que el rasgo definitorio de las herramientas de IA de esta generación no es su capacidad sino su dependencia, y que esa dependencia está distribuida de manera profundamente asimétrica. El proveedor concentra el poder —controla la infraestructura, retiene los campos de auditoría, redacta el contrato, no reporta el costo. El usuario concentra el riesgo —hereda la responsabilidad, sufre la caída, paga la factura oculta, enfrenta al tribunal. Y entre ambos hay una caja negra que ninguno de los dos puede abrir.
Lo que esta semana deja claro es que la opacidad no es un defecto que el próximo modelo corregirá. Es una propiedad funcional del modelo de negocio: retener los campos de reproducibilidad protege la ventaja competitiva; no reportar el costo de inferencia protege el margen; transferir la responsabilidad al usuario protege del litigio. Cada una de estas opacidades sirve a quien vende la herramienta, y cada una perjudica a quien la usa. Llamar a esto “los desafíos de una tecnología emergente” es aceptar el marco de quien se beneficia de que sigamos tratando decisiones de negocio como límites técnicos.
Para América Latina la pregunta abierta no es si adoptar estas herramientas —esa decisión, en muchos sectores, ya está tomada y sería ingenuo pretender revertirla. La pregunta es en qué términos, y quién los fija. Si la región las adopta bajo los términos del proveedor —opacidad, dependencia, responsabilidad transferida, costo no reportado— estará construyendo una infraestructura crítica sobre cajas negras extranjeras que no puede auditar ni controlar, y descubrirá el punto único de falla cada vez que ese punto falle. Si en cambio usa lo que le queda de poder de compra —especialmente el poder de compra estatal, que es considerable— para exigir auditabilidad, trazabilidad y reporte de costos como condición de contratación, empezará a desplazar el equilibrio hacia el lado del usuario.
Quedan preguntas que esta semana no resuelve. ¿Puede una región que no produce estos modelos, sino que los importa, imponer condiciones de auditabilidad a proveedores que operan desde jurisdicciones donde esas condiciones no existen? ¿Alcanza el poder de compra estatal latinoamericano para mover el estándar, o es demasiado pequeño frente al mercado global? ¿Y quién construirá la capacidad técnica local para auditar sistemas cuya opacidad está diseñada para resistir la auditoría? No tengo respuestas cerradas para ninguna. Pero sé cuál es el primer movimiento: dejar de leer la caída simultánea como una mala racha de servidores y empezar a leerla como lo que fue —la demostración pública de que la pluralidad que compramos es una sola infraestructura, y de que nadie, hoy, la está auditando en nombre de quienes dependen de ella.