La revolución que no cambió de problemas: agentes autónomos en LATAM bajo la lente de Kuhn

Esta semana, los agentes autónomos llegaron a la región con bombo de revolución. Google empuja Project Mariner. OpenAI empuja Operator. Startups locales prometen automatizar la contabilidad de la pyme y los trámites del municipio. La palabra que se repite en los lanzamientos es una sola: cambio de paradigma. Ya no se trata de un programa que responde preguntas, dicen. Se trata de un asistente que actúa por vos.

Vale la pena detenerse en esa palabra. “Paradigma” no es decoración. Es un término técnico que Thomas Kuhn afiló durante décadas para describir algo muy preciso, y casi nadie que lo usa en marketing sabe lo exigente que era el original. Un paradigma, para Kuhn, es el conjunto compartido de problemas que una comunidad considera resolubles, más los modelos de buen trabajo que usa para enseñar a los nuevos qué cuenta como solución. Un cambio de paradigma no es un producto mejor. Es cuando el mapa entero se rompe y hay que dibujar otro.

Entonces la pregunta kuhniana es directa, casi grosera: ¿cambiaron los problemas? ¿O nos vendieron una herramienta más rápida dentro del mismo mapa de siempre, envuelta en el lenguaje de la ruptura?

Ciencia normal disfrazada de revolución

Kuhn distinguía entre dos cosas que el discurso tecnológico colapsa sin pudor. Una es la ciencia normal: el trabajo cotidiano de resolver acertijos dentro de un marco que nadie cuestiona. La otra es la revolución: el momento raro en que el marco mismo cede. La mayor parte del progreso, insistía, es ciencia normal. Acumulación de logros dentro de reglas dadas. Y eso está bien — así es como avanza casi todo. El problema empieza cuando cada mejora incremental se vende como derrumbe del mundo viejo.

Los agentes autónomos son, en su mayoría, ciencia normal vistosa. El propio reporte del campo lo deja claro cuando describe qué hacen estos sistemas. El HAI_AI-Index-Report-2024 cuenta que un estudio evaluó más de veinticinco agentes basados en modelos de lenguaje sobre tareas como “online shopping, household management, puzzles, and digital card games” — compras en línea, gestión del hogar, acertijos y juegos de cartas. GPT-4 sacó la mejor nota: 4.01 sobre, presumiblemente, una escala que el propio informe define. Claude 2 sacó 2.49.

Mirá la lista de tareas. Comprar cosas. Ordenar el hogar. Jugar cartas. Estos no son problemas nuevos que la humanidad no podía abordar. Son acertijos viejos resueltos con una herramienta nueva. El paradigma de “automatizar tareas repetitivas con software” tiene décadas. Lo que cambió es que ahora el software conversa y encadena pasos. Eso es notable. No es un cambio de paradigma.

La maquinaria de Kuhn es más estricta justamente acá. Para que haya revolución, tienen que cambiar los problemas que la comunidad considera resolubles, y tienen que cambiar los ejemplares — los casos modelo que los nuevos miembros estudian para aprender qué es trabajo bueno. Un físico que aprendió mecánica newtoniana resolviendo problemas de planos inclinados aprende a ver el mundo de cierta manera. Si los ejemplares cambian, cambia la visión. Pero comprar en línea con un agente en vez de comprar en línea con clics no cambia qué cuenta como buena compra. Es el mismo ejemplar, ejecutado más rápido.

El determinismo encantado: cuando el método tapa el propósito

Hay una razón por la que el lenguaje de la revolución se pega a productos que son evolución modesta. Kate Crawford le puso nombre a esa razón, y conviene tomarlo prestado porque ilumina exactamente lo que pasa esta semana. En The Atlas of AI - Power, Politics, and the Planetary Costs describe el “enchanted determinism” — el determinismo encantado — y advierte que con él “are told to focus on the innovative nature of the method rather than on what is primary: the purpose of the thing itself.”

Traduzcamos. Se nos pide que miremos lo innovador del método en vez de mirar lo primario: el propósito de la cosa. Cuando un agente autónomo aterriza en una pyme de Quito o en un municipio de Córdoba, el lanzamiento nos invita a maravillarnos de cómo funciona — encadena pasos, razona, actúa solo. Lo que queda en sombra es para qué sirve y a quién sirve.

Crawford remata: el determinismo encantado “obscures power and closes off informed public discussion, critical scrutiny, or outright rejection.” Oscurece el poder. Cierra la discusión pública informada, el escrutinio crítico, o el rechazo directo. Y acá la lente de Kuhn y la de Crawford se cruzan de modo productivo. Llamarle “revolución paradigmática” a un producto hace precisamente ese trabajo de cierre. Si esto es una revolución inevitable, ¿qué sentido tiene discutir las condiciones? Una revolución no se negocia; se acata. La palabra misma desactiva la pregunta soberana que el fenómeno merece.

Por eso el escepticismo no es nostalgia. Es higiene. Antes de aceptar que el mapa cambió, hay que verificar que cambiaron los problemas. Y los problemas que un agente de compras resuelve son los mismos que ya teníamos. Lo que cambió es quién los resuelve, dónde vive ese quién, y a quién le rinde cuentas.

La doble lealtad: ¿para quién trabaja el agente?

Acá está el punto que el marketing entierra y que la lente kuhniana, bien usada, vuelve a sacar a la superficie. Un agente autónomo no es una herramienta neutra que ejecuta tu voluntad. Es un actor con lealtades, y esas lealtades no necesariamente son las tuyas.

La sospecha no es nueva. En The Filter Bubble se recoge una advertencia vieja de Jaron Lanier sobre los agentes de software. Como el comercio en línea vive de la publicidad, escribía Lanier, era improbable que las empresas lanzaran agentes que hicieran “such violence to their bottom line” — semejante violencia a su cuenta de resultados. Lo más probable era que estos agentes tuvieran “double loyalties—bribable agents.” Dobles lealtades. Agentes sobornables. “It’s not clear who they’re working for.” No está claro para quién trabajan.

Esa frase debería estar tatuada en cada contrato de adopción de agentes en la región. No está claro para quién trabajan. Cuando un agente de OpenAI gestiona las compras de tu negocio, ¿optimiza tu margen o el ecosistema comercial del proveedor que lo entrena? Cuando un agente automatiza un trámite municipal, ¿sirve al ciudadano o a la empresa que cobra por cada llamada a su modelo y que ve, de paso, todos los datos del gobierno?

El Age of Surveillance Capitalism muestra cómo termina esta película. Cuenta el caso de un asistente personal de Facebook, M, que iba a automatizarse del todo. Pero para 2017 la empresa había recortado sus ambiciones y enfocado al asistente en su misión central: el comercio. Un ejecutivo lo dijo sin eufemismos — el equipo estaba “finding ways to activate commercial intent inside Messenger,” buscando maneras de activar la intención comercial dentro de la mensajería. La idea era “prioritize commerce-driven experiences.” Priorizar experiencias guiadas por el comercio.

Ese es el destino por defecto del agente que no controlás. No te sirve a vos. Activa intención comercial dentro tuyo. Y si esto vale para un usuario en California, multiplicá la asimetría cuando el usuario es una pyme latinoamericana sin poder de negociación, y el agente vive en un servidor del Norte, entrenado con datos que no podés auditar.

Inconmensurabilidad: por qué la discusión no avanza

Hay un segundo concepto kuhniano que esta semana hace mucho trabajo, y es quizás el más sutil de todos: la inconmensurabilidad. La palabra asusta, así que vale la pena traducirla en su primer uso. Dos comunidades son inconmensurables cuando hablan una al lado de la otra sin lograr conversar de verdad — no porque alguna sea tonta, sino porque sus modelos de buen trabajo difieren tanto que ni siquiera están midiendo lo mismo. No comparten una vara.

Mirá la discusión de esta semana sobre agentes en LATAM. De un lado, los entusiastas: miden el éxito en eficiencia, en benchmarks, en tareas completadas por minuto. El agente sacó 4.01, dicen, y eso zanja el asunto. Del otro lado, los escépticos: miden el éxito en soberanía, en quién controla la infraestructura, en si la región profundiza su dependencia o la reduce. Para ellos, el 4.01 es irrelevante si la caja negra que lo produce vive afuera y rinde cuentas afuera.

Estas dos comunidades no se están entendiendo, y Kuhn explicaría por qué. No es que uno tenga razón y el otro mienta. Es que sus ejemplares de buen trabajo son distintos. Para el equipo del benchmark, buen trabajo es una tarea ejecutada con precisión. Para el equipo de la soberanía, buen trabajo es una decisión crítica que permanece bajo control local y auditable. Cuando el primero dice “el agente funciona”, el segundo escucha “el agente funciona para ellos”. Las palabras coinciden; los mundos detrás de las palabras, no.

La cobertura de la semana lo refleja sin nombrarlo. El propio reporte del campo, optimista por diseño, celebra que “existing LLMs like GPT-4 can be used to develop flexible agents capable of continuous learning” — que los modelos existentes sirven para construir agentes flexibles capaces de aprendizaje continuo. Es una frase de la comunidad que mide capacidad técnica. Notá lo que la frase no contiene: ni una palabra sobre dónde vive el agente, quién lo gobierna, a quién rinde cuentas, qué pasa cuando la decisión que automatiza es la negativa de un crédito o la asignación de un beneficio social. Esas preguntas pertenecen al otro paradigma, y por eso la frase no las ve. No las esconde por mala fe. No las ve.

Acá está el peligro práctico de la inconmensurabilidad. Cuando una región adopta una tecnología bajo el paradigma de quien la vende, hereda también su forma de no-ver. Adopta los benchmarks como vara y, con ellos, la ceguera a la soberanía. El agente entra “funcionando” según una medida que jamás incluyó las preguntas que más le importan a quien lo recibe.

La importación de un cambio de paradigma que nunca ocurrió aquí

Hay un giro final, específico de la región, que la herramienta kuhniana vuelve nítido. En la historia de la ciencia, un cambio de paradigma surge desde adentro de una comunidad — de sus propias anomalías, de los acertijos que su marco viejo ya no resuelve. La crisis es endógena. Nace de tensiones internas que se acumulan hasta volverse insoportables.

Lo que llega a LATAM esta semana es lo contrario. No es un cambio de paradigma que brotó de las anomalías de la región. Es un paradigma importado, ya cerrado, presentado como inevitable. Las “anomalías” que supuestamente lo justifican — la lentitud de los procesos, la ineficiencia de la pyme, la burocracia del Estado — son problemas reales. Pero el paradigma que se ofrece para resolverlos no surgió de pensar esos problemas desde acá. Surgió de los modelos de negocio del Norte y de su necesidad de mercados nuevos.

Eso es lo que Crawford señala cuando recuerda, en The Atlas of AI - Power, Politics, and the Planetary Costs, que la inteligencia artificial no es solo una forma de ver, sino “a manifestation of highly organized capital backed by vast systems of extraction and logistics, with supply chains that wrap around the entire planet.” Una manifestación de capital altamente organizado, respaldado por vastos sistemas de extracción y logística, con cadenas de suministro que envuelven el planeta entero. Y agrega que el término “inteligencia artificial” es “a two-word phrase onto which is mapped a complex set of expectations, ideologies, desires, and fears” — dos palabras sobre las que se proyecta un conjunto complejo de expectativas, ideologías, deseos y miedos.

Cuando esas dos palabras aterrizan en un municipio andino o en una pyme rioplatense, traen pegadas las ideologías del lugar donde se fabricaron. No es neutral importar un paradigma. Es importar una forma de definir qué problemas valen la pena, qué soluciones cuentan, y qué preguntas no se hacen. Y dado que el paradigma viene de afuera, las preguntas que no se hacen son justamente las de la soberanía — porque para quien fabricó el agente, esas nunca fueron preguntas.

El discurso de la “nueva forma de organización social”, esa que según se anuncia “seem poised to soon emerge, forms far more powerful and intelligent than any in human history” — formas a punto de emerger, mucho más poderosas e inteligentes que cualquiera en la historia humana, como recoge After shock — tiene exactamente esta estructura. Anuncia un superorganismo humano-máquina como destino. Pero un destino anunciado desde afuera, presentado como inevitable, no es una revolución que la región vivió. Es un paradigma que se le pide acatar.

Y conviene recordar a quién sirve ese acatamiento. El mismo After shock describe sin maquillaje el mundo laboral que estos sistemas habilitan: trabajadores humanos que “will, in effect, have an AI boss telling them what to do, evaluating their work, and ultimately deciding whether they deserve a raise, a bonus, a warning, or termination.” Un jefe-IA que les dice qué hacer, evalúa su trabajo, y decide al final si merecen un aumento, un bono, una advertencia, o el despido. Esa no es la promesa que aparece en el lanzamiento. Es lo que está del otro lado de la eficiencia, esperando.

La pregunta que el marco deja sobre la mesa

Entonces, ¿revolución, anomalía genuina, o ciencia normal disfrazada? La herramienta kuhniana, aplicada con honestidad, devuelve una respuesta incómoda para el marketing y útil para el lector. Los agentes autónomos son, en lo técnico, ciencia normal acelerada: resuelven viejos acertijos más rápido, con los mismos ejemplares de antes. No cambiaron los problemas que consideramos resolubles. Cambió la velocidad y cambió, sobre todo, quién controla la máquina que los resuelve.

La revolución verdadera — si la hay — no está en la herramienta. Está en la transferencia de quién decide. Cada decisión crítica que un municipio o una pyme delega en un agente de caja negra es una decisión que migra de un control local y auditable a un control corporativo y opaco. Eso sí es un cambio de paradigma, pero no del tipo que se anuncia. Es un cambio en la geografía del poder, vestido con el lenguaje de la eficiencia.

La pregunta editorial, entonces, no es la que proponen los lanzamientos — “¿adoptamos o nos quedamos atrás?”. Esa pregunta ya asume el paradigma importado y la inevitabilidad que lo blinda contra la crítica. La pregunta que el marco de Kuhn vuelve visible es otra, y es más dura:

Si esto no es una revolución sino ciencia normal con dueño nuevo, ¿por qué aceptaríamos que el dueño viva afuera, hable un paradigma que jamás incluyó nuestras preguntas, y nos venda la dependencia como progreso? La discusión soberana no empieza preguntando si los agentes funcionan. Empieza preguntando para quién, y exigiendo que la vara con la que medimos “funcionar” incluya las preguntas que el paradigma importado fue diseñado para no ver. Porque la inconmensurabilidad no es un accidente de la conversación. A veces es la estrategia.