Columna del Pensador

La pregunta que nadie hace cuando llega el agente

Esta semana llegaron los agentes a Latinoamérica. No los modelos que responden preguntas: los que actúan. Project Mariner de Google navega por vos. Operator de OpenAI hace clics por vos. Startups locales prometen automatizar la pequeña empresa y el trámite de gobierno. La oferta es la misma en todos los lanzamientos: eficiencia, escala, menos manos humanas para más tareas.

El debate público se acomodó rápido en su lugar habitual. Por un lado, quienes celebran la productividad. Por el otro, quienes advierten sobre el empleo y la dependencia. Ambos bandos discuten lo mismo: qué hace el agente. Cuántas tareas resuelve, a qué costo, con qué riesgos.

El marco de Marshall McLuhan diría que esa discusión, por más acalorada que sea, está mirando el lugar equivocado. McLuhan separaba dos cosas que casi todo el mundo confunde: el contenido de un medio y el medio mismo. El contenido es lo que el medio transporta —las respuestas, los clics, las tareas resueltas—. El medio es lo que el medio le hace a la estructura de tu atención, de tu trabajo, de tus instituciones, sin importar qué transporte. Su tesis más citada, “el medio es el mensaje”, significa exactamente esto: el efecto importante de una tecnología no está en lo que dice, sino en lo que es.

Aplicado al agente autónomo, el marco hace una pregunta que el discurso de la semana no hace. No “¿qué hace el agente?”. Sino “¿qué tipo de medio es un agente, y qué le hace a quien lo adopta, aun cuando funcione perfecto?”.

El contenido como distractor

McLuhan tenía una imagen para explicar por qué el contenido nos hipnotiza. El contenido de un medio, decía, es como el trozo de carne jugosa que el ladrón lleva para distraer al perro guardián de la mente. Mientras discutís si el agente resuelve bien o mal la tarea, no estás mirando qué le hace el agente a la tarea misma.

Veamos qué transporta el agente. Su contenido es trabajo que antes hacían personas: gestionar inventario, contestar correos, llenar formularios, hacer compras, coordinar agendas. El reporte de Stanford lo documenta con cifras. Los agentes evaluados, según HAI_AI-Index-Report-2024, operan sobre “online shopping, household management, puzzles, and digital card games” —compras en línea, gestión del hogar, acertijos, juegos de cartas—. GPT-4 sacó la mejor nota, un 4.01 contra el 2.49 de Claude 2.

Ese número —4.01— es el trozo de carne. Es lo que la prensa de la semana va a citar. ¿Qué tan bueno es el agente? Bastante bueno, mejorando rápido. La conversación entera puede organizarse alrededor de ese eje: la competencia del agente.

Pero el marco de McLuhan insistiría en que el contenido del agente es siempre un medio anterior. El agente no inventa el trabajo administrativo; lo recicla. El correo, la planilla, el trámite, la compra: todos son medios del pasado reciente, ahora envueltos dentro de un medio nuevo. Y la regla que McLuhan repetía es que el contenido de un medio nuevo es siempre el medio viejo. El cine contuvo a la novela. La televisión contuvo al cine. El agente contiene al oficinista.

Cuando esto pasa, el medio viejo se vuelve invisible como medio. Deja de ser una práctica con su propia gramática —decisiones que alguien tomaba, criterios que alguien aplicaba, contexto que alguien sopesaba— y se convierte en mero contenido a procesar. El trámite deja de ser un acto de juicio. Se vuelve un dato de entrada para una máquina que produce un dato de salida. Lo que se amputa en esa conversión no es el empleo. Es el juicio que vivía adentro del trabajo.

Extensión y amputación

Aquí está la herramienta central de McLuhan, y vale la pena traducirla despacio. Toda tecnología, decía, extiende una facultad humana. El martillo extiende el puño. La rueda extiende el pie. El libro extiende la memoria. Y cada extensión implica una amputación correspondiente: cuando externalizás una facultad a una herramienta, esa facultad se atrofia en vos. La calculadora extiende la aritmética y amputa el cálculo mental. El GPS extiende la orientación y amputa el sentido del mapa.

El agente autónomo extiende la facultad de ejecutar. No de pensar la tarea —de hacerla—. Decidís qué querés y el agente cierra la distancia entre el deseo y la acción. Comprar, escribir, agendar, tramitar: el agente colapsa todos esos verbos en una sola orden.

¿Qué se amputa? La facultad de ejecutar contiene, escondida adentro, la facultad de notar. Cuando hacés un trámite a mano, notás que el formulario pide algo absurdo. Cuando contestás tus propios correos, notás el tono que se está volviendo tenso. Cuando hacés tu propia compra, notás que el precio subió. La ejecución manual es lenta, sí. Pero la lentitud es donde vive la atención. La atención es lo que detecta el problema antes de que sea grande.

El agente, al colapsar la ejecución, amputa el notar. Y acá el marco se vuelve incómodo, porque la amputación no se siente como pérdida. Se siente como alivio. Nadie extraña el trámite tedioso. Esa es justamente la trampa que McLuhan describía: la extensión anestesia la zona que amputa. No sentís el miembro fantasma porque la herramienta lo está moviendo por vos.

El medio caliente que llega frío

McLuhan dividía los medios en calientes y fríos, y la distinción ayuda a entender qué clase de cosa están vendiendo esta semana. Un medio caliente es de alta definición y baja participación: te da todo masticado, no tenés que llenar nada. Una conferencia es caliente. Un medio frío es de baja definición y alta participación: te da poco, tenés que completar el resto con tu propio esfuerzo. Una conversación es fría.

El agente autónomo se presenta como el medio más caliente posible. Le pedís y te entrega el resultado completo. Definición máxima, participación cero. Esa es exactamente la promesa: vos no hacés nada, el agente lo hace todo.

Pero el marco mcluhaniano notaría una ironía. El agente que se vende como caliente —resultado terminado, sin esfuerzo de tu parte— le exige al usuario una participación fría que el usuario no ve. Para usarlo bien tenés que confiar, supervisar, corregir, entender qué hizo y por qué. El usuario que trata al agente como caliente —que recibe el resultado y no participa— es exactamente el usuario que termina administrado por la herramienta en lugar de administrarla.

Y aquí entra la pregunta de las dobles lealtades. McLuhan miraría con sospecha qué facultad extiende realmente el agente y para quién. The Filter Bubble recoge una advertencia de Jaron Lanier sobre los agentes anteriores, las versiones que las grandes plataformas prometían: como The Filter Bubble lo cita, era improbable que esas empresas lanzaran agentes verdaderamente leales al usuario, porque “online commerce was driven by advertising” —el comercio en línea se financiaba con publicidad—. Lo más probable, escribía Lanier, era que esos agentes tuvieran “double loyalties —bribable agents. ‘It’s not clear who they’re working for’”: lealtades dobles, agentes sobornables, y no estaba claro para quién trabajaban.

Esa advertencia, escrita para una generación anterior de asistentes, llega esta semana con el peso aumentado. El agente que cierra la distancia entre tu deseo y la acción es también el agente que decide cómo cerrarla. Qué proveedor elige. Qué opción te muestra. Qué descarta antes de que la veas. Cuando todos miran qué tan competente es el agente, casi nadie mira a quién obedece cuando obedece.

La fase ulterior de la aldea global

McLuhan llamaba “aldea global” al efecto de la electricidad sobre la comunicación: el planeta entero contraído a la simultaneidad de una aldea, donde todo pasa al mismo tiempo en todas partes. El agente autónomo es una fase nueva de eso. No solo todos los textos coexisten ahora en simultaneidad eléctrica; ahora hay sistemas que actúan dentro de esa simultaneidad sin esperar a que un humano dé la orden, paso a paso.

Esto importa especialmente para Latinoamérica, y el marco lo hace visible de un modo que el discurso de la eficiencia esconde. Los agentes que aterrizan esta semana no son neutrales en su origen. Son extensiones construidas en otra parte, con la gramática sensorial de otra parte, financiadas con el capital de otra parte. Cuando una pequeña empresa de la región adopta un agente de Google o de OpenAI, no está adquiriendo una herramienta. Está enchufándose a un medio cuya estructura ya estaba decidida antes de que llegara.

El Atlas of AI nombra esta capa que el lenguaje de la herramienta oculta. La IA, escribe, no es solo cómputo; es también “a manifestation of highly organized capital backed by vast systems of extraction and logistics, with supply chains that wrap around the entire planet” —una manifestación de capital altamente organizado, respaldado por vastos sistemas de extracción y logística, con cadenas de suministro que envuelven el planeta entero—. Como advierte The Atlas of AI - Power, Politics, and the Planetary Costs, “artificial intelligence” es una frase de dos palabras sobre la que se proyecta “a complex set of expectations, ideologies, desires, and fears”: un conjunto complejo de expectativas, ideologías, deseos y miedos.

Esto es exactamente lo que McLuhan llamaría figura y fondo. La figura es el agente brillante, eficiente, que resuelve tu trámite. El fondo es la infraestructura planetaria de capital, datos y logística que lo hace posible y que se beneficia de cada uso. El truco del discurso de la semana es mantener toda la atención en la figura. El marco mcluhaniano consiste en invertir la mirada: ver el fondo como lo que realmente determina la experiencia.

El mismo Atlas tiene un nombre para la operación ideológica que mantiene el fondo invisible. La llama determinismo encantado. Como dice The Atlas of AI - Power, Politics, and the Planetary Costs, nos dicen que nos concentremos “on the innovative nature of the method rather than on what is primary: the purpose of the thing itself” —en la naturaleza innovadora del método en lugar de en lo primario: el propósito de la cosa misma—. Y el efecto de ese encantamiento es preciso: “obscures power and closes off informed public discussion, critical scrutiny, or outright rejection” —oscurece el poder y clausura la discusión pública informada, el escrutinio crítico, o el rechazo directo—.

Eso es lo que el aforismo de McLuhan venía advirtiendo desde hace décadas, dicho con otras palabras: nosotros damos forma a nuestras herramientas, y luego ellas nos dan forma a nosotros. La región que adopta el agente sin examinar su gramática termina con su gramática administrativa, comercial y hasta gubernamental reformateada por decisiones que se tomaron en otro continente.

El jefe que es un algoritmo

Hay un detalle en el horizonte que el marco vuelve nítido, y que el debate de la eficiencia prefiere no mirar de frente. El agente no solo reemplaza tareas. Reorganiza quién manda sobre quién.

After shock describe el arreglo emergente sin adornos. Los trabajadores humanos, dice, tendrán “an AI boss telling them what to do, evaluating their work, and ultimately deciding whether they deserve a raise, a bonus, a warning, or termination” —un jefe de IA diciéndoles qué hacer, evaluando su trabajo, y decidiendo en última instancia si merecen un aumento, un bono, una advertencia o el despido—. El mismo libro nota que ya hay productos y startups que alcanzan valuaciones de mil millones de dólares en cuestión de meses.

Léase esto a través del marco. El agente extiende la facultad de coordinar trabajo —de dar órdenes, evaluar, decidir— y se la quita al supervisor humano. La amputación correspondiente es el juicio gerencial situado: el jefe que entendía por qué un trabajador rindió menos esta semana porque sabía que estaba enfermo su hijo. El medio nuevo no transporta ese conocimiento. No cabe en sus datos de entrada.

McLuhan veía estas transformaciones como sísmicas, no incrementales. Como observa After shock, “industrial societies have become information societies in which… all our institutions are shaking under the hurricane impact of the accelerative advance of technology” —las sociedades industriales se han vuelto sociedades de la información en las que todas nuestras instituciones tiemblan bajo el impacto de huracán del avance acelerado de la tecnología—. La palabra clave es “instituciones”. No tareas: instituciones. La empresa, el gobierno, la relación de trabajo. El agente no automatiza un escritorio. Reescribe la estructura dentro de la cual el escritorio existía.

El mismo libro especula con una imagen aún más amplia: formas de organización social “far more powerful and intelligent than any in human history”, un “superorganism, of sorts”, construido sobre asistentes personales de IA. Sea o no exagerada la imagen, señala bien el nivel donde opera el efecto. El medio del agente no es la tarea individual. Es la pauta de coordinación de una sociedad entera.

Lo que el marco deja sobre la mesa

Volvamos a la pregunta editorial de la semana: ¿oportunidad o nueva capa de dependencia? El marco de McLuhan diría que la pregunta, así planteada, ya cayó en la trampa del contenido. Pregunta por el resultado —beneficio o perjuicio— cuando lo decisivo es la forma.

La pregunta que el marco hace visible es otra, y es más incómoda porque no se resuelve adoptando ni rechazando. Es esta: cuando una sociedad adopta un medio que extiende la ejecución y amputa el notar, ¿quién conserva la facultad de notar?

Porque alguien la conserva. La amputación nunca es total. La facultad de juzgar, de detectar el problema antes de que crezca, de preguntar a quién obedece el agente cuando obedece —esa facultad migra a alguien—. Si la región adopta los agentes como medios calientes, recibiendo resultados sin participar, la facultad de notar migra entera al proveedor que construyó el agente en otro continente. Si la región los adopta como medios fríos, exigiendo entender su gramática, supervisar sus lealtades, examinar el fondo y no solo la figura, entonces conserva al menos una parte del juicio.

La discusión sobre “condiciones soberanas” que menciona el fenómeno de la semana es correcta en su instinto, pero el marco la afina. La soberanía no se juega en quién es dueño del modelo. Se juega en quién conserva la facultad de notar lo que el agente esconde a plena vista. El medio es el mensaje, y el mensaje del agente autónomo no es la eficiencia que promete. Es la lenta transferencia de la atención —del juicio, del notar— desde quien usa la herramienta hacia quien la construyó.

La pregunta para el lector, entonces, no es si el agente le ahorrará tiempo. Casi seguro que sí. La pregunta es qué facultad está entregando a cambio, y si todavía es capaz de notar el momento en que ya la entregó. Porque la herramienta que extiende tu mano también es, mientras la usás, la herramienta que da forma a la mano que la usa.