El juicio en depósito: cuando la IA dejó de hacer cosas y empezó a ser el aire

Hay una manera fácil de contar la semana. La IA sirvió para verificar identidades, para vigilar, para evaluar, para aplicar reglas. Cuatro usos distintos, cuatro herramientas nuevas. Fin del reporte.

Hay otra manera. Y McLuhan insistía en que casi siempre es la única que importa.

Porque cuando alguien pregunta qué hace una tecnología, ya perdió lo interesante. El marco de McLuhan reencuadra la escena: la pregunta no es qué hace la IA sino qué tipo de medio es. Y un medio no es lo que transporta. Es la estructura que impone a la atención, al juicio, a la manera en que una sociedad organiza sus decisiones sin darse cuenta de que las está organizando.

Esta semana la IA hizo algo que McLuhan habría reconocido de inmediato. Dejó de ser una herramienta que uno agarra y suelta. Se volvió una capa. Y una capa no se agarra. Se respira.

El contenido es el señuelo

McLuhan tenía una idea que sonaba a truco de salón y no lo era: el contenido de cualquier medio es siempre otro medio anterior. El contenido del cine es la novela. El contenido de la televisión es el cine. Y el contenido siempre distrae. Mientras uno mira lo que pasa en la pantalla, no mira la pantalla. Mientras uno discute lo que dice la IA, no discute qué es la IA.

Esta semana ese señuelo funcionó a la perfección. Los cuatro frentes —verificación, vigilancia, evaluación, regla— parecen contenidos distintos. Una identidad chequeada. Un rostro escaneado. Un expediente puntuado. Una norma aplicada. Cuatro respuestas distintas a cuatro preguntas distintas.

Pero el contenido es el señuelo. El mensaje es lo que los cuatro tienen en común: en cada caso, el juicio se depositó dentro de un sistema que quien lo usa no puede abrir. La decisión sigue tomándose. Pero ya no se puede rastrear quién la tomó ni sobre qué base.

Esto es lo que McLuhan llamaba figura y fondo. La figura es lo que salta a la vista —la decisión, la respuesta, el resultado. El fondo es la estructura que la hace posible, invisible justamente porque está en todas partes. La semana entera fue un ejercicio de figura brillante y fondo oscuro. Todos miraron las decisiones. Casi nadie miró el depósito.

Kate Crawford, en The Atlas of AI - Power, Politics, and the Planetary Costs, advierte sobre exactamente esta operación de fondo: la IA convierte “lo social, y un universo infinitamente complejo y cambiante, en un orden lineano de tablas legibles por máquina. Muchos de los logros de la IA han dependido de reducir las cosas a un conjunto escueto de formalismos basados en proxies: identificar y nombrar algunos rasgos mientras se ignoran u ocultan otros incontables”. Fíjese en el verbo: ocultan. No es que la IA simplifique de más por torpeza. Es que la simplificación es el fondo. Es lo que hace que la capa funcione sin ser vista.

De extensión a ambiente

McLuhan repetía que cada tecnología extiende una facultad humana y, al hacerlo, amputa otra. La rueda extiende el pie y amputa el caminar. El libro extiende el ojo y amputa la memoria oral. La fórmula es limpia, casi mecánica, y por eso se cita tanto.

Pero hay un segundo movimiento que se cita menos y que esta semana es el que cuenta. Una extensión, cuando se generaliza lo suficiente, deja de ser una extensión. Se vuelve un ambiente. Y el ambiente es invisible por definición. Nadie nota el aire hasta que falta.

El pez —decía McLuhan— es lo último que descubriría el agua. No porque sea tonto, sino porque el agua está en todas partes. No hay un afuera desde el cual verla. La verificación por IA, la vigilancia por IA, la evaluación por IA se están volviendo agua. Dejaron de ser cosas que se usan. Se están volviendo el medio en el que las instituciones nadan.

Esto es lo nuevo de la semana. No que la IA verifique identidades —eso ya pasaba. Sino que la verificación por IA se depositó en una capa tan por debajo de la superficie que ya no aparece como decisión. Aparece como condición. Como el fondo del expediente, no como una línea del expediente.

McLuhan habría dicho que aquí ocurre el cambio de estado. Una herramienta se agarra y se suelta; un ambiente se sufre. Cuando la IA era herramienta, uno podía preguntarse si usarla. Cuando es capa, la pregunta ya no tiene destinatario. No hay nadie a quien preguntarle porque el aire no tiene un dueño visible.

El medio caliente que se hace pasar por frío

McLuhan clasificaba los medios en calientes y fríos, y aunque la distinción es resbaladiza, esta semana ilumina algo. Un medio caliente entrega mucha información y pide poca participación —lo llena todo, no deja hueco. Un medio frío entrega poco y pide que uno complete el resto, que participe, que colabore.

La IA de esta semana se disfraza de fría. Se presenta como asistente, como sugerencia, como apoyo a la decisión humana. Te ofrece un puntaje, un flag, una recomendación —y aparenta dejar la última palabra en manos de la persona. “El sistema solo sugiere”, dice el fabricante. “El humano decide.”

Pero un medio que entrega el juicio ya masticado no es frío. Es caliente disfrazado. No deja hueco real para participar. El puntaje llega tan denso, tan aparentemente completo, que completarlo con criterio propio se vuelve trabajo cuesta arriba. La forma más fácil de responder a una recomendación de máquina es aceptarla. La estructura del medio lo empuja.

Aquí conviene traer a Meredith Broussard, que en Artificial Unintelligence - How Computers Misunderstand the World señala la trampa: cuando un sistema se presenta como neutral, dejamos de prestarle atención crítica precisamente cuando más falta hace. “Presten atención” es su consigna, y es una consigna necesaria justamente porque el medio está diseñado para que no la prestemos. El disfraz de frialdad —el “solo sugiero”— es el mecanismo por el cual el medio caliente logra que nadie le vigile la temperatura.

La responsabilidad se evapora en ese disfraz. El artículo de la semana Judgment in escrow: how AI moved from tool to infrastructure layer lo describe con precisión: “el sistema propone y el operador dispone, pero el operador dispone dentro de un marco que el sistema ya definió, con opciones que el sistema ya recortó”. Eso no es participación. Es la ilusión de participación que un medio caliente necesita para pasar por frío. El hueco que parece invitarte a decidir ya viene con las paredes puestas.

Los cuatro proxies y el rostro de Papúa

Vale mirar de cerca los cuatro frentes, porque McLuhan insistía en que la gramática de un medio se lee en sus casos concretos, no en abstracto.

Verificación. La IA decide si sos quien decís ser. Pero “ser quien decís ser” se traduce a un conjunto de proxies —coincidencias biométricas, patrones de comportamiento, señales de dispositivo. El medio no verifica una identidad; verifica su reducción a tabla legible por máquina. Y esa reducción es el mensaje. Lo que queda afuera de la tabla deja de existir para el sistema.

Vigilancia. La IA lee rostros, movimientos, tonos de voz, y les asigna intención. Crawford dedica un capítulo entero de The Atlas of AI - Power, Politics, and the Planetary Costs a desmontar exactamente este reclamo. Viaja “a los pueblos de montaña de Papúa Nueva Guinea para explorar la historia del reconocimiento de afectos, la idea de que las expresiones faciales son la clave para revelar el estado emocional interno de una persona”. Examina la afirmación del psicólogo Paul Ekman de que existe “un pequeño conjunto de estados emocionales universales que pueden leerse directamente del rostro”.

El punto de McLuhan y el punto de Crawford convergen aquí. El medio de reconocimiento facial no descubre la emoción en el rostro. La impone. Convierte una cara en una tabla de estados, y luego declara que la tabla es la cara. La amputación es exacta: se extiende la capacidad de leer a millones de personas a la vez, y se amputa la posibilidad de que una persona sea ilegible, ambigua, distinta a su proxy. En Papúa el gesto que Occidente lee como miedo significa otra cosa. Al medio no le importa. El medio ya decidió que el rostro es una tabla universal.

Evaluación. La IA puntúa expedientes —de crédito, de riesgo, de mérito. Cada puntaje es un proxy que se hace pasar por la persona entera. Y una vez depositado en la capa, el puntaje viaja de sistema en sistema sin que nadie recuerde qué medía.

Regla. La IA aplica normas automáticamente. Pero aplicar una regla nunca es mecánico —siempre hubo un margen, un criterio, una excepción posible. El medio amputa el margen. La regla se ejecuta como código, y el código no conoce la excepción porque la excepción no cabe en la tabla.

Cuatro frentes, un solo movimiento. En los cuatro, la IA extiende la capacidad de decidir a escala y amputa la trazabilidad de la decisión. Nadie puede seguir el hilo de vuelta hasta un responsable. Ese es el mensaje. Los puntajes y los flags son el contenido —el señuelo.

La aldea global tenía letra chica

McLuhan acuñó “aldea global” para nombrar el mundo comprimido por la velocidad eléctrica, donde todo ocurre en simultáneo y en todas partes a la vez. La frase se volvió eslogan optimista —conexión, cercanía, humanidad reunida alrededor de un fuego digital. Pero McLuhan nunca fue tan optimista. Sabía que la aldea global también significa vigilancia de aldea. En una aldea todos se ven. Nadie tiene secretos. La intimidad no existe.

La IA como capa es la aldea global cobrando su letra chica. La simultaneidad eléctrica no solo conecta —también deposita el juicio de todos en un mismo aire, accesible desde todas partes, aplicable a cualquiera al instante. El expediente que se puntúa en una ciudad viaja a otra en el mismo segundo. La cara que se lee en una frontera se compara con un archivo del otro lado del planeta.

Y para América Latina esto no es una abstracción teórica. La pregunta, como bien señala el fenómeno de la semana, no es si llegará esa capa. La capa ya viene. La pregunta es sobre qué instituciones va a montarse. Y ahí McLuhan sería implacable: un medio nuevo se monta sobre las estructuras existentes y amplifica lo que ya estaba. Si la institución era opaca, el medio la vuelve más opaca. Si el poder no respondía por sus decisiones, el medio le regala una capa perfecta detrás de la cual esconderse. “El sistema decidió” es la coartada más limpia jamás inventada.

Ruha Benjamin, en Race After Technology - Abolitionist Tools for the New Jim Code, explica cómo estos sistemas heredan y automatizan las jerarquías que dicen superar. La tecnología no llega a un terreno neutral. Llega a un terreno con historia. Y en América Latina el terreno tiene una historia larga de instituciones que ya distribuían el juicio de manera desigual. La capa de IA no inventa esa desigualdad. La deposita en un sistema que nadie puede auditar, y así la vuelve más difícil de discutir. Antes uno podía señalar al funcionario. Ahora el funcionario señala al sistema, y el sistema no tiene rostro.

Lo que el marco hace visible

McLuhan tenía un aforismo que resume la semana mejor que cualquier análisis: nosotros damos forma a nuestras herramientas, y después ellas nos dan forma a nosotros. La primera mitad es la fase de herramienta. La segunda es la fase de capa. Y la semana marca el cruce.

Mientras la IA fue herramienta, la moldeamos —elegimos usarla, para qué, cuándo. Ahora que se vuelve capa, empieza a moldearnos: moldea qué cuenta como identidad verificable, qué rostro es legible, qué expediente merece qué puntaje, qué excepción a la regla es siquiera pensable. La dirección de la fuerza se invirtió sin que nadie apretara un botón. Simplemente el medio se hizo ambiente, y el ambiente moldea al pez.

El marco de McLuhan hace visible lo que el discurso común de la semana escondió a plena vista. Todos discutieron si la IA verifica bien o mal, si vigila con precisión o con sesgo, si evalúa justo o injusto. Todas esas preguntas son sobre el contenido. Todas aceptan el fondo sin discutirlo. Todas dan por sentado que la verificación, la vigilancia, la evaluación y la regla deben depositarse en una capa, y solo discuten cómo afinar el depósito.

La pregunta que McLuhan haría es anterior a todas ellas. No es si la capa funciona bien. Es qué le hace a una sociedad tener su juicio depositado en un aire que no puede abrir. Qué le pasa a la idea misma de responsabilidad cuando la decisión ya no tiene rastro hasta una persona. Qué se amputa cuando se extiende la capacidad de decidir a escala planetaria.

La tentación es responder que se gana eficiencia y se pierde un poco de transparencia —un intercambio, un costo-beneficio. Pero McLuhan no pensaba en intercambios. Pensaba en cambios de estado. El agua no es hielo con menos frío. Es otra cosa. Una sociedad con su juicio en depósito no es una sociedad eficiente con menos transparencia. Es otra clase de sociedad, donde la pregunta “¿quién responde por esto?” se queda literalmente sin destinatario.

Y acá está la implicación editorial que el marco vuelve inevitable. La conversación honesta de la semana no es sobre auditar mejor los sistemas —aunque haya que auditarlos. Es sobre negarse a que la trazabilidad se amputa como si fuera un costo aceptable de la modernización. El lector no necesita un asiento en la mesa donde se afina el depósito. Necesita el derecho a preguntar por qué el juicio se deposita, y a exigir que siga habiendo un rostro humano al final del hilo.

Porque el medio es el mensaje, sí. Pero McLuhan agregaba algo que se cita menos: entender el mensaje es la única defensa contra él. El pez no puede salir del agua. Nosotros, todavía, sí podemos nombrarla. Esta semana el agua tiene nombre: se llama juicio en depósito. Y nombrarla es lo primero. Lo segundo es preguntar, antes de que el aire se vuelva demasiado espeso para hacerlo, quién decidió que respiráramos esto —y por qué nadie nos preguntó.