Chile regula la IA, pero regula su contenido: lo que McLuhan vería que la ley no ve

Esta semana el Congreso de Chile aprobó la primera ley integral de inteligencia artificial de América Latina. La noticia se leyó, casi en todas partes, como un logro o como una amenaza. Logro para quienes celebran derechos digitales, transparencia y una autoridad que fiscalice. Amenaza para quienes temen que un marco de riesgo copiado de la Unión Europea asfixie la innovación local antes de que nazca. Ambos bandos discuten lo mismo: qué hace la ley, qué permite, qué prohíbe, a quién beneficia.

Es exactamente la discusión que el marco de Marshall McLuhan nos enseña a desconfiar.

McLuhan pasó su vida advirtiendo que cuando una tecnología nueva llega, todos miran su contenido y casi nadie mira qué tipo de medio es. El contenido es el pedazo de carne que el ladrón le lanza al perro guardián de la mente, decía, para entrar sin ser notado. La ley chilena regula el contenido de la IA: sus salidas, sus decisiones, sus riesgos catalogados. Lo que casi no toca —porque casi ningún marco regulatorio del mundo sabe cómo tocarlo— es la IA como medio. Su gramática. La estructura que impone a la atención, al trabajo intelectual, a lo que una sociedad considera “hacer” algo.

Este es el punto ciego que el marco mcluhaniano vuelve visible. Y vale la pena mirarlo antes de decidir si la ley es camisa de fuerza o estandarte.

El medio es el mensaje, y la ley legisla el mensaje equivocado

La frase más citada de McLuhan —“el medio es el mensaje”— casi siempre se malentiende. Traducida al castellano llano, dice algo simple: el efecto de una tecnología sobre una sociedad no viene principalmente de lo que esa tecnología transmite, sino de la forma que impone. La imprenta no cambió Europa por los libros que imprimió. La cambió porque volvió posible la lectura silenciosa, privada, individual, y con ella una nueva forma de pensar en solitario. El contenido de los primeros libros fue la Biblia. El mensaje de la imprenta fue el individuo moderno.

Aplicá esto a la ley chilena. La ley, según se ha reportado, “establece un marco de riesgo similar al de la UE, pero con adaptaciones locales, incluida una autoridad de fiscalización”. Es decir: clasifica los usos de la IA por peligrosidad y regula cada categoría. Esto es regular el contenido. Regular qué dice la IA, qué decide, qué produce, y con qué consecuencias.

Nada de esto es inútil. Un sistema que discrimina en un crédito o inventa una cara falsa causa daño real, y una sociedad tiene derecho a defenderse. Los pasajes de la propia obra sobre ética de la IA lo confirman: el principio de no hacer daño, escrito en AI Ethics - The MIT Press Essential Knowledge series, “se interpreta como requiriendo que los algoritmos de IA eviten la discriminación, la manipulación y el perfilado negativo, y que protejan a grupos vulnerables como los niños y los inmigrantes”. Ese es trabajo necesario. Nadie sensato lo desprecia.

Pero fijate lo que la ley no puede ver desde su propio marco. No puede ver que la IA, como medio, está reorganizando lo que significa escribir, calcular, dibujar, decidir —independientemente de si cada salida particular es “de bajo” o “de alto” riesgo. Un ensayo escolar generado por IA puede ser perfectamente inofensivo en contenido: sin sesgo, sin daño, sin mentira. Y aun así, el hecho de que se produzca así reestructura la relación de una generación entera con el acto de pensar por escrito. Ese cambio no cabe en ninguna casilla de riesgo. Es el mensaje del medio. Y la ley, por diseño, mira hacia otro lado.

La extensión y la amputación que ningún artículo menciona

El núcleo del marco de McLuhan es un par: cada tecnología extiende una facultad humana, y cada extensión amputa la facultad que reemplaza. El automóvil extiende el pie y amputa la caminata. El teléfono extiende la voz a través de la distancia y amputa la presencia. La extensión siempre se anuncia; la amputación casi nunca.

La IA extiende la facultad de producir texto, imagen y código. Eso está en todos los folletos. Lo que amputa —la disciplina lenta de hacerlo a mano, de luchar con una frase hasta que dice lo que uno no sabía que pensaba— no aparece en ninguna evaluación de impacto regulatorio. Ninguna ley de riesgo, en Chile ni en Bruselas, tiene una casilla para “amputación de una facultad humana”. No porque los legisladores sean tontos. Porque la categoría misma les es invisible desde el marco que usan.

Y esto importa especialmente en un dominio que la ley chilena, siguiendo el modelo europeo, casi con seguridad clasificará como de alto riesgo: la educación. El marco de competencias de UNESCO lo dice sin rodeos. En AI competency framework for teachers - UNESCO se lee que “la mayoría de las aplicaciones de IA en educación se consideran de alto riesgo, requiriendo regulación estricta”, y que garantizar una IA confiable en educación “requiere mecanismos institucionales independientes para la validación de los sistemas de IA”.

Leído a través de McLuhan, ese párrafo dice mucho y esconde más. Dice: vigilaremos que estos sistemas no dañen, no discriminen, no fallen. No dice: vigilaremos qué le hace a un estudiante que la facultad de escribir se le extienda hacia afuera, a una máquina, antes de que haya terminado de desarrollarla por dentro. La validación institucional revisará el contenido del sistema. La amputación de la facultad ocurrirá en silencio, debajo del umbral de todo lo que la ley sabe medir.

El interés del lector —del estudiante, del ciudadano, del trabajador— está justamente ahí, en la amputación que nadie legisla. Una ley que solo regula el contenido protege al ciudadano de las salidas malas mientras lo deja completamente solo frente a la reestructuración de su propia mente. Es una protección real y a la vez profundamente parcial. Conviene no confundir la parte con el todo.

Figura y fondo: por qué “pionera o camisa de fuerza” es la pregunta equivocada

McLuhan tomó prestado de la psicología de la percepción una distinción que vale oro aquí: figura y fondo. La figura es aquello a lo que prestamos atención —el objeto nítido en el centro. El fondo es todo lo demás, el ambiente que hace posible que la figura signifique algo, y que justamente por ser ambiente permanece invisible. Miramos el pez; no vemos el agua.

El debate chileno de esta semana es un combate entre dos figuras. “Regulación pionera” es una figura. “Camisa de fuerza” es la figura rival. Los titulares las enfrentan. Y mientras las dos figuras pelean por el centro de la pantalla, el fondo entero pasa sin examen.

¿Cuál es el fondo? El fondo es que Chile está adoptando, con adaptaciones locales, la gramática regulatoria de otro continente. El propio informe global lo registra sin dramatismo: Chile aparece en la larga lista de países que legislan sobre IA en HAI_AI-Index-Report-2024, junto a Brasil, Colombia, Canadá, China y decenas más. La ola es planetaria. Y ese es precisamente el punto que la figura esconde: no estamos ante un acto soberano aislado, sino ante lo que McLuhan llamaría un efecto de la aldea global —esa condición en que la simultaneidad eléctrica hace que todos los lugares reaccionen a los mismos estímulos casi al mismo tiempo, adoptando las mismas formas.

Cuando el mismo informe observa que “los Estados Unidos y la Unión Europea impulsan acciones políticas emblemáticas sobre IA”, está describiendo el fondo del cual la ley chilena es figura. Chile no inventa un marco. Recibe un marco —el enfoque de riesgo europeo— y lo colorea localmente. Preguntar si ese marco es “pionero” es casi cómico desde esta lente: es pionero en la región precisamente porque copia bien un modelo importado. La verdadera pregunta que el fondo hace visible es otra: ¿qué gramática regulatoria está colonizando la imaginación política latinoamericana, y qué formas alternativas de pensar la IA quedan amputadas por adoptarla?

No es una pregunta contra la ley. Es una pregunta que la celebración de la ley vuelve imposible de formular. Cuando todos aplauden la figura, nadie audita el fondo.

Medios fríos, medios calientes, y la ilusión de la explicación

McLuhan clasificaba los medios en calientes y fríos. Un medio caliente es de alta definición: entrega mucha información y exige poca participación —una fotografía, una conferencia, la radio. Un medio frío es de baja definición: entrega poco y obliga al receptor a llenar los huecos —una caricatura, una conversación, el teléfono. La distinción no es una etiqueta ociosa; predice cómo un medio compromete o adormece a quien lo usa.

¿Qué es la IA generativa en estos términos? Es un medio extrañamente caliente disfrazado de frío. Parece conversación —parece fría, participativa, dialógica. Uno le pregunta, ella responde, uno repregunta. Pero lo que entrega es de altísima definición: prosa terminada, imágenes completas, respuestas cerradas. La participación que simula es una ilusión. El usuario cree estar completando huecos cuando en realidad los huecos ya vienen llenos.

Esto tiene una consecuencia directa para el gran ídolo de toda esta legislación: la transparencia, el “derecho a la explicación”. La ley chilena, como su modelo europeo, apuesta fuerte a que explicar las decisiones de la IA la vuelve rendible de cuentas. El corpus recoge esta fe. En AI Ethics - The MIT Press Essential Knowledge series se cita a la Cámara de los Comunes del Reino Unido: “la transparencia y el derecho a la explicación son clave para la rendición de cuentas algorítmica”.

Suena impecable. Pero mirá la grieta que el mismo texto abre a continuación: “el RGPD otorga un derecho a ser informado sobre la toma de decisiones automatizada, pero no parece exigir una explicación sobre el razonamiento de cualquier decisión individual”. Ahí está el problema, y McLuhan lo habría señalado de inmediato. La transparencia es, otra vez, una operación sobre el contenido. Explica qué decidió el sistema. No altera en nada qué tipo de medio es, ni cómo ese medio caliente-disfrazado-de-frío reestructura la relación del usuario con su propio juicio.

Podés explicarle a un ciudadano, con perfecta transparencia, por qué el algoritmo le negó el crédito. Y aun así el ciudadano habrá cedido, en el acto mismo de consultar la máquina, una porción de su facultad de deliberar. La explicación protege contra la decisión injusta. No protege contra la amputación de la deliberación. Son problemas de órdenes distintos, y una ley que solo sabe hablar el idioma del primero se declara victoriosa mientras el segundo avanza sin oposición.

El contenido de la IA es un cementerio de medios viejos

Hay una última pregunta que el marco mcluhaniano hace casi automáticamente, y que vale la pena traer al caso chileno: ¿cuál es el contenido de un medio nuevo? La respuesta de McLuhan era siempre la misma. El contenido de un medio nuevo es siempre un medio viejo. El contenido del cine fue la novela. El contenido de la televisión fue el cine. El contenido de la escritura fue el habla.

¿Cuál es el contenido de la IA? La escritura académica. La prosa periodística. La fotografía. El código. Todos medios del pasado reciclados como material del medio nuevo. La IA no inventa formas; digiere las formas existentes y las devuelve en simultaneidad eléctrica —todos los textos, todos los estilos, todos los idiomas, disponibles a la vez, sin jerarquía ni sucesión.

Esto tiene una implicación política que la ley chilena no puede procesar. Cuando el contenido de la IA es la escritura académica y el periodismo, regular “el contenido de la IA” significa, sin que nadie lo diga, regular la reproducción automática de medios que sostenían prácticas humanas enteras: la investigación, la crónica, la argumentación, la autoría. La ley trata esas salidas como productos a fiscalizar por riesgo. McLuhan las vería como medios vivos siendo tragados por un medio más grande, y preguntaría qué prácticas humanas mueren cuando su forma se vuelve mero relleno de una máquina.

Ese mismo informe global registra el frente donde esta digestión ya causa alarma regulatoria: los sistemas contra “las cuestiones de seguridad relacionadas con la creación de entidades virtuales realistas y medios multimodales, incluidos los deepfakes”, como se lee en HAI_AI-Index-Report-2024, que “se aplican tanto a proveedores como a usuarios”. El deepfake es el caso extremo y visible: la fotografía y el video, medios viejos, reciclados como contenido de la IA hasta volverse falsificables a voluntad. La ley reacciona al daño —el fraude, la suplantación. Correcto que lo haga. Pero el daño del deepfake es la punta visible de un proceso mucho más ancho y silencioso: todos nuestros medios de registro de la realidad están siendo convertidos en material maleable de un medio que no distingue lo real de lo generado. El fraude es la figura. La disolución de la evidencia como categoría es el fondo.

La pregunta que la ley celebra no poder hacerse

McLuhan resumía todo su proyecto en una frase que conviene tomar en serio: nosotros damos forma a nuestras herramientas, y luego ellas nos dan forma a nosotros. La primera mitad es donde vive toda ley. Chile acaba de dar forma a su herramienta: le puso categorías de riesgo, un fiscalizador, derechos digitales. Es un acto legítimo de una sociedad que se defiende, y no hay que ser cínico al respecto. Fijar reglas es mejor que no fijar ninguna.

Pero la segunda mitad de la frase —y ellas nos dan forma a nosotros— queda completamente fuera del alcance de cualquier marco de riesgo. Ninguna autoridad de fiscalización tiene mandato para vigilar cómo la IA, como medio, está reformando la atención, el juicio, la escritura y la memoria de los chilenos. No porque la ley sea mala. Porque ese efecto no es un contenido. Es el mensaje del medio, y el medio, por definición, opera debajo del umbral de lo que el contenido nos deja ver.

Entonces la pregunta editorial no es la que trae el titular. No es “¿regulación pionera o camisa de fuerza?”. Esa pregunta discute la figura y deja intacto el fondo. La pregunta que el marco de McLuhan vuelve visible es más incómoda, y es esta:

Una ley que solo sabe regular lo que la IA hace —sus salidas, sus decisiones, sus riesgos— mientras es estructuralmente incapaz de ver lo que la IA es como medio, ¿protege al ciudadano, o lo tranquiliza? ¿Le da defensas reales contra los daños medibles, y al mismo tiempo lo convence de que ya está protegido contra una transformación que la ley ni siquiera puede nombrar?

El interés del lector chileno —y del latinoamericano que verá esta ley copiada en su propio país el año que viene, porque la aldea global funciona así— no está en aplaudir ni en temer. Está en no confundir la casilla de riesgo con la totalidad del fenómeno. La ley hace un trabajo. Que ese trabajo no despierte la ilusión de que el problema quedó resuelto. El contenido está regulado. El medio sigue haciendo lo suyo, en silencio, mientras todos discuten si es pionero o si aprieta demasiado.

McLuhan diría que ese silencio no es un defecto de la ley chilena. Es el defecto de mirar cualquier tecnología nueva por lo que dice, cuando lo decisivo siempre estuvo en lo que hace con nosotros mientras la miramos decir.