La ley chilena y la palabra: quién nombra la IA en América Latina

Chile aprobó una ley. Es la primera regulación integral de inteligencia artificial en América Latina, y eso importa por razones que van más allá del texto legal. Establece un marco de riesgo parecido al europeo, con una autoridad de fiscalización y obligaciones de transparencia. La prensa la celebra como hito o la teme como camisa de fuerza. Ambas lecturas se quedan cortas.

Hay una pregunta que el debate técnico esconde. No es si la ley favorece o frena la innovación. Es más simple y más incómoda: cuando esta ley regula la IA, ¿quién tiene la palabra y quién la recibe?

El marco de Paulo Freire fue construido para hacer exactamente esa pregunta. Freire, el pedagogo brasileño que enseñó a leer a campesinos del nordeste en cuarenta días, pasó su vida distinguiendo entre dos formas de conocimiento. Una deposita el saber en gente pasiva. La otra lo construye con ella. Aplicado a una ley de IA, ese marco no pregunta si la regulación es buena o mala. Pregunta qué tipo de relación instala entre el ciudadano y el poder que decide sobre los algoritmos que lo gobiernan.

La ley como acto pedagógico

Toda ley enseña algo. Enseña quién puede hablar, sobre qué, ante quién. Antes de regular nada, una ley ya distribuyó la palabra.

Freire llamaba “educación bancaria” al modelo donde el saber se deposita en cabezas vacías. El maestro habla, el alumno recibe. El maestro sabe, el alumno ignora. El maestro es sujeto, el alumno es objeto del proceso. No hay diálogo. Hay transferencia. Y esa transferencia, insistía Freire, no es neutral: reproduce la estructura de poder que la hizo posible. El que deposita manda. El que recibe obedece, y aprende a obedecer.

Ahora traslademos esa distinción a la ley chilena. Una regulación de IA puede operar de dos maneras. Puede depositar en el ciudadano un conjunto de derechos abstractos —transparencia, rendición de cuentas, protección— que él nunca sabrá cómo ejercer. O puede convertirse en herramienta para que ese mismo ciudadano lea el mundo algorítmico que lo rodea y exija cuentas de él. La primera versión es bancaria. La segunda es lo que Freire llamaba problematizadora: enseñar a leer la palabra para leer el mundo.

La diferencia no está en el texto de la ley. Está en lo que la ley hace posible después. Un derecho a la transparencia que solo un abogado corporativo puede invocar es un depósito vacío. Un derecho a la transparencia que un trabajador de plataforma puede usar para entender por qué el algoritmo lo despidió es otra cosa. La misma cláusula, dos pedagogías opuestas.

La cobertura del fenómeno lo plantea con crudeza cuando pregunta si esto es regulación pionera o camisa de fuerza. Pero esa dicotomía es tramposa. Pionera para quién. Camisa de fuerza para quién. El marco freiriano rechaza la pregunta neutral y la reformula: ¿para quién trabaja esta ley, y quién queda como objeto de ella?

La opacidad como analfabetismo impuesto

Freire enseñaba a leer. Pero nunca creyó que leer fuera decodificar letras. Leer, para él, era nombrar el mundo. Y quien no puede nombrar su mundo vive dentro de él como objeto, no como sujeto. El analfabetismo que combatía no era una carencia individual. Era una relación de poder. Alguien se beneficia de que otro no pueda leer.

La opacidad algorítmica es una forma moderna de ese analfabetismo. No es que la gente sea incapaz de entender los sistemas de IA. Es que esos sistemas están diseñados para no ser entendidos por quienes los sufren. El repartidor no sabe cómo se calcula su tarifa. El solicitante de crédito no sabe por qué fue rechazado. El estudiante no sabe cómo el sistema de admisión lo clasificó. En cada caso, alguien lee y alguien es leído. Alguien nombra y alguien es nombrado.

Aquí el marco de Freire hace visible algo que la ley chilena podría hacer bien o mal. Una obligación de transparencia puede desnaturalizar la opacidad —volverla un problema que se ve, se nombra, se discute— o puede naturalizarla de nuevo bajo una capa de cumplimiento formal. Un informe técnico que nadie fuera del regulador puede leer no ilumina nada. Solo traslada la opacidad de la empresa a la burocracia. El ciudadano sigue afuera.

Freire tenía una desconfianza específica hacia la tecnología que se presenta como neutral y termina sirviendo a pocos. En Pedagogía de la autonomía advertía sobre “una sociedad eficazmente operada por máquinas altamente ‘inteligentes’, que sustituyeran a mujeres y hombres en actividades de las más variadas, y millones de Marías y Pedros sin tener qué hacer”. No era tecnófobo. Su punto era otro: el avance técnico que no responde a las necesidades de la existencia humana pierde su sentido. La pregunta no es si la máquina es inteligente. Es a quién sirve su inteligencia.

Una ley de IA que solo mide riesgos técnicos y olvida a las Marías y los Pedros concretos —los que serán clasificados, filtrados, puntuados por estos sistemas— cumple la forma y traiciona el fondo. La transparencia real no es un documento. Es una capacidad. La capacidad de que el afectado lea el sistema que lo afecta.

Los mecanismos de denuncia y el problema del acceso

La ley crea canales de denuncia. En el papel, cualquiera puede reclamar ante la autoridad de fiscalización. En la práctica, “cualquiera” es una ficción cómoda.

Freire desconfiaba de los mitos que disfrazan la desigualdad de igualdad de oportunidades. En Pedagogía del oprimido desmontaba “el mito de que todos pueden llegar a ser empresarios siempre que no sean perezosos”. El mito iguala en el discurso a quien no es igual en las condiciones. El dueño de la fábrica y el vendedor callejero de dulce de banana no son “ambos empresarios”. Llamarlos así borra la estructura que separa a uno del otro.

El mismo mito reaparece en el diseño de los mecanismos de denuncia. “Cualquier ciudadano puede reclamar” suena a igualdad. Pero reclamar exige recursos que no están repartidos por igual. Exige saber que fuiste afectado por un algoritmo —cosa que la opacidad te niega—. Exige entender el lenguaje jurídico del reclamo. Exige tiempo, conexión, cierta alfabetización digital, la confianza de que el reclamo servirá de algo. Un ejecutivo tiene todo eso. Una trabajadora doméstica clasificada por un sistema de scoring crediticio, no.

Si la ley construye canales que solo los ya-alfabetizados pueden usar, no democratiza nada. Refuerza la asimetría que dice combatir. Los que ya tienen la palabra la usan mejor. Los que no la tienen quedan, otra vez, como objetos de un proceso que se decide sin ellos. Bancario hasta la médula, aunque se llame participación.

El marco de Freire aquí es exigente y concreto. No basta con abrir un canal. Hay que preguntarse quién puede entrar por él. Una de las sondas de esta semana lo dice directo: cómo aseguramos que los mecanismos de denuncia sean accesibles para quienes tienen menos educación digital. La respuesta freiriana no es simplificar el formulario. Es acompañar. Es construir, junto a la gente afectada, la capacidad de leer el sistema y nombrar el daño. Sin ese acompañamiento, el derecho a denunciar es un depósito en una cuenta que la mayoría no sabe abrir.

El Consejo Nacional de IA: diálogo o cooptación

La ley contempla espacios de participación, entre ellos un consejo consultivo. Aquí el marco freiriano se juega su prueba más difícil.

Freire creía en el diálogo como método de conocimiento y de liberación. Pero era preciso sobre qué contaba como diálogo. No cualquier reunión con actas es diálogo. El diálogo verdadero ocurre entre sujetos que construyen conocimiento juntos, en condiciones donde ninguno reduce al otro a objeto. Cuando un experto “consulta” a la comunidad para validar una decisión ya tomada, eso no es diálogo. Es lo que Freire llamaba una invasión cultural disfrazada de participación. La forma dialoga; el fondo deposita.

Un Consejo Nacional de IA puede ser cualquiera de las dos cosas. Puede ser un espacio donde ingenieros, empresas, funcionarios y ciudadanos afectados construyen juntos el sentido de la regulación. O puede ser un teatro donde los que ya tienen el poder técnico presiden, y los demás firman. La diferencia decide si la ley concientiza o anestesia.

Freire nombraba un mecanismo que sirve para distinguir uno de otro. En Pedagogía del oprimido describía cómo un buen facilitador logra “mantener vivo el interés de los individuos, que en lugar de ‘perderse’ en los debates llegan a la síntesis”. El diálogo liberador no es conversación sin rumbo. Tiene dirección: llega a síntesis, a comprensión compartida, a acción. La cooptación, en cambio, disuelve la síntesis en tecnicismo. Ahoga el interés bajo jerga que solo los expertos manejan. El ciudadano se pierde en el debate, se cansa, se va. Y los que quedan deciden.

El riesgo es predecible porque es estructural. Los debates sobre IA están saturados de lenguaje técnico. Ese lenguaje no es neutral. Es una barrera de entrada. Quien lo domina, manda. Quien no, calla. Un consejo donde la conversación transcurre en el idioma de los modelos y los parámetros ya excluyó a casi todos antes de la primera votación. La alfabetización crítica no es un adorno del proceso participativo. Es su condición de posibilidad.

La periferia que consume lo que no produce

Hay una capa de este fenómeno que solo se ve desde América Latina, y el marco de Freire la ilumina con precisión.

Chile regula una IA que Chile no produce. Los grandes modelos vienen del norte —Estados Unidos, en menor medida China—. La región consume lo que otros fabrican. Esa asimetría no es nueva. Freire la vivió y la nombró en su época: la relación entre centro y periferia, entre quienes definen el mundo y quienes lo reciben ya definido. La IA le añade una capa. Ahora la periferia no solo importa productos. Importa formas de conocer, de clasificar, de decidir, incrustadas en sistemas que fueron entrenados con datos y valores de otro lado.

Regular esa IA es, en el mejor de los casos, un acto de dignidad. La región dice: no aceptamos como natural lo que nos llega de afuera; ponemos condiciones, exigimos cuentas, nombramos nuestro propio marco. Eso es concientización en escala nacional. Es la periferia tomando la palabra frente al centro.

Pero hay un peligro simétrico. Regular sin capacidad de producir puede volverse un gesto vacío. Un país que solo puede decir “no” a la tecnología de otros, sin poder construir la propia, negocia desde la debilidad. La ley chilena corre ese riesgo. Puede ser el primer paso de una soberanía tecnológica regional, o puede ser el permiso de aduana que legitima el consumo sin cambiar la dependencia. El marco de Freire pide mirar cuál de las dos.

En Pedagogía de la autonomía Freire fijaba el criterio con claridad. Rechazaba tanto la tecnofobia como la tecnolatría. “No se trata”, escribía, “de inhibir las investigaciones y frenar los avances sino de ponerlos al servicio de los seres humanos.” A todo avance técnico, sostenía, debería corresponder “el empeño real de respuesta inmediata a cualquier desafío que pusiera en riesgo la alegría de vivir de los hombres y de las mujeres.” La vara no es la innovación. Es la vida concreta de la gente.

Aplicado a Chile: la pregunta correcta no es si la ley frena o impulsa la innovación. Es si la ley pone la IA al servicio de los chilenos concretos —los que trabajan, los que estudian, los que serán clasificados por estos sistemas— o si los deja como consumidores pasivos de una tecnología que se decide en otra parte. La innovación por la innovación es el “gozo inmoral del inversionista” que Freire denunciaba. La innovación al servicio de la vida es otra cosa. La ley puede favorecer una u otra. El texto legal no lo garantiza. Lo garantiza —o lo traiciona— la práctica.

Lo que el formalismo no transforma

Queda la pregunta más dura, la que atraviesa todo lo anterior. Una ley puede cambiar el papel sin cambiar la realidad.

Freire conocía bien esta trampa. El opresor puede adoptar el lenguaje de la liberación sin liberar a nadie. Puede hablar de participación, de derechos, de transparencia, y dejar intactas las relaciones de poder que producen la opresión. El discurso se moderniza; la estructura sigue. Freire llamaba a esto falsa generosidad: el gesto que alivia el síntoma para no tocar la causa.

Una ley de IA puede ser exactamente eso. Puede establecer autoridades, marcos de riesgo, obligaciones de reporte, y no alterar en nada la asimetría fundamental entre quien decide sobre los algoritmos y quien los sufre. Puede generar toneladas de cumplimiento —informes, auditorías, certificaciones— sin producir un gramo de concientización. El formalismo burocrático es el modo en que el poder absorbe la crítica sin cambiar. Convierte una demanda de justicia en un trámite.

La primera sonda de esta semana apunta al corazón del asunto: si la ley genera una verdadera alfabetización crítica o se queda en un formalismo que no transforma las relaciones de poder. El marco de Freire no puede responder eso desde el texto. Solo la práctica lo responderá. Pero sí puede decir dónde mirar. Hay que mirar si el ciudadano común termina sabiendo más sobre los sistemas que lo gobiernan, o solo sabiendo que existe una oficina donde reclamar. Hay que mirar si los afectados ganan palabra, o si la palabra queda toda del lado de los reguladores y las empresas. Hay que mirar si el poder se redistribuye, o solo se documenta.

Porque una ley que documenta la opresión con transparencia impecable sigue siendo una ley que deja la opresión en su lugar. Transparente, auditada, reportada. E intacta.

La pregunta que la ley no puede evitar

El marco de Freire deja a Chile —y a la región que lo mira— frente a una elección que ninguna cláusula legal resuelve por sí sola.

La ley puede ser bancaria o problematizadora. Puede depositar derechos que nadie sabe ejercer, o puede convertirse en herramienta para que la gente lea el mundo algorítmico y lo nombre. Puede abrir canales que solo los poderosos recorren, o puede acompañar a los demás hasta que también entren. Puede montar un consejo que dialoga de verdad, o uno que coopta con jerga. Puede afirmar una soberanía tecnológica en construcción, o legitimar la dependencia con un sello de aduana. Puede transformar relaciones de poder, o documentarlas con prolijidad y dejarlas donde estaban.

Nada de esto está escrito en el texto de la ley. Todo está en lo que se haga con ella.

Y ahí está la implicación que el marco freiriano vuelve imposible de ignorar. La regulación no es un fin. Es, en el mejor caso, un comienzo. La verdadera pregunta no es si Chile reguló bien la IA. Es si los chilenos —los concretos, las Marías y los Pedros de Freire— saldrán de este proceso sabiendo leer el poder algorítmico que los rodea, o si saldrán con un nuevo derecho abstracto guardado en un cajón que nunca aprenderán a abrir.

Una ley que enseña a la gente a nombrar el mundo que la gobierna es un acto de liberación. Una ley que solo administra ese mundo por encima de sus cabezas es una nueva forma de depósito. La diferencia entre las dos no la decide el Congreso. La deciden los años que vienen. Y la única garantía de que se decida bien es que la gente afectada tenga, de verdad, la palabra.