Briefing por Audiencia
La cadena de suministro humana como objeto de investigación
La semana ofrece un desplazamiento metodológico antes que una novedad tecnológica. Los titulares que celebran la potencia de los modelos exponen, sin proponérselo, lo que la sostiene: trabajadores keniatas de datos mal pagados, trabajo gig bajo vigilancia permanente, explotación laboral contabilizada como margen técnico. Para quien investiga IA y educación, esto obliga a una pregunta incómoda sobre nuestros propios diseños: cuando medimos el efecto de un tutor inteligente en la participación estudiantil, ¿qué parte de esa “inteligencia” es una cadena de anotación humana precarizada que no aparece en la sección de métodos?
La tesis de la semana es que la autonomía vendida como atributo de la máquina es una relación laboral, y América Latina ya ocupa eslabones dentro de ella. No es un fenómeno que llegará: los centros de etiquetado, moderación de contenido y transcripción que sirven a las grandes plataformas operan en la región desde hace años, con salarios locales y sin prestaciones. Esto tiene una consecuencia directa para la agenda de investigación regional: el trabajo detrás de los datos es un objeto empírico disponible, medible y localizado, no una abstracción del Norte global.
Aplicando las cinco lentes al fenómeno, la lente de aplicabilidad es la que más interpela a nuestra comunidad. Las universidades latinoamericanas —como cualquier comprador institucional— consumen modelos cuya cadena de suministro laboral no auditan. Cuando un departamento de sistemas contrata una plataforma de proctoring, una herramienta de detección de plagio o un tutor adaptativo, financia una cadena de anotación que no aparece en el pliego de compra ni en el protocolo de evaluación pedagógica. La anticipación que corresponde es concreta: incorporar trazabilidad laboral del proveedor de IA a los criterios de compra pública universitaria, del mismo modo que ya exigimos protección de datos personales.
Aquí conviene marcar un delta respecto de lo que esta publicación ya sostuvo. El 30 de agosto argumentamos que el vocabulario de la justicia está siendo colonizado por el de la eficiencia, naturalizando los daños de la IA como técnicos o inevitables. Aquel diagnóstico era sobre el lenguaje. Esta semana el objeto es material y auditable: no el discurso que despolitiza el daño, sino la nómina que lo produce. El avance que pedíamos entonces —construir sobre el diagnóstico con casos concretos regionales— aparece disponible en forma de dato laboral localizable.
Cuando el IRB reemplaza al escrutinio curricular
El estado de la investigación en evaluación con IA sigue siendo pobre en diseño y esto merece decirse sin eufemismos entre pares. La semana confirma que los estudios disponibles son casos aislados de compromiso —un tutor de física que duplica la participación, un IRB que aparece como único punto de control ético— y no comparaciones controladas La IA no piensa sola: alguien etiqueta, alguien vigila, alguien cobra miseria. El problema no es que la evidencia sea preliminar; toda literatura emergente lo es. El problema es la estructura del vacío.
Faltan diseños que comparen tres condiciones: evaluación con IA, evaluación sin IA y evaluación con IA asistida por docentes. Sin ese triángulo, cualquier afirmación de mejora carece de contrafactual. Un aumento de participación en un tutor de física no dice nada sobre aprendizaje si no controlamos por novedad, por el efecto Hawthorne, por autoselección de estudiantes con mayor alfabetización digital previa. La métrica de participación es un proxy que la industria prefiere porque es barato de instrumentar y visualmente persuasivo en un pitch. Como investigadoras sabemos que participación no es aprendizaje, y que el n de estos estudios de caso rara vez soporta inferencia más allá del aula específica donde se corrió.
El hallazgo metodológicamente más serio de la semana es el desplazamiento de la ética hacia la puerta equivocada. La aprobación del comité de ética —la revisión de sujetos humanos— se está usando como sustituto del escrutinio curricular La IA no piensa sola: alguien etiqueta, alguien vigila, alguien cobra miseria. Son controles distintos con propósitos distintos. El IRB pregunta si los sujetos consintieron y si el riesgo está gestionado. No pregunta si el instrumento es válido, si mide lo que dice medir, si es equitativo entre subgrupos, si el currículo que evalúa fue diseñado con la herramienta o adaptado a ella. Un protocolo puede pasar el comité de ética con holgura y aun así producir un instrumento sesgado contra estudiantes de menor conectividad.
Para la región esto tiene un correlato institucional específico. Muchas universidades latinoamericanas tienen comités de ética consolidados en investigación biomédica y en ciencias sociales, pero carecen de mecanismos de evaluación de validez de instrumentos mediados por IA. El resultado es que el único filtro disponible —el IRB— absorbe una función que no le corresponde, y la política institucional termina apoyándose en anécdotas de proveedores porque no hay datos de resultados propios La IA no piensa sola: alguien etiqueta, alguien vigila, alguien cobra miseria. Bajo regímenes de dedicación docente donde la carga de evaluación ya es alta, la ausencia de infraestructura de validación no es negligencia individual: es una falla de diseño institucional que ningún profesor puede resolver solo.
El modelo de amenaza está mal puesto
La categoría de aspectos sociales aporta esta semana un diagnóstico que reordena prioridades de investigación. El modelo de amenaza dominante en los marcos de seguridad de IA vigila el sistema que se escapa de su creador, no el sistema que opera bajo control humano pleno dirigido contra otros humanos La IA no piensa sola: alguien etiqueta, alguien vigila, alguien cobra miseria. Los casos documentados —policía francesa con reconocimiento facial, clasificación sesgada, reclutamiento automatizado— describen daño causado por uso humano deliberado, no por rebelión autónoma.
Esto importa para la asignación de recursos de investigación, incluido el financiamiento público. Cuando CONICET, CNPq, CONACYT o CONCYTEC evalúan proyectos sobre “riesgos de la IA”, el marco de peligro que reconocen orienta qué se financia. Si el registro de peligro privilegia la alineación de sistemas hipotéticamente autónomos, la investigación sobre daño real y presente —discriminación algorítmica en la asignación de becas, sesgo en admisiones automatizadas, vigilancia en proctoring— queda fuera del registro y compite en desventaja. El riesgo más documentado es el uso humano de la IA contra humanos, y sin embargo es el menos financiado como categoría de seguridad.
El dato metodológico incómodo es de dónde viene la evidencia. Los datos sobre discriminación algorítmica llegan desde el periodismo, no desde la evaluación de impacto institucional La IA no piensa sola: alguien etiqueta, alguien vigila, alguien cobra miseria. Esto es una anomalía en la división del trabajo de conocimiento: el periodismo de investigación está produciendo la evidencia primaria que las evaluaciones de impacto deberían generar de manera sistemática y replicable. Para nuestra comunidad esto es tanto un reproche como una oportunidad. El reproche: la academia regional no ha construido los instrumentos de auditoría algorítmica que la situación exige. La oportunidad: hay un espacio metodológico abierto para diseños de auditoría replicables, con protocolos publicados y datos abiertos, que superen la lógica del caso periodístico único.
Las tradiciones conceptuales que la semana nombra —coded inequity, New Jim Code, digital poorhouse— describen un problema que los marcos corporativos no miden La IA no piensa sola: alguien etiqueta, alguien vigila, alguien cobra miseria. Que estas tradiciones sean anglófonas es parte del problema de adopción: la región consume el vocabulario crítico importado sin haber producido la evidencia empírica local que lo ancle a nuestras instituciones. Nombrar el New Jim Code en un paper argentino o colombiano sin datos regionales de discriminación algorítmica es aplicar un marco sin su base empírica. El puente de adopción que falta no es de herramientas sino de evidencia propia.
Quién conserva el deber de verificar
La alfabetización en IA plantea esta semana un problema de investigación bien delimitado, y su delimitación es su virtud. La pregunta no es cuán buenos son los detectores de contenido sintético. La pregunta es quién conserva el deber de verificar cuando la percepción humana falla La IA no piensa sola: alguien etiqueta, alguien vigila, alguien cobra miseria. El desplazamiento es del artefacto al circuito.
La evidencia técnica disponible es débil en ambos extremos. Los detectores están a la baja en desempeño y los humanos rinden cerca del azar en discriminación de contenido sintético La IA no piensa sola: alguien etiqueta, alguien vigila, alguien cobra miseria. Este es un hallazgo que como investigadoras debemos tomar con seriedad metodológica antes que con alarma: si el desempeño humano se acerca al azar, entonces cualquier intervención educativa que pretenda “enseñar a detectar” enfrenta un techo de efecto que probablemente no pueda superar. La literatura de alfabetización mediática lleva décadas mostrando que entrenar la detección perceptual individual tiene rendimientos decrecientes. Insistir en ella con IA es repetir un diseño ya refutado.
Lo que la semana propone como objeto es más productivo: la cadena de verificación, no la detección individual La IA no piensa sola: alguien etiqueta, alguien vigila, alguien cobra miseria. Es decir, cómo se distribuye la responsabilidad de verificar entre autor, plataforma, editor y lector, y qué ocurre cuando la salida pública retira al lector del circuito. Ese retiro del lector —no el contenido falso en sí— es el fenómeno a estudiar. Es una reformulación que abre diseños de investigación medibles: podemos observar dónde se rompe la cadena, en qué eslabón se asume o se abandona el deber de verificar, y qué arreglos institucionales lo redistribuyen.
La metaliteracia aparece esta semana con fuerza teórica pero todavía sin instrumentos de medición públicos La IA no piensa sola: alguien etiqueta, alguien vigila, alguien cobra miseria. Este es exactamente el tipo de vacío que la investigación regional puede ocupar sin necesidad de infraestructura de cómputo costosa. Construir y validar un instrumento de metaliteracia —con propiedades psicométricas reportadas, invarianza de medición entre poblaciones, datos abiertos— es un aporte factible desde presupuestos latinoamericanos y de alto valor porque el campo lo necesita y no lo tiene.
Conviene además tomar en serio el concepto del dividendo del mentiroso: la desconfianza generalizada también rinde beneficios La IA no piensa sola: alguien etiqueta, alguien vigila, alguien cobra miseria. Cuando todo puede ser sintético, cualquier evidencia real incómoda puede descartarse como fabricada. Para la investigación esto significa que el efecto de la IA sobre la confianza pública no es lineal ni unidireccional: no solo se cree lo falso, también se descree lo verdadero. Un diseño que mida únicamente la susceptibilidad al engaño pierde la mitad del fenómeno.
Regular al usuario, no al producto
La categoría de herramientas cierra el arco con un caso que toca directamente nuestra práctica: presentaciones judiciales redactadas con IA, con el tribunal respondiendo mediante reglas de divulgación que vigilan al firmante y no al sistema La IA no piensa sola: alguien etiqueta, alguien vigila, alguien cobra miseria. La respuesta institucional al error de la herramienta es regular al usuario, no al producto. El juez exige que el abogado declare si usó IA; no exige que el proveedor documente el modelo.
El paralelo con la producción científica es exacto y urgente. Cuando una revista pide que los autores declaren el uso de IA en un manuscrito, replica la misma lógica: responsabiliza al firmante y deja al sistema fuera de escrutinio. Pero para la reproducibilidad —el criterio que nos define como comunidad— la declaración del usuario es insuficiente. Sin registro de versión del modelo, de parámetros de generación y del corpus de entrenamiento, ninguna reproducibilidad es posible La IA no piensa sola: alguien etiqueta, alguien vigila, alguien cobra miseria. “Usé un modelo de lenguaje para editar” es tan informativo metodológicamente como “usé un software estadístico” sin nombrar cuál ni qué versión.
Esto exige incorporar a nuestros protocolos un estándar de documentación de la interacción con IA que sea de método y no de cortesía La IA no piensa sola: alguien etiqueta, alguien vigila, alguien cobra miseria. El mínimo replicable incluye: modelo y versión exacta, fecha de acceso —porque los modelos se actualizan sin aviso—, parámetros de generación cuando estén disponibles, y el prompt literal. Sin esto, un estudio que use IA en cualquier etapa es, estrictamente, irreproducible, y deberíamos decirlo así en revisión por pares.
Hay además una dimensión que la semana señala y que la región suele omitir: el corpus de entrenamiento es también una cuestión de cómputo, no solo de privacidad La IA no piensa sola: alguien etiqueta, alguien vigila, alguien cobra miseria. Aquí retomo con un delta el argumento del 6 de septiembre sobre la visita de Nvidia a México, donde sostuvimos que la foto sin cláusulas profundiza la dependencia en lugar de construir industria. El delta es este: la dependencia no es solo de hardware ni de inversión, es de corpus. Un modelo entrenado sin datos regionales, sin variedades lingüísticas del español latinoamericano ni portugués brasileño, sin literatura académica en nuestras lenguas, es un instrumento cuyo sesgo importamos junto con la herramienta. La condición institucional vinculante que pedíamos entonces incluye, para la investigación, exigir transparencia de corpus como requisito de compra y de citación.
Qué significa esto para investigadoras esta semana
Las implicaciones son concretas y accionables dentro del ciclo de trabajo actual.
En diseño de estudios sobre evaluación con IA. Si tiene un estudio en curso o en planificación, verifique que exista un contrafactual real. La comparación mínima defendible es entre IA, sin IA y IA asistida por docentes. Un diseño de una sola condición con métrica de participación no soporta la conclusión de mejora del aprendizaje y será —con razón— rechazado en revisión rigurosa. Separe explícitamente el proxy (participación, tiempo en tarea) del constructo (aprendizaje) y justifique el salto inferencial o abstenganse de hacerlo.
En tramitación ética. No confunda la aprobación del comité de ética con validación del instrumento. Son controles distintos. Si su institución no tiene mecanismo de evaluación de validez de instrumentos mediados por IA, documéntelo como limitación y considere proponer su creación —es un aporte institucional tan citable como un paper.
En documentación de métodos. Adopte desde ya el estándar mínimo replicable para cualquier uso de IA: modelo, versión, fecha de acceso, parámetros y prompt literal. Guárdelo aunque la revista aún no lo pida; la exigencia llegará y los estudios que no lo tengan quedarán retroactivamente en falta. Trate la interacción con IA como trataría cualquier instrumento de medición.
En solicitudes de financiamiento. Al postular a CONICET, CNPq, CONACYT o CONCYTEC en temas de riesgo de IA, encuadre el daño presente y documentable —discriminación algorítmica, vigilancia, sesgo en decisiones institucionales— y no la alineación de sistemas hipotéticos. El daño por uso humano contra humanos es el mejor documentado y el peor financiado; ahí hay a la vez necesidad social y espacio competitivo.
En auditoría algorítmica. Existe un vacío que la región puede ocupar sin infraestructura de cómputo costosa: protocolos de auditoría replicables que superen el caso periodístico único. Diseñar un protocolo abierto de auditoría de sesgo en un sistema de admisiones o de asignación de becas es factible con presupuesto regional y de alto valor porque el campo lo necesita.
En instrumentos de metaliteracia. Construir y validar un instrumento con propiedades psicométricas reportadas e invarianza de medición entre poblaciones es un aporte factible y demandado. La teoría existe; los instrumentos públicos no. Ese hueco es una oportunidad de publicación con impacto real.
Sobre nuestra propia cadena de suministro. Antes de contratar una plataforma de IA para investigación o docencia, pregunte por la trazabilidad laboral del proveedor. Es información que hoy rara vez se entrega, y la ausencia de respuesta es en sí un dato. Como comunidad, deberíamos empezar a exigirla del mismo modo que exigimos cumplimiento de protección de datos.
Observación prospectiva
El movimiento de fondo de la semana es la reubicación del objeto de estudio. En cada categoría, lo que parecía un problema técnico —la precisión del modelo, la detección del fake, el error de la herramienta— resulta ser un problema de relación: laboral en la cadena de anotación, de responsabilidad en la cadena de verificación, de método en la documentación de la interacción. Para una comunidad de investigación esto es una buena noticia disfrazada de mala. Los problemas de relación son medibles, localizables y no exigen la infraestructura de cómputo que la región no tiene. El estudio del trabajo detrás de los datos, la auditoría de sesgo, la validación de instrumentos, la reconstrucción de la cadena de verificación: todo ello es investigación empírica de primer nivel al alcance de presupuestos latinoamericanos.
La advertencia es la contracara. Si la región no produce su propia evidencia sobre estos fenómenos, seguirá importando marcos anglófonos sin base local y consumiendo herramientas cuyo sesgo y cuya cadena laboral no auditó. La ventana está abierta ahora, mientras el campo global aún no consolidó ni instrumentos ni estándares. Preparar registros públicos de la cadena de suministro laboral de la IA, cláusulas de derechos del trabajador en la contratación estatal, protocolos abiertos de auditoría e instrumentos validados de metaliteracia no es tarea de un futuro regulatorio lejano: es agenda de investigación de este semestre. La inteligencia que estudiamos es, antes que un logro de ingeniería, una relación humana. Investigarla como tal es la ventaja comparativa que la región puede permitirse.