Briefing por Audiencia

El costo oculto de la IA: lo que la agenda de investigación no está midiendo

La semana nos deja una incomodidad metodológica que conviene nombrar sin rodeos: buena parte de la investigación que hoy se acepta y se financia sobre inteligencia artificial mide las cosas equivocadas. Mientras crece un campo dedicado al “bienestar de la IA” —la pregunta hipotética sobre si los modelos futuros tendrán consciencia y merecerán consideración moral—, los daños empíricos, presentes y medibles quedan sin diseño de estudio, sin n, sin financiamiento. Para quien trabaja en una universidad latinoamericana con presupuesto de investigación restringido y sistemas de evaluación por pares que premian la novedad conceptual sobre la verificación incómoda, esta distorsión no es un debate lejano: es una disputa por la agenda.

El fenómeno tiene dos pilares materiales que el discurso de la “tecnología limpia” prefiere no contabilizar. El primero es el trabajo de etiquetado de datos, precarizado y concentrado en el Sur Global. El segundo es el consumo de agua y energía de los centros de datos. Ninguno de los dos aparece en los benchmarks con los que evaluamos modelos, ni en los estudios de productividad que las instituciones citan para justificar adopción. La tarea de esta semana, para nuestra comunidad de investigación, es preguntarnos por qué nuestras propias métricas heredan esos puntos ciegos.

Este briefing no repite la tesis que ya sostuvimos —que la IA educativa necesita regulación y alfabetización para ser ética AI News Social-Weekly Critical Analysis-Education-ES-20250720. El delta de esta semana es otro: no es que falten marcos regulatorios, es que falta la evidencia empírica sobre la cual esos marcos deberían construirse, y que la evidencia que sí existe está siendo desplazada por agendas especulativas mejor financiadas.

El desvío del “AI welfare”: cuando la agenda especula en vez de medir

La afirmación central de la semana en el eje de aspectos sociales (SA) es metodológica antes que política. El campo emergente del “bienestar de la IA” plantea la consideración moral de los modelos como cuestión de consciencia e inteligencia futura, y con ello desplaza recursos de investigación que podrían destinarse a documentar daños concretos y actuales Anthropic’s highly-anticipated Claude Opus 4.5 shows the AI race is far from over. El problema no es que la pregunta filosófica carezca de interés. El problema es de asignación: en un ecosistema donde el financiamiento es finito —y en América Latina lo es de manera aguda, con CONICET, CNPq y CONACYT bajo presión presupuestaria sostenida—, cada línea de investigación especulativa bien dotada compite contra estudios empíricos sobre discriminación laboral, vigilancia policial o impacto ambiental que no consiguen el mismo respaldo.

Desde el rigor metodológico, lo que distingue a estas agendas es la falsabilidad. Un estudio sobre sesgo racial en un sistema de detección genera hipótesis contrastables, con datos observables y tasas de error medibles. Una investigación sobre la consciencia hipotética de un modelo futuro no admite, por diseño, refutación empírica en el presente. Que la segunda reciba atención institucional creciente mientras la primera lucha por publicarse debería preocuparnos como comunidad que dice valorar la evidencia.

Aquí conviene traer a Tarcízio Silva y su trabajo sobre racismo algorítmico, que muestra cómo estas tecnologías, a menudo presentadas como soluciones a problemas sociales, terminan reproduciendo e incluso agravando discriminaciones raciales, perjudicando aún más a grupos marginados. Silva trabaja con un enfoque cualitativo riguroso precisamente sobre los daños presentes —no los hipotéticos—. La agenda del “AI welfare” invierte esa prioridad. Para la investigadora latinoamericana, adoptar acríticamente los marcos del Norte significa importar también sus jerarquías de lo que merece ser estudiado.

La policía predictiva y el problema de “regular lo irreparable”

En nuestra pieza de mayo contrastamos promesas de equidad con la realidad de sesgos perpetuados AI News Social-Weekly Critical Analysis-Social Justice-ES-20250511. El cambio esta semana es que la evidencia ya no sostiene el marco reformista. La policía predictiva no presenta una “brecha entre promesa y realidad” que la regulación pueda cerrar: presenta un problema estructural donde el sistema hace exactamente lo que su diseño produce —concentrar vigilancia sobre poblaciones ya marginadas— y donde la mejora incremental no altera el resultado Predictive policing is racist and should be banned, not regulated.

Para investigadoras esto plantea una pregunta de diseño experimental incómoda: ¿cómo se evalúa una tecnología cuyo daño no es un defecto corregible sino una función del sistema? Los estudios de “auditoría algorítmica” que miden disparidad de tasas entre grupos son valiosos, pero corren el riesgo de legitimar el despliegue al sugerir que un sistema “menos sesgado” sería aceptable. La evidencia disponible indica que el sesgo se reintroduce por la vía de los datos históricos de detención, que ya codifican prácticas discriminatorias.

En América Latina el punto es urgente porque varias jurisdicciones importan estos sistemas sin la infraestructura institucional para auditarlos ni la producción científica local que los examine. Marta Peirano describe cómo, en China, el Ministerio de Trabajo se fusionó con lógicas de recursos humanos y control, uniendo la institución creada para proteger derechos con dispositivos diseñados para vigilar. La advertencia es transferible: cuando la región adopta herramientas de vigilancia predictiva sin capacidad de escrutinio independiente, la investigación académica se convierte en la única barrera institucional restante —y esa barrera hoy está subfinanciada.

Productividad auto-reportada: el vicio metodológico del año

El eje de herramientas (AIT) trae el hallazgo con mayor consecuencia para nuestra práctica de revisión por pares. El AI Index Report documenta ganancias de productividad atribuidas a asistentes de código como Copilot, pero la métrica dominante es productividad auto-reportada, y un estudio concurrente revela fallos ocultos que esa métrica no captura The 2025 AI Index Report. El problema es de validez de constructo: se mide la percepción de eficiencia del usuario, no el resultado verificable de su trabajo.

Esto no es un detalle. Los estudios de productividad con herramientas de IA que las instituciones citan para justificar inversión en licencias suelen adolecer del mismo vicio: ausencia de grupo control, medición subjetiva del output, y —crucialmente— no contabilización de la tasa de error introducida. Un estudio riguroso reciente encontró que las percepciones de aceleración pueden coexistir con desaceleración real cuando se mide el tiempo hasta completar tareas verificadas. La brecha entre rendimiento en benchmark y fiabilidad en producción es el fenómeno metodológico central de la temporada AI coding tools may not speed up developers as much as expected.

Hay un corolario técnico que merece atención de quien diseña estudios de automatización. Cada automatización generada por un LLM arrastra una tasa de error que no disminuye acumulativamente: encadenar diez pasos automatizados no produce un sistema más confiable, sino uno donde los errores se componen. Esto invalida buena parte de los diseños que asumen mejora monotónica del rendimiento con más automatización. Para la investigadora que planea un estudio sobre IA en flujos de trabajo administrativos universitarios —admisiones, gestión de matrícula, evaluación—, el diseño debe incluir medición de error compuesto, no solo de eficiencia por tarea aislada.

El costo de evaluar: quién paga el cómputo y qué mide

La evaluación de modelos de frontera requiere cómputo masivo, y ese costo estructura quién puede investigar. La evaluación de un modelo como GPT-5 exige recursos computacionales que ninguna universidad latinoamericana puede sostener con presupuesto propio, lo que concentra la capacidad de auditoría independiente en un puñado de instituciones del Norte y en las propias empresas Anthropic’s highly-anticipated Claude Opus 4.5 shows the AI race is far from over. La economía de la evaluación beneficia a los proveedores de hardware —Nvidia como caso paradigmático— y penaliza a quien intenta verificar afirmaciones desde fuera del circuito de financiamiento intensivo.

Aplicando las lentes LATAM: la disponibilidad de capacidad de evaluación independiente es prácticamente nula en la región; acceder al cómputo necesario para replicar benchmarks está fuera del alcance de los regímenes de dedicación docente y los montos de subsidio típicos de CONICET o CONACYT. La aplicabilidad de los benchmarks existentes es dudosa: miden desempeño en inglés, en tareas definidas por prioridades del Norte, y no capturan el rendimiento en contextos lingüísticos y curriculares latinoamericanos.

La alternativa metodológica no es competir en escala —competencia perdida de antemano— sino especializar. Modelos más pequeños, evaluados en tareas concretas y localmente relevantes, con benchmarks construidos sobre corpus regionales, producen evidencia que las evaluaciones masivas del Norte no generan. Un estudio bien diseñado sobre el desempeño de un modelo de tamaño modesto en comprensión de textos académicos en español o portugués, con un corpus de artículos de RIES, aporta más a la región que replicar una evaluación de frontera. La anticipación consiste en construir esa infraestructura de evaluación regional ahora, antes de que la brecha de cómputo se vuelva insalvable.

Alfabetización en IA: los marcos individualistas y el lucro ausente

En el eje de alfabetización (AIL), la evidencia de la semana señala un déficit estructural en cómo se enseña a comprender la IA. Los materiales de divulgación explican las alucinaciones de los modelos listando causas técnicas —datos de entrenamiento limitados, arquitecturas probabilísticas, ausencia de verificación factual— pero omiten sistemáticamente el incentivo económico: los modelos se lanzan con niveles de error conocidos porque el ciclo de producto premia la velocidad de despliegue sobre la fiabilidad Why AI chatbots hallucinate, according to OpenAI research. Presentar la alucinación como falla técnica pura, sin nombrar el lucro como causa de la tolerancia al error, despolitiza el fenómeno.

El mismo movimiento ocurre en las definiciones. Describir la IA como “mecanismos cercanos al razonamiento humano” naturaliza una equivalencia que la evidencia no sostiene y que orienta mal la investigación: si tratamos a los modelos como razonadores, diseñamos estudios que buscan comprensión donde hay correlación estadística. Para la alfabetización crítica, y para el diseño de investigación riguroso, la precisión terminológica es una condición metodológica, no un adorno.

García Canclini ofrece aquí un marco pertinente: su pregunta sobre si tendremos que “luchar contra la irrelevancia en lugar de hacerlo contra la explotación” ilumina el riesgo de una alfabetización que enseña a usar herramientas sin enseñar a cuestionar el sistema que las produce. Una alfabetización individualista —“aprende a escribir mejores prompts”— produce usuarios más eficientes pero no ciudadanos capaces de escrutar las estructuras de poder detrás de la tecnología. La agenda de investigación en AIL debería medir el efecto de modelos de alfabetización colectiva y crítica frente a los individualistas dominantes, con diseños que capturen no solo competencia de uso sino capacidad de análisis estructural.

Hay una herramienta que la alfabetización forense debería incorporar: los sistemas de identificación de procedencia de video sintético, como los que rastrean el origen de material falsificado A new tool can help identify the source of deepfake videos. Enseñar el uso de estas herramientas convierte la alfabetización de un ejercicio conceptual en una competencia verificable —y genera, de paso, objetos de investigación medibles sobre eficacia de detección.

El trabajo invisible y el agua: los estudios que faltan

Vuelvo al fenómeno central porque atraviesa las cuatro categorías. El etiquetado de datos que sostiene a los modelos comerciales se realiza en condiciones laborales precarias, con trabajadores en el Sur Global —incluida América Latina— que moderan contenido y anotan datos sin protección laboral ni reconocimiento en la cadena de valor científica. Este trabajo no aparece en las secciones de métodos de los papers que usan esos datos, aunque constituye una condición material de su existencia The workers behind AI often toil in secretive conditions. Como comunidad de investigación, aceptamos rutinariamente datasets sin exigir transparencia sobre las condiciones de su producción. Ninguna revisión por pares pregunta hoy quién etiquetó los datos y bajo qué condiciones.

El costo ambiental presenta el mismo patrón de invisibilización. El consumo de agua y energía de los centros de datos que operan estos modelos se traslada a comunidades locales, y en América Latina —con infraestructura hídrica más frágil y regulación incipiente— ese traslado ocurre sin negociación ni compensación AI’s growing energy and water footprint. La región no paga los costos de entrenamiento, que ocurren en el Norte, pero sí absorbe crecientemente los costos de operación cuando los centros de datos se instalan localmente atraídos por energía y agua baratas.

La consecuencia para la agenda de investigación es directa: necesitamos estudios que midan la huella hídrica y energética de la IA desplegada en instituciones latinoamericanas, con metodología transparente y datos verificables. Estos estudios casi no existen porque las empresas ocultan las cifras y porque el diseño de una investigación así requiere acceso que rara vez se concede. La transparencia obligatoria en reportes de sostenibilidad —como requisito regulatorio— es la condición previa para que esta investigación sea siquiera posible.

Qué significa esto para investigadoras e investigadores

Las implicaciones de la semana son concretas y accionables dentro del ciclo de trabajo académico.

En el diseño de estudios de productividad. Si su investigación evalúa herramientas de IA en tareas docentes, administrativas o de investigación, abandone la productividad auto-reportada como variable dependiente principal. Incorpore grupo control, medición de output verificado y —crítico— contabilización de la tasa de error introducida y su composición a lo largo de flujos multi-paso. Un estudio que solo mide percepción de eficiencia replicará el vicio metodológico que esta semana quedó expuesto.

En la revisión por pares. Como revisora, exija a los manuscritos que usan datasets comerciales que declaren la procedencia y las condiciones de producción de los datos de entrenamiento, del mismo modo que exigimos aprobación de IRB para estudios con humanos. El etiquetado precario es, materialmente, trabajo humano no reconocido en la cadena científica. Establecer este estándar en las revistas de la región —empezando por las indexadas en el circuito iberoamericano— es una intervención al alcance de nuestra comunidad.

En la asignación de esfuerzo propio. Ante la disyuntiva entre sumarse a agendas especulativas bien financiadas (el “AI welfare”) y sostener investigación empírica sobre daños presentes, la contribución marginal de la región es mayor en lo segundo. Los daños de discriminación algorítmica, vigilancia y costo ambiental en contextos latinoamericanos están drásticamente subestudiados; ahí la producción científica local tiene ventaja comparativa y relevancia irremplazable.

En la construcción de infraestructura de evaluación. No compita en escala de cómputo. Especialice: construya benchmarks sobre corpus regionales, en español y portugués, sobre tareas curricularmente relevantes. Un consorcio interinstitucional que comparta un banco de evaluación en lengua regional produce un bien público que ninguna evaluación de frontera del Norte generará, y que además fortalece la posición negociadora de la región frente a proveedores de modelos.

En el financiamiento. Al formular proyectos para CONICET, CNPq o CONACYT, la huella ambiental y laboral de la IA es una línea de investigación defendible, subatendida y de alto valor público. Los estudios de sostenibilidad hídrica y energética de infraestructura de IA regional casi no existen; un proyecto bien diseñado en esta línea enfrenta poca competencia y aborda un vacío documentado.

En la alfabetización que enseñamos. Incorpore herramientas forenses verificables —detección de procedencia de contenido sintético— a los cursos de alfabetización en IA, y mida su efecto con diseños que capturen capacidad de análisis estructural, no solo competencia de uso. La alfabetización crítica es también un objeto de investigación con hipótesis contrastables.

Observación prospectiva

El patrón que emerge esta semana no es tecnológico sino de economía política de la investigación. La agenda global de estudios sobre IA está siendo modelada por quien tiene el cómputo para evaluar, el capital para financiar líneas especulativas y el interés en que ciertos costos permanezcan sin medir. América Latina puede reproducir esa agenda —importando sus prioridades, sus benchmarks y sus puntos ciegos— o puede construir una agenda de investigación anclada en los daños que efectivamente ocurren en la región: la vigilancia predictiva importada sin escrutinio, el trabajo de etiquetado precarizado en nuestras ciudades, el agua y la energía extraídas por centros de datos que negocian con Estados débiles.

La advertencia de las industrias extractivas es precisa: sin regulación que exija transparencia, la región se convierte en receptora de costos externalizados que nadie contabilizó. La diferencia esta vez es que la comunidad de investigación tiene las herramientas metodológicas para hacer visible lo que se pretende ocultar —si decide dirigir su rigor hacia lo que importa en lugar de hacia lo que se financia con facilidad. Esa decisión, sobre qué medimos y qué dejamos sin medir, es la disputa científica de fondo. Y se juega, artículo por artículo, revisión por revisión, en las próximas convocatorias.