💻 computer science

Whose fairness? Structural concentration in AI bias research

Este artículo revela que la investigación sobre el sesgo de la IA está estructuralmente concentrada en un conjunto estrecho de instituciones y autores dominados por Estados Unidos, lo que plantea preocupaciones de que las definiciones de equidad y los métodos de mitigación resultantes puedan carecer de generalizabilidad para poblaciones y contextos globales diversos.

Autores originales: Abhash Shrestha, Subigya Gautam, Anu Sapkota, Sanju Tiwari, Tek Raj Chhetri

Publicado 2026-07-08

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Abhash Shrestha, Subigya Gautam, Anu Sapkota, Sanju Tiwari, Tek Raj Chhetri

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina el mundo de la Inteligencia Artificial (IA) como una cocina enorme y bulliciosa donde los chefs están constantemente inventando nuevas recetas para resolver problemas en la salud, el derecho y la vida cotidiana. Pero antes de que puedan cocinar, deben ponerse de acuerdo en qué sabor tiene lo "justo". Este artículo es una mirada tras bambalinas a quién está realmente en la cocina, quién tiene permitido escribir las recetas y si esas recetas funcionan para todos.

Aquí está la historia del artículo, desglosada en partes sencillas:

1. El Probleidad: ¿Quién está en la cocina?

Los autores querían saber: ¿De la justicia de quién estamos hablando?
Durante años, los investigadores han intentado corregir el sesgo de la IA (cuando las computadoras toman decisiones injustas). Han construido herramientas y reglas para medir esto. Pero nunca se detuvieron a preguntar: ¿Quién está creando estas reglas?

El artículo actúa como un recuento de toda la comunidad de investigación de la "Equidad en la IA". Analizaron 692 artículos de investigación publicados entre 2015 y 2025. Trataron estos artículos como un mapa para ver dónde viven los investigadores, a qué escuelas o empresas trabajan y con quién hablan.

2. El Hallazgo Principal: Un grupo muy pequeño es quien lleva el mando

Los resultados muestran que la cocina de la "Equidad en la IA" está fuertemente concentrada en unos pocos lugares.

Estados Unidos es el Chef Principal: EE. UU. domina el campo. Escribieron casi la mitad de todos los artículos que establecen las "reglas" de la equidad. Si observas quién lidera los equipos de investigación (los primeros autores), EE. UU. es responsable de casi el 50% de ellos.
El "Sur Global" está ausente: Los países del sur de Asia, África y América Latina apenas están presentes en la sala. Incluso la India, que tiene una fuerza laboral tecnológica enorme, es sorprendentemente silenciosa en esta conversación específica.
El "Círculo Íntimo": Los investigadores se comunican principalmente entre sí dentro de un pequeño club occidental (EE. UU., Reino Unido, Canadá, Alemania). Es como una cena donde todos se conocen entre sí, pero el resto del mundo no está invitado.

3. La Capa de "Fundación": La habitación más importante es la más exclusiva

Los investigadores dividieron los artículos en cinco "habitaciones" o temas diferentes:

Equidad General y Mitigación de Sesgos (El libro de reglas)
IA en Salud
Modelos de Lenguaje Extensos (LLM)
Sistemas de Recomendación (Como las sugerencias de Netflix o YouTube)
Equidad Basada en Grafos

Aquí está el giro crítico: La habitación más importante es la de "Equidad General". Aquí es donde se inventan las definiciones, los parámetros de referencia y las reglas básicas. Estas reglas son luego copiadas y utilizadas por las otras cuatro habitaciones (como Salud o LLM).

El Peligro: La habitación de "Equidad General" es la más concentrada de todas. EE. UU. lidera esta habitación más que cualquier otro lugar.
La Metáfora: Imagina una empresa donde las personas que diseñan los planos de todos los edificios viven en un vecindario específico. Diseñan las puertas y ventanas basándose en lo que se adapta a su vecindario. Luego, envían esos planos para construir casas en la selva, el desierto y el ártico. Las puertas podrían no encajar, o las ventanas podrían dejar entrar demasiada lluvia, porque los diseñadores originales nunca visitaron esos lugares.

4. El "Concurso de Popularidad" (Citas)

Los autores también observaron quién recibe más "choca esos cinco" (citas) de otros científicos.

Algunos artículos reciben miles de citas, mientras que la mayoría recibe muy pocas.
Curiosamente, el hecho de que un país escriba más artículos (como China o la India) no significa que sus artículos reciban más "choca esos cinco".
Sin embargo, los artículos que sí reciben más atención son mayoritariamente de EE. UU. y el Reino Unido, y tratan principalmente sobre las reglas de "Equidad General".

5. Por qué esto importa

El artículo argumenta que, debido a que los "creadores de reglas" son mayoritariamente de EE. UU. y Europa Occidental, las reglas que crean podrían no funcionar para todos.

Puntos Ciegos Culturales: Lo que parece "justo" en Nueva York puede parecer injusto en Katmandú o Nairobi. Por ejemplo, el artículo menciona que en algunas culturas, evitar el contacto visual es una señal de respeto, mientras que en Occidente, puede verse como una falta de confianza. Si una IA es entrenada solo con reglas occidentales, podría juzgar erróneamente a personas de otras culturas.
El Riesgo: Estamos construando sistemas de IA para todo el mundo, pero los "manuales de seguridad" están siendo escritos por un grupo pequeño y no representativo. Esto significa que las soluciones podrían no funcionar para las personas que más las necesitan.

6. Qué hicieron para ayudar

Los autores no solo señalaron el problema; construyeron un mapa vivo (un atlas interactivo) que cualquiera puede usar para observar este campo crecer. Esto permite a la comunidad ver en tiempo real si la cocina se está volviendo más diversa o si sigue siendo el mismo grupo pequeño dirigiendo el espectáculo.

Resumen

El artículo es una etiqueta de advertencia para la industria de la IA. Dice: "Estamos tratando de construir una IA justa para todos, pero las personas que diseñan el concepto de 'justicia' son mayoritariamente de una parte del mundo. Hasta que no invitemos a más voces de diferentes culturas y países a la mesa, nuestra definición de equidad seguirá incompleta y potencialmente perjudicial para quienes están fuera del 'círculo íntimo'".

Resumen Técnico: "¿De quién es la equidad? Concentración estructural en la investigación sobre el sesgo de la IA"

Planteamiento del Problema
Si bien el campo de la Inteligencia Artificial (IA) ha desarrollado metodologías extensas para medir y mitigar el sesgo en dominios consecuentes (salud, derecho, servicios públicos), la comunidad de investigación que produce estas definiciones de equidad, evaluaciones comparativas (benchmarks) y marcos de mitigación de sesgos nunca ha sido caracterizada empíricamente. Existe una brecha crítica en la comprensión de la composición estructural de esta comunidad. Los autores postulan que, si el panorama de investigación está geográfica e institucionalmente concentrado, los estándares de equidad "universales" resultantes pueden codificar supuestos locales que no logran generalizarse a poblaciones y entornos socioculturales diversos. Esto plantea el riesgo de que las estrategias de mitigación validadas en contextos estrechos se apliquen inapropiadamente a nivel global, lo que podría perpetuar daños en regiones subrepresentadas.

Metodología
El estudio emplea un análisis de métodos mixtos, bibliométrico y semántico, de un corpus de 692 publicaciones que abarcan once años (2015–2025), conservando un artículo seminal de 2012 por su impacto.

Construcción del Corpus: Los artículos fueron recuperados sistemáticamente de las principales bases de datos (IEEE Xplore, ACM Digital Library, Scopus, ScienceDirect, Engineering Village) y de las actas de la conferencia ACM FAccT. La búsqueda utilizó cadenas de palabras clave centradas en "Sesgo" (Bias), "Toma de decisiones" (Decision-making) e "IA". El corpus fue complementado mediante la técnica de bola de nieve de citas (citation snowballing) y cribado manual de relevancia.
Clasificación Temática: Los artículos fueron asignados manualmente a cinco dominios temáticos:
- Equidad General y Mitigación de Sesgos (46.1%)
- Modelos de Lenguaje de Gran Escala (LLMs) y PLN (21.8%)
- IA Clínica y de Salud (16.6%)
- Sistemas de Recomendación (10.0%)
- Equidad Basada en Grafos y Mitigación de Sesgos (5.5%)
Análisis Cuantitativo:
- Métricas Geográficas/Institucionales: Los autores calcularon recuentos de autores únicos (todos los autores y primer autor) y afiliaciones institucionales. Computaron los coeficientes de Gini para medir la concentración (0 = igualdad perfecta, 1 = concentración máxima) tanto para países como para instituciones.
- Redes de Colaboración: Se reconstruyó una red de coautoría de 2,502 autores para analizar los patrones de colaboración regional.
- Dinámicas de Citación: Se analizaron los recuentos de citación globales (de OpenAlex) y las citaciones internas del corpus. Se utilizaron pruebas estadísticas no paramétricas (Kruskal-Wallis, post-hoc de Dunn, correlación de rango de Spearman) debido a las distribuciones de citación sesgadas.
Agrupamiento Semántico (Semantic Clustering):
- Los resúmenes fueron codificados utilizando Sentence-BERT (evaluando los modelos MPNet, MiniLM y SPECTER). Se seleccionó MPNet basándose en el coeficiente de silueta más alto (0.2564).
- La reducción de dimensionalidad se realizó mediante UMAP (Uniform Manifold Approximation and Projection).
- El agrupamiento se ejecutó mediante HDBSCAN (Hierarchical Density-Based Spatial Clustering of Applications with Noise) sobre la proyección UMAP en 2D. La configuración (min_cluster_size=20, min_samples=10) produjo cuatro grupos semánticamente coherentes.
- La alineación entre los grupos automatizados y las etiquetas de dominio manuales se validó utilizando el Índice de Rand Ajustado (ARI) y la Información Mutua Normalizada (NMI).

Resultados Clave

Concentración Estructural: El campo está altamente concentrado. Los Estados Unidos dominan la producción, contribuyendo con el 48.7% de los artículos de primer autor y liderando en todos los dominios. El coeficiente de Gini para los artículos de primer autor en 52 países es de 0.7842, lo que indica una desigualdad extrema.
Liderazgo Específico por Dominio:
- Equidad General y Mitigación de Sesgos: Este dominio fundacional es el más concentrado, con EE. UU. representando el 58.3% de las publicaciones de primer autor. Esto es crítico porque este dominio suministra las definiciones y los parámetros de referencia adoptados por otras áreas de aplicación.
- IA Clínica y de Salud: Este es el dominio más equilibrado internacionalmente, con contribuciones significativas de Canadá, el Reino Unido, Alemania y China junto a los EE. UU.
- LLMs y PLN: China es el segundo mayor contribuyente aquí (17.2% de primer autor), reflejando un enfoque en la IA técnica y generativa en lugar de la teoría fundamental de la equidad.
- Equidad Basada en Grafos: Altamente concentrada en dos instituciones (Universidad de Virginia y Oxford), representando el 75% de la producción de primer autor.
Redes de Colaboración: La colaboración es predominantemente intra-occidental (EE. UU., Reino Unido, Canadá, Alemania). El Sur Global (incluyendo el sur de Asia, África y América Latina) está notablemente ausente de la red de coautoría. La India, a pesar de tener una gran fuerza laboral técnica, permanece subrepresentada en las estructuras de colaboración.
Dinámicas de Citación: El impacto de las citaciones está muy sesgado (mediana = 9; media = 93.5). No existe una correlación significativa entre el volumen de publicación de un país y su impacto de citación mediana ( $\rho = 0.073$ ). Mientras que los EE. UU. lideran en volumen, países como Canadá y el Reino Unido muestran más citaciones medianas por artículo.
Estructura Semántica: El agrupamiento semántico (HDBSCAN) produjo cuatro grupos que se alinean ampliamente con los dominios manuales. La "Equidad General" aparece en los cuatro grupos, confirmando su naturaleza transversal. La "Equidad Basada en Grafos" está dispersa entre los grupos, funcionando más como un lente metodológico que como un dominio de aplicación distinto.

Contribuciones Clave

Caracterización Empírica: El artículo proporciona el primer análisis estructural exhaustivo de la comunidad de investigación de sesgo de la IA, pasando la pregunta de "quién da forma a la investigación sobre el sesgo de la IA" de la suposición a la medición.
Identificación del Riesio Epistémico: Demuestra que la "capa fundacional" del campo (Equidad General) es la más concentrada geográficamente. Esto sugiere que las definiciones de equidad y los marcos de mitigación utilizados globalmente están moldeados desproporcionadamente por un conjunto estrecho de instituciones centradas en los EE. UU.
Atlas Interactivo: Los autores lanzaron un atlas dinámico e interactivo (https://biasatlas.cair-nepal.org) para permitir el monitoreo continuo de la evolución estructural del campo, la participación geográfica y los patrones de citación.
Marco Metodológico: El estudio establece un flujo de trabajo reproducible que combina la bibliometría con el agrupamiento semántico (UMAP + HDBSCAN) para mapear los paisajes de investigación.

Significancia y Reivindicaciones
El artículo argumenta que la concentración estructural de la investigación sobre el sesgo de la IA no es meramente un problema de representación, sino uno epistémico. Debido a que las definiciones fundamentales y los parámetros de referencia se producen dentro de un conjunto estrecho de contextos occidentales, existe el riesgo de que los estándares "universales" codifiquen supuestos culturales e institucionales locales.

Los autores afirman que:

Los métodos de mitigación desarrollados y validados en entornos concentrados pueden no generalizarse a todas las poblaciones, particularmente a las del Sur Global.
El dominio de las instituciones de EE. UU. en el dominio de "Equidad General" significa que los fundamentos metodológicos del campo están moldeados por un conjunto limitado de prioridades, lo que podría pasar por alto daños relevantes para entornos socioculturales subrepresentados.
El desacoplamiento del volumen de publicación y el impacto de las citaciones sugiere que la influencia no es solo una función de la cantidad de producción, sino que los productores de alto volumen (como los EE. UU.) ejercen influencia a través de la fijación de la agenda y la centralidad institucional.

El artículo concluye que abordar el sesgo de la IA requiere ampliar no solo los métodos técnicos, sino también las comunidades que los producen. Hace un llamado a una validación externa más fuerte en contextos subrepresentados y a una mayor capacidad de colaboración en las regiones que actualmente están débilmente representadas en el discurso de investigación. Los autores señalan explícamente las limitaciones, reconociendo que su corpus se extrae de bases de datos indexadas en el Norte Global y en inglés, lo que puede subrepresentar la investigación publicada en otros idiomas o en foros regionales, aunque argumentan que esto probablemente refleja la magnitud del desequilibrio más que revertir su dirección.