Epistemic Subordination: Generative AI and the Infrastructure of Knowledge

En el mundo moderno, dependemos cada vez más de la inteligencia artificial para resumir noticias, escribir historias y responder preguntas. Estos sistemas, conocidos como IA generativa, no simplemente recuperan hechos de una base de datos; aprenden a predecir qué palabras deberían seguir basándose en el estudio de vastas cantidades de texto de internet. Este proceso crea un modelo estadístico del lenguaje humano, donde el sistema aprende patrones basados en lo que ha leído con mayor frecuencia. Durante décadas, los expertos han temido que estos sistemas puedan ser sesgados, es decir, que podrían favorecer injustamente a un grupo de personas sobre otro. El supuesto habitual ha sido que este sesgo proviene de errores específicos en los datos o de las decisiones tomadas por los programadores que construyen las herramientas. Sin embargo, una nueva perspectiva sugiere que el problema es mucho más profundo y estructural. No es solo que la IA cometa errores; es que el fundamento mismo de cómo la IA entiende el mundo está construido sobre una única forma dominante de pensar, haciendo que todas las demás formas de conocimiento parezcan desviaciones.

Dos académicos del derecho, Gilad Abiri y Emanuel Towfigh, argumentan que este fenómeno, al que llaman subordinación epistémica, representa un cambio fundamental en cómo se organiza el conocimiento. Proponen que la IA generativa hace algo que ninguna tecnología previa ha hecho: codifica la forma de conocer de la mayoría como la infraestructura predeterminada para todo el conocimiento. En este sistema, los supuestos culturales, los idiomas y los estilos de razonamiento de la mayoría global se convierten en el estándar invisible contra el cual se mide todo lo demás. El daño no es meramente que la IA produzca resultados injustos, sino que construye una realidad estadística donde las culturas y lenguas minoritarias son estructuralmente empujadas hacia abajo, no porque sean excluidas, sino porque son absorbidas y aplanadas en un promedio único y homogeneizado. Los autores demuestran que este problema unifica tres problemas distintos que suelen tratarse como tales: los resultados discriminatorios, las amenazas a las culturas minoritarias y la reducción del debate democrático. Encuentran que estos no son fallos aleatorios, sino el resultado inevitable de cómo se construyen estos modelos.

El mecanismo detrás de esta subordinación se desarrolla en tres etapas distintas, comenzando con los datos mismos. La mayoría de los modelos de IA son entrenados con la totalidad no estructurada de la expresión humana disponible en internet. Este paisaje digital no es neutral; está abrumadoramente dominado por contenido en lengua inglesa, perspectivas occidentales y las visiones de poblaciones con la educación y el acceso para publicar en línea. Cuando un modelo aprende de este corpus, no solo aprende palabras; aprende los supuestos culturales y los marcos normativos de esa mayoría como su defecto estadístico. La segunda etapa hace que este defecto sea irreversible. Durante el entrenamiento, los datos se comprimen en miles de millones de parámetros estadísticos que no pueden ser desempacados ni rastreados hasta sus fuentes originales. A diferencia de los programas informáticos antiguos, donde un programador podía señalar una regla específica que causaba un sesgo, estos modelos son opacos por diseño. El sesgo no está en una sola línea de código o en una variable específica; está tejido en toda la arquitectura del sistema.

La tercera etapa involucra las herramientas utilizadas para hacer que estos sistemas de IA sean seguros y justos, conocidas como alineación de valores. Las técnicas como el aprendizaje por refuerzo a partir de la retroalimentación humana ajustan lo que el modelo dice para hacerlo más cortés o menos perjudicial. Sin embargo, los autores argumentan que estas herramientas solo cambian el resultado, no el conocimiento subyacente. Cuando los desarrolladores intentan forzar a un modelo a ser diverso, los resultados pueden ser absurdos, como generar imágenes de soldados nazis racialmente diversos, porque el modelo base no tiene un marco genuino para la diversidad contextual. Simplemente intenta anular crudamente un defecto estadístico que no puede comprender verdaderamente. En consecuencia, el daño se produce al nivel de la construcción, no al nivel de la respuesta final. El modelo no solo produce decisiones sesgadas; subordina formas enteras de conocimiento y cultura al tratarlas como desviaciones de un estándar que ellas no ayudaron a establecer.

Esta realidad estructural crea una crisis para las leyes existentes diseñadas para proteger a las minorías. Las leyes antidiscriminación, por ejemplo, funcionan comparando una decisión específica contra un estándar neutral. Si un banco rechaza a un solicitante de préstamo basándose en una regla específica que perjudica a un grupo protegido, la ley puede invalidarla. Pero la IA generativa no ofrece un objetivo tan discreto. El resultado discriminatorio es producto de toda la arquitectura, no de una única regla identificable. La "decisión" es una conjetura probabilística, los "criterios" son miles de millones de parámetros invisibles y la "entidad" responsable es una cadena de desarrolladores y desplegadores. Las herramientas legales de intención y causalidad pierden su fuerza porque el daño no es un acto específico de exclusión, sino una condición de inclusión donde los puntos de vista minoritarios son absorbidos y aplanados.

La amenaza se extiende a los derechos culturales y lingüísticos, que están diseñados para proteger las instituciones minoritarias del dominio de la mayoría. Tradicionalmente, una escuela minoritaria podía curar su propia biblioteca o elegir su propio currículo para preservar su lengua y tradiciones. El sesgo cultural en esas tecnologías residía en el contenido, que podía ser seleccionado. La IA generativa revierte esto. El sesgo está en la arquitectura misma del modelo. Una comunidad minoritaria no puede construir su propio modelo fundacional porque el costo es de cientos de millones de dólares y los datos requeridos no existen a la escala de internet para lenguas más pequeñas. Pruebas recientes muestran que incluso los mejores modelos alcanzan una alta precisión en inglés, pero caen significativamente en idiomas como el suajili o el yoruba. Cuando una escuela religiosa o un aula de una lengua minoritaria utiliza un asistente de IA, importa un marco normativo que por defecto recurre al razonamiento secular y occidental. La tecnología penetra en los espacios institucionales que estos derechos debían proteger, reestructurando el conocimiento desde dentro de una manera que las herramientas previas nunca hicieron.

Finalmente, este fenómeno amenaza la propia infraestructura de la deliberación democrática. Una democracia sana depende de la disponibilidad de marcos genuinamente diversos para comprender los problemas. Requiere que las personas sean expuestas a puntos de vista que no habrían elegido de antemano. Sin embargo, si la IA generativa se convierte en la fuente principal de información, homogeneiza el campo epistémico. Los marcos minoritarios no son censurados; son absorbidos en los datos de entrenamiento del modelo, pero están estructuralmente subordinados en el resultado. El discurso público no desaparecerá, pero ocurrirá cada vez más dentro de un campo que ya ha sido aplanado hacia la cultura mediana. Los marcos legales diseñados para proteger el pluralismo de puntos de vista, como las reglas para la diversidad de medios, asumen que el conocimiento diverso existe independientemente y solo necesita un canal para llegar al público. La subordinación epistémica colapsa esta suposición, estrechando el campo del cual surge el discurso diverso.

Los autores concluyen que las respuestas legales actuales son estructuralmente incapaces de alcanzar este problema porque operan aguas abajo, regulando lo que los sistemas de IA hacen en lugar de cómo son construidos. Leyes como la Ley de IA de la Unión Europea o diversas regulaciones estatales se centran en la aplicación de la IA en la contratación o el préstamo, o en la seguridad del producto final. No abordan la composición de los datos de entrenamiento ni la arquitectura del modelo en sí. La afirmación central del ensayo es que proteger el pluralismo epistémico requiere una orientación regulatoria fundamentalmente diferente. La ley debe ser impulsada para gobernar al nivel del entrenamiento, moldeando la composición de los datos, los métodos de alineación y la arquitectura del modelo.

Esto no es meramente una demanda teórica; investigaciones recientes sugieren que la capacidad técnica para intervenir es real. Científicos han propuesto arquitecturas modulares donde un modelo base se apoya en modelos más pequeños y específicos de la comunidad para preservar perspectivas distintas. Otros han demostrado cómo construir sistemáticamente datos de entrenamiento culturalmente fundamentados para lenguas subrepresentadas, asegurando que la sutileza se preserve en lugar de aplanarse. También existen métodos para generar datos de entrenamiento sintéticos que representen perspectivas culturales específicas y para rediseñar el proceso de alineación para representar una distribución completa de valores humanos en lugar de un único defecto. Si bien estas propuestas no son soluciones terminadas, demuestran que el camino técnico existe. Lo que permanece ausente es la voluntad política y el marco legal para requerir y permitir estas intervenciones. La tarea por delante es construir leyes que puedan alcanzar la construcción del modelo mismo, asegurando que la infraestructura del conocimiento no subordine la diversidad misma que afirma servir.