Plurification in/of language technology -- The integration of culture in next-generation AI

Resumen Técnico: Plurificación en la Tecnología del Lenguaje

Declaración del Problema
El artículo aborda el desafío crítico de operacionalizar la "cultura" dentro del Procesamiento del Lenguaje Natural (NLP) y la Tecnología del Lenguaje (LT). Los enfoques actuales suelen tratar la cultura como una variable estática y medible o intentan abordarla simplemente añadiendo más ejemplos de "otras culturas" a los datos de entrenamiento. Los autores argumentan que esto es insuficiente porque la cultura es dinámica, internamente diversa y está profundamente entrelazada con el poder, la identidad y el contexto. Los sistemas de NLP existentes frecuentemente fallan al modelar las normas sociales y el conocimiento de trasfondo que dan forma a la interpretación, reproduciendo a menudo los discursos dominantes mientras subrepresentan las voces minoritarias, el conocimiento local y los significados culturalmente específicos. El problema central es que la alineación cultural no puede lograrse mediante una adaptación técnica superficial (por ejemplo, diseño de prompts o moderación post-hoc), sino que requiere un cambio fundamental hacia epistemologías plurales: permitir que múltiples formas de conocer, localmente fundamentadas, coexistan dentro del diseño tecnológico.

Metodología
El artículo emplea un enfoque cualitativo basado en casos, fundamentado en la antropología de la tecnología. Utiliza un modelo socio-técnico de diseño de tecnología del lenguaje conocido como las "cinco capas de la actividad tecnológica" (Koch et al., 2024) para analizar y sistematizar de manera metódica los enfoques existentes sobre la cultura en el NLP. Este modelo organiza el análisis a través de cinco capas distintas:

1. Núcleo Tecnológico: Software, arquitecturas de modelos, procedimientos de entrenamiento y estrategias de decodificación.
2. Dominio del Conocimiento: Corpora, recursos lingüísticos y categorías simbólicas utilizadas para el entrenamiento.
3. Ecologías del Conocimiento: Entornos sociales, normativos y pragmáticos más amplios (por ejemplo, sistemas de conocimiento local, marcos legales).
4. Economías Políticas: Prácticas de extracción de datos, labor de anotación, financiación y asimetrías de poder.
5. Contextos de Uso: Los entornos y comunidades reales donde las tecnologías se despliegan e interpretan.

Los autores seleccionan ejemplos específicos de la investigación en NLP que demuestran intentos de integrar dimensiones culturales a través de estas capas. Los criterios de selección se centran en si una intervención amplía el recuento de lenguas/conocimientos, si desafía las suposiciones universalistas, si involucra pericia local y si es una característica integrada o una adaptación superficial de la salida.

Contribuciones Clave y Análisis
El artículo sintetiza la investigación para demostrar cómo la "plurificación" (la integración de múltiples epistemologías) puede ocurrir a través de las cinco capas, yendo más allá de la adaptación cultural superficial:

• Capa 1 (Núcleo Tecnológico): El artículo destaca el trabajo sobre el Núcleo de Conocimiento Universal (UKC) (Giunchiglia et al.), que propone una capa semántica neutral al lenguaje. En lugar de centrar el inglés como lengua pivote, el UKC representa el significado a nivel de concepto, permitiendo que múltiples lenguas mapeen sus formas léxicas sobre una estructura compartida. Esto apoya relaciones multilingües de muchos a muchos sin homogeneización lingüística.
• Capa 2 (Dominio del Conocimiento): El análisis se basa en el trabajo de Steven Bird que conecta el NLP con la documentación lingüística, enfatizando que los conjuntos de datos son artefactos construidos con historias sociales. Aboga por declaraciones de datos y marcos de anotación formal para mejorar la disponibilidad e interoperabilidad de los recursos para lenguas de bajos recursos. También se cita el trabajo de Giunchiglia sobre ontologías para mostrar cómo las representaciones conceptuales estructuradas pueden alinear sistemas de conocimiento heterogéneos sin forzarlos a un único esquema normativo.
• Capa 3 (Ecologías del Conocimiento): El artículo examina marcos normativos (por ejemplo, los marcos de IA de la Unión Africana, las directrices de la UNESCO) que abogan por una IA consciente de la diversidad. Sin embargo, señala críticamente que los marcos actuales impulsados por corporaciones suelen ser superficiales y orientados al beneficio, creando una "crisis de gobernanza de la IA" donde el conocimiento local y regional no se integra adecuadamente.
• Capa 4 (Economías Políticas): Los autores analizan la naturaleza extractiva de la LT actual, donde las comunidades son tratadas como fuentes de datos en lugar de co-diseñadoras. Citando a Nekoto et al. y Bird, el artículo aboga por una traducción automática participativa y un desarrollo lingüístico sostenible. Enfatiza la necesidad de una compensación justa, propiedad y distribución de beneficios para la labor involucrada en la recolección y anotación de datos, sugiriendo un cambio de la optimización de benchmarks hacia el beneficio comunitario.
• Capa 5 (Contextos de Uso): El artículo sostiene que la adecuación cultural es situada y no puede validarse únicamente mediante métricas técnicas. Hace un llamado a tratar a las comunidades de habla como autoridades epistémicas. La "plurificación" en este nivel implica la creación de "terceros espacios" donde los marcos locales estructuren las metas y la evaluación de los modelos, asegurando que los sistemas sean socialmente inteligibles y no extractivos.

Resultados
El análisis revela que, si bien la investigación en NLP ha progresado hacia sistemas culturalmente sensibles (por ejemplo, modelado de dialectos, datos multilingües), la mayoría de las intervenciones siguen siendo parciales y centradas en las capas de salida o representación. Las cuestiones más profundas sobre poder, gobernanza y contexto social permanecen sin resolver. El artículo encuentra que:

• La cultura no es una variable estable, sino un fenómeno socio-técnico dinámico.
• La adaptación técnica por sí sola (por ejemplo, añadir más datos) no logra abordar las causas raíz de la desalineación cultural.
• La verdadera operacionalización de la cultura requiere un enfoque reflexivo que navegue los límites de la formalización computacional.
• Los enfoques actuales a menudo no logran rastrear el cambio cultural a lo largo del tiempo o considerar los altos costos de hacerlo.

Significación y Reivindicaciones
El artículo sostiene que la operacionalización de la cultura en el NLP requiere un "enfoque socio-técnico plural" en lugar de una solución puramente técnica. Su significación radica en redefinir la diversidad cultural no como un problema de datos que se solucione con más ejemplos, sino como una orientación de diseño que debe permear todas las capas de la actividad tecnológica. Los autores postulan que:

• La plurificación es un proceso continuo: No es un estado final, sino una orientación de diseño continua que redistribuye la autoridad epistémica hacia las comunidades de habla.
• La integración socio-técnica es esencial: El NLP consciente de la cultura debe dar cuenta de la interacción entre algoritmos, datos, economías políticas y contextos locales.
• Límites de la Formalización: La naturaleza dinámica y multifacética de los contextos socioculturales significa que la cultura solo puede formalizarse parcialmente; el sistema debe permanecer receptivo al desacuerdo y a la validez específica del contexto.

En última instancia, el artículo argumenta que para que la tecnología del lenguaje sea verdaderamente inclusiva, debe ir más allá del "imaginario de una superinteligencia" y abrazar un diseño pluriversal que reconozca múltiples formas de conocer, localmente fundamentadas.