Position: the Stochastic Parrot in the Coal Mine. Model Collapse is a Threat to Low-Resource Communities

Este documento de posición sostiene que el colapso de los modelos, impulsado por el entrenamiento de IA generativa en sus propias salidas, amenaza con democratizar la IA al degradar la calidad y la eficiencia de los datos, perjudicando así de manera desproporcionada a las comunidades de bajos recursos y marginadas mediante el reforzamiento de sesgos culturales y costos ambientales.

Lo esencial

La Gran Imagen: El "Papagayo Estocástico" en la Mina de Carbón

Imagina un canario en una mina de carbón. En el pasado, los mineros usaban canarios para detectar gases peligrosos; si el pájaro dejaba de cantar, los mineros sabían que debían huir.

Este artículo argumenta que las Comunidades de Bajos Recursos (personas que hablan idiomas menos comunes o viven en regiones más pobres) son los "canarios". Son los primeros en sentir el peligro de un fenómeno llamado Colapso de Modelos.

¿Qué es el Colapso de Modelos?
Piensa en un juego de "Teléfono" jugado por un grupo de fotocopiadoras.

1. Comienzas con una foto clara y original (Datos Humanos Reales).
2. Haces una copia. Está ligeramente borrosa.
3. Tomas esa copia borrosa y haces una nueva copia a partir de ella. Se vuelve más borrosa.
4. Sigues haciendo esto, copiando las copias.

Eventualmente, la imagen se convierte en un desorden turbio e irreconocible. Los detalles desaparecen y solo permanecen las formas más comunes y genéricas.

En el mundo de la IA, esto sucede cuando nuevos modelos de IA se entrenan con datos creados por viejos modelos de IA. Debido a que la IA tiende a repetir los patrones más comunes que ve, los detalles "raros" y "únicos" se pierden con el tiempo. La IA se convierte en un Papagayo Estocástico: imita los sonidos que escucha pero no entiende el significado, y a través de las generaciones, solo repite los sonidos más fuertes y comunes, olvidando los sonidos tranquilos y únicos.

El Problema: ¿Por qué las Comunidades Más Pobres Sufren Primero?

El artículo argumenta que, aunque este "juego de copiar" daña a todos, destruye las culturas de las comunidades de bajos recursos mucho más rápido. Aquí está por qué, usando tres metáforas principales:

1. La Dieta de Datos "Ricos vs. Pobres"

Imagina a dos personas intentando mantenerse saludables.

• La Persona Rica (Alta Capacidad de Recursos): Tiene una despensa masiva llena de comida fresca y real (Datos Humanos Reales). Incluso si comen algo procesado y falso (datos generados por IA), tienen tanta comida real que su dieta se mantiene saludable.
• La Persona que Lucha (Baja Capacidad de Recursos): Tiene una despensa muy pequeña. Solo tienen unas pocas latas de comida real. Si tienen que depender de comida procesada y falsa para llenar su estómago, se quedan sin comida real muy rápidamente.

La Afirmación del Artículo: Los idiomas de bajos recursos (como muchos idiomas africanos o indígenas) tienen muy pocos datos en internet. Si la IA comienza a llenar internet con texto generado por IA, estos idiomas serán "envenenados" casi inmediatamente porque no tienen suficientes datos reales para diluir la falsedad. Su "sabor" cultural único desaparecerá primero.

2. La "Cámara de Eco" del Poder

Imagina una plaza del pueblo donde todos están gritando.

• Las voces más fuertes (inglés, cultura occidental, puntos de vista dominantes) ya son escuchadas por todos.
• Las voces tranquilas (grupos minoritarios, dialectos locales específicos) apenas son audibles.

Cuando la IA aprende de internet, actúa como un megáfono que solo amplifica las voces más fuertes. A medida que la IA genera más contenido, repite esas voces fuertes una y otra vez. Las voces tranquilas quedan completamente ahogadas.
La Afirmación del Artículo: El colapso de modelos actúa como un "Bloqueo de Valores". Congela la cultura en el pasado, fijando los puntos de vista dominantes y borrando los intentos de grupos marginados de cambiar las normas sociales o reclamar su idioma. La IA olvida las "colas" de la distribución: las formas raras, únicas y diversas en que la gente habla.

3. El "Costo de Carbono" de Intentar Arreglarlo

Imagina intentando arreglar un techo con fugas.

• La Persona Rica puede permitirse comprar tejas nuevas y contratar a un equipo para arreglarlo.
• La Persona que Lucha tiene que intentar parchearlo con cinta y cartón, lo que le cuesta sus ahorros y hace que la casa esté más caliente.

La Afirmación del Artículo: Para detener el Colapso de Modelos, los investigadores necesitan más datos reales. Pero recopilar datos reales es costoso y requiere energía masiva (computadoras funcionando a alta temperatura).

• Las comunidades de bajos recursos a menudo viven en áreas que ya sufren por el cambio climático y la escasez de energía.
• Soportan el costo ambiental de entrenar estos modelos masivos de IA pero obtienen el menor beneficio de ellos.
• No pueden permitirse "comprar" suficientes datos reales para salvar sus idiomas de ser borrados por el ruido generado por la IA.

La Analogía del "Papagayo Estocástico"

El artículo retoma una idea antigua: la IA es un "Papagayo Estocástico". No entiende; solo predice la siguiente palabra basándose en estadísticas.

• La Visión del Artículo: Aunque la IA se ha vuelto más inteligente, sigue siendo un loro. Si le das a un loro solo las frases más comunes, deja de decir algo interesante.
• El Peligro: Para las comunidades de bajos recursos, las "frases interesantes" (su cultura única, jerga e historia) son las primeras cosas que el loro olvida porque son estadísticamente raras.

¿Qué Quiere el Artículo que Hagamos?

Los autores están lanzando un Llamado a la Acción. Dicen que no podemos esperar a que la IA se rompa completamente para preocuparnos por esto.

1. Escucha a los Canarios: Las comunidades de bajos recursos deben ser las líderes en esta conversación, no un pensamiento secundario.
2. Protege los Datos Reales: Necesitamos crear "zonas seguras" especiales de datos que estén garantizadas como contenido humano real, no generado por IA, específicamente para estos idiomas vulnerables.
3. Detecta lo Falso: Necesitamos mejores herramientas para identificar texto generado por IA para poder filtrarlo antes de que envenene los datos de entrenamiento.
4. Acepta el Riesgo: El artículo admite que quizás la IA no se romperá globalmente por mucho tiempo, pero para comunidades específicas y pequeñas, la "ruptura" está ocurriendo ahora mismo.

Resumen

El artículo advierte que, a medida que la IA genera más contenido, crea un bucle de retroalimentación que hace que la IA sea "más tonta" y más repetitiva. Este proceso actúa como un filtro que elimina lo raro y único. Debido a que las comunidades de bajos recursos ya tienen menos representación en línea, sus culturas e idiomas únicos corren el mayor riesgo de ser borrados por este proceso, dejándolos solo con una versión homogeneizada y dominante del mundo.

Resumen técnico

Resumen Técnico: El Colapso de Modelos como Amenaza para las Comunidades de Pocos Recursos

Declaración del Problema
El artículo aborda el fenómeno del colapso de modelos, definido como la degradación del rendimiento y la diversidad de los modelos generativos cuando se entrenan con datos producidos por generaciones anteriores de modelos similares. A medida que prolifera el contenido generado artificialmente (estimado en ~30% de internet para 2025), las generaciones sucesivas de modelos dependen cada vez más de datos "sintéticos". Esto crea un bucle de retroalimentación donde los modelos se sobreajustan a los patrones dominantes en la distribución de entrenamiento, erosionando sistemáticamente ejemplos raros o de "cola".

Los autores argumentan que, si bien el colapso de modelos es un riesgo técnico general, plantea una amenaza desproporcionada y existencial para las comunidades de pocos recursos y marginadas. Estas comunidades ya sufren:

1. Subrepresentación: Sus datos ocupan las "colas" de las distribuciones globales de datos.
2. Inequidad Ambiental: Soportan la mayor parte de la huella de carbono y los costos de infraestructura de entrenar modelos grandes sin obtener beneficios proporcionales.
3. Sesgo Cultural: Los Modelos de Lenguaje Grande (LLM) tienden a reforzar puntos de vista hegemónicos y "bloquear valores" de normas sociales obsoletas.

El artículo postula que el colapso de modelos actúa como un "motor de borrado", acelerando la eliminación de lenguas de pocos recursos y matices culturales de la esfera digital, socavando así los esfuerzos por democratizar la IA.

Metodología y Marco Teórico
Este trabajo es un artículo de posición que sintetiza la literatura teórica y empírica existente en lugar de presentar nuevos resultados experimentales. La metodología implica:

• Síntesis de Literatura: Integrar hallazgos sobre el colapso de modelos (por ejemplo, Shumailov et al., 2024; Dohmatob et al., 2024) con críticas a los LLM sobre sesgo y costo ambiental (por ejemplo, Bender et al., 2021; Strubell et al., 2019).
• Aplicación Teórica: Aplicar el concepto de leyes de escalado neuronal a escenarios de datos sintéticos. Los autores utilizan el hallazgo de que incluso pequeñas fracciones de datos sintéticos (aprox. 1%) pueden alterar los exponentes de escalado, causando un "techo de cristal" donde aumentar el tamaño del conjunto de datos ya no produce mejoras proporcionales en el rendimiento.
• Analogía con la Ciencia Cognitiva: Establecer paralelismos entre el colapso de modelos y el aprendizaje iterado (IL) en la ciencia cognitiva, señalando que, si bien el IL puede conducir a la regularización, también arriesga la pérdida de expresividad y el olvido de las diferencias entre puntos de datos estrechamente relacionados sin intervención externa.
• Análisis Crítico de Definiciones: Participar en debates recientes (específicamente Schaeffer et al., 2025) sobre la definición de colapso de modelos. Los autores distinguen entre tres tipos: (1) incapacidad progresiva para ajustar distribuciones originales, (2) deformación de distribuciones de datos (pérdida de colas) y (3) disminución del valor marginal de datos adicionales.

Contribuciones Clave

1. Análisis de Riesgo Interseccional: La contribución principal del artículo es vincular el mecanismo técnico del colapso de modelos con las realidades socioeconómicas de las comunidades de pocos recursos. Argumenta que el colapso de modelos no es una amenaza uniforme, sino estratificada, donde los grupos marginados enfrentan primero el "peor escenario" porque sus datos ya son escasos y se encuentran en las colas de la distribución.
2. La Desventaja "Triple": Los autores identifican una desventaja compuesta para las comunidades de pocos recursos:
   • Escasez de Datos: La limitación de datos del mundo real los hace más vulnerables a ser sobrescritos por datos sintéticos.
   • Costo Ambiental: El aumento de la capacidad de cómputo requerida para combatir el colapso de modelos (mediante la recolección de más datos o el entrenamiento de modelos más grandes) exacerba el daño ambiental, lo cual afecta desproporcionadamente a estas comunidades.
   • Borrado Cultural: Se amplifica el efecto de "bloqueo de valores", donde los puntos de vista dominantes se arraigan mientras que los dialectos minoritarios, el cambio de código y el lenguaje recuperado son sistemáticamente olvidados.
3. Reevaluación del "Pájaro Estocástico": Los autores retoman la analogía del "Pájaro Estocástico" (Bender et al., 2021), argumentando que sigue siendo fundamental. Sostienen que, incluso con avances multimodales, los LLM permanecen fundamentados estadísticamente en patrones observados, lo que los hace susceptibles a los sesgos de frecuencia que impulsan el colapso de modelos.
4. Crítica a las Estrategias de Mitigación: El artículo destaca las limitaciones de las soluciones actuales. Por ejemplo, la "curación de datos" (filtrar datos sintéticos) se vuelve cada vez más difícil a medida que los modelos generativos se vuelven más convincentes. Además, las herramientas de curación automatizada pueden eliminar inadvertidamente variaciones lingüísticas legítimas y de baja frecuencia utilizadas por grupos marginados.

Resultados y Observaciones
Como artículo de posición teórico, el trabajo no presenta nuevas métricas empíricas, sino que sintetiza hallazgos existentes para respaldar sus argumentos:

• Disrupción de la Ley de Escalado: Citando a Dohmatob et al. (2024b), el artículo señala que lograr una reducción de diez veces en la pérdida de prueba con un 10% de datos sintéticos requiere un aumento de un orden de magnitud en el tamaño del conjunto de datos en comparación con datos limpios, incrementando drásticamente los costos.
• Cambio Distribucional: Referenciando la Figura 1 (basada en la perplejidad de GPT-2), el artículo ilustra que las lenguas de pocos recursos (por ejemplo, albanés, indonesio) ya ocupan distribuciones de perplejidad más altas (las "colas") en comparación con las lenguas de muchos recursos (por ejemplo, inglés). El colapso de modelos predice que estas colas serán las primeras en desaparecer.
• Asimetría de Costos: Citando a Kandpal & Raffel (2025), el artículo enfatiza que el costo de adquirir datos reales es de 10 a 1000 veces mayor que el costo de cómputo del entrenamiento. Esta barrera económica impide que las comunidades de pocos recursos "compran" su salida del colapso de modelos simplemente recolectando más datos reales.

Significado y Llamada a la Acción
El artículo concluye que, si bien la gravedad del colapso de modelos se debate en contextos generales, es una amenaza inminente y severa para las comunidades de pocos recursos y marginadas. Los autores argumentan que el discurso académico se ha centrado demasiado en entornos de muchos recursos y modelos teóricos, descuidando las vulnerabilidades específicas de estas poblaciones.

La Llamada a la Acción:

• Priorización: Las comunidades de PLN de pocos recursos y equidad en IA deben tomar la vanguardia en la investigación y mitigación del colapso de modelos.
• Soberanía de Datos: Existe una necesidad urgente de construir y mantener conjuntos de datos garantizados que contengan datos reales y culturalmente auténticos para miles de lenguas subrepresentadas (por ejemplo, ndébule, pedi, sotho).
• Nuevas Direcciones de Investigación: El artículo esboza preguntas abiertas sobre:
  • Cómo afecta el colapso de modelos a las lenguas aglutinantes (que tienen distribuciones de palabras de cola larga) de manera diferente a las lenguas analíticas.
  • El impacto del cambio de código en los cambios de distribución de datos.
  • Desarrollar mediciones manejables para el colapso de modelos y la detección de datos sintéticos.
  • Estrategias para "disminuir" el colapso, como el aprendizaje auto-supervisado o el aprendizaje por refuerzo para promover características robustas fuera de la distribución.

En última instancia, el artículo afirma que, sin una intervención inmediata, la representación en línea de múltiples culturas corre el riesgo de ser gravemente dañada o borrada antes de que el daño pueda ser reparado.