💬 NLP

A Computational Approach to Language Contact -- A Case Study of Persian

Este estudio investiga cómo el contacto lingüístico histórico influye en las representaciones intermedias de un modelo de lenguaje monolingüe persa, revelando que mientras la información sintáctica universal permanece mayormente inalterada, los rasgos morfológicos como el Caso y el Género están significativamente moldeados por cambios estructurales inducidos por el contacto.

Autores originales: Ali Basirat, Danial Namazifard, Navid Baradaran Hemmati

Publicado 2026-01-29

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Ali Basirat, Danial Namazifard, Navid Baradaran Hemmati

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que tienes un robot muy inteligente que solo ha leído libros escritos en persa. Nunca se le ha enseñado inglés, árabe, turco o japonés. De hecho, ni siquiera sabe que esos idiomas existen.

Ahora, imagina que le entregas al robot una frase escrita en turco. Le preguntas: "Oye, ¿qué idioma es este? Y ¿cuáles son las reglas gramaticales aquí?".

Podrías esperar que el robot diga: "¡No lo sé, solo he leído persa!". Pero este artículo plantea una pregunta más profunda: ¿Muestra el "cerebro" interno del robot (sus representaciones digitales) señales secretas de que comprende la historia del persa, incluso si nunca se le enseñaron directamente esos otros idiomas?

Dado que el persa ha sido vecino, ha comerciado e influido en muchos otros idiomas durante siglos, los autores se preguntaron si el "cerebro persa" del robot habría absorbido algunos de los rastros invisibles de sus vecinos.

El Experimento: Una historia de detectives

Los investigadores utilizaron una herramienta llamada ParsBERT (un modelo de IA exclusivo para el persa) y le suministraron frases de 8 idiomas diferentes, que iban desde el árabe (un importante vecino histórico) hasta el japonés (un extraño sin contacto real).

Utilizaron dos principales "herramientas de detective" para echar un vistazo al interior del cerebro del robot:

El Medidor de Información: Mide cuánto sabe el robot sobre una característica específica (por ejemplo, "¿Es esto un sustantivo?" o "¿Es esta palabra masculina"). Piensa en ello como comprobar qué tan fuerte es la señal de una radio.
El Foco (Spotlight): Intenta encontrar dónde se esconde ese conocimiento en el cerebro del robot. ¿Está almacenado en una neurona específica (una sola bombilla), o está disperso por toda la habitación como un resplandor difuso?

El Gran Descubrimiento: Lo "Universal" frente a lo "Específico"

Los resultados revelaron una división fascinante en la forma en que el robot piensa, lo que los autores describen como una diferencia entre reglas universales y hábitos locales.

1. Las Reglas Universales (El "Disco Duro")

Cuando los investigadores preguntaron al robot sobre las etiquetas de Partes de la Oración Universales (UPOS) —básicamente, "¿es esto un sustantivo, un verbo o un adjetivo?"—, el robot funcionó de manera consistente en todos los idiomas.

La Analogía: Imagina que el robot tiene un diccionario universal de "tipos de palabras". Ya sea que la palabra esté en persa, inglés o japonés, el robot sabe que un "verbo" es un verbo.
El Resultado: Al robot no le importó el contacto lingüístico aquí. La historia no cambió cómo veía los elementos básicos de las oraciones. Estas reglas son demasiado profundas y universales como para ser sacudidas por siglos de préstamo de palabras.

2. Los Hábitos Locales (Los "Muebles")

Cuando los investigadores preguntaron sobre la Morfología (las formas específicas de las palabras, como el Caso o el Género), el comportamiento del robot cambió drásticamente según la historia de contacto de cada idioma con el persa.

La Prueba del "Caso" (¿Quién hizo qué a quién?):
- El Problema: El persa no utiliza "casos" (cambiar las terminaciones de las palabras para mostrar si alguien es el sujeto o el objeto). Utiliza el orden de las palabras en su lugar.
- El Resultado: Cuando el robot analizaba idiomas con sistemas de casos complejos (como el alemán o el ruso, que tienen muchas terminaciones de palabras), estaba completamente perdido. No podía encontrar la información.
- La Excepción: Cuando el robot analizaba idiomas que también dependen del orden de las palabras o de marcadores simples (como el inglés o el francés), le iba mucho mejor.
- La Conclusión: El robot solo "entiende" la gramática de otros idiomas si esa gramática se parece a la del persa. Si el otro idioma utiliza un sistema que el persa nunca usó (como terminaciones de caso complejas), el cerebro del robot no tiene un mapa para ello.
La Prueba del "Género" (Masculino vs. Femenino):
- El Problema: El persa no tiene género gramatical (las palabras no son "masculinas" o "femeninas").
- El Resultado: El robot tuvo dificultades con idiomas que tienen sistemas de género complejos (como el ruso con tres géneros). Sin embargo, le fue bien con idiomas que tienen sistemas de género más simples o que dependen del sexo natural (como el árabe o el francés), probablemente porque el persa ha tomado prestadas muchas palabras del árabe, y esas palabras prestadas a veces conservan su "sabor".
- La Conclusión: La comprensión del género del robot está moldeada por lo que realmente ha visto en el persa. No puede inventar un sistema de género complejo que nunca aprendió.

El "Fantasma" en la Máquina

Uno de los hallazgos más interesantes fue cómo se almacenaba esta información.

Para los idiomas sin contacto (como el japonés), el robot tenía unas pocas "bombillas" muy específicas que se encendían solo para el japonés. Era fácil de detectar.
Para los idiomas con contacto intenso (como el árabe o el turco), la información no estaba en una sola bombilla. En su lugar, era un resplandor difuso extendido por todo el cerebro.
La Metáfora: Piensa en ello como una casa. Si invitas a un extraño (japonés), este se sienta en una silla específica. Si invitas a un viejo amigo de la familia (árabe) que ha vivido allí durante siglos, no se sienta en una sola silla; ha tocado todo, ha movido los muebles y ha dejado su aroma por toda la casa. No puedes señalar un solo lugar y decir: "Esta es la parte árabe". La influencia está en todas partes, pero está mezclada con la estructura persa.

La Conclusión

El artículo concluye que un modelo de lenguaje entrenado en un solo idioma (el persa) sí muestra rastros de su historia, pero de una manera muy selectiva.

Mantiene las reglas universales (como qué es un verbo) seguras e inalteradas.
Adapta las reglas específicas (como el género o el caso) solo si coinciden con la "forma" del idioma persa.

Si el contacto lingüístico hubiera cambiado la estructura profunda del persa (como añadir terminaciones de caso complejas), el robot lo habría aprendido. Pero dado que el persa principalmente tomó prestadas palabras y mantuvo su propia estructura de oraciones, el cerebro del robot refleja eso: conoce las palabras prestadas, pero sigue pensando en la gramática persa.

En resumen: el robot es un hablante de persa que conoce muchas palabras extranjeras, pero sigue pensando en persa. No ha aprendido a hablar la gramática de sus vecinos, solo a reconocer las formas de las palabras que ha tomado prestadas de ellos.

Resumen Técnico: Un enfoque computacional del contacto lingüístico – Un estudio de caso del persa

Planteamiento del problema
El contacto lingüístico es un motor primario de la diversificación y el cambio estructural, que abarca desde el préstamo léxico hasta la reestructuración gramatical profunda. Si bien la lingüística tradicional ha documentado extensamente estos fenómenos, particularmente en el persa (farsi) —una lengua con milenios de contacto con familias túrquicas, árabe y otras—, sigue sin estar claro si tales cambios inducidos por el contacto son detectables, cuantificables e interpretables dentro de las representaciones internas de los modelos de lenguaje monolingües. Específicamente, se desconoce si un modelo entrenado exclusivamente con datos en persa codifica rastros estructurales latentes de sus lenguas de contacto, o si sus representaciones están moldeadas únicamente por la estructura nativa de la lengua de entrenamiento y las propiedades sintácticas universales.

Metodología
El estudio emplea un marco computacional para sondear las representaciones intermedias de ParsBERT, un modelo Transformer de solo codificador y monolingüe entrenado con aproximadamente 3.9 mil millones de tokens de texto en persa. La metodología consiste en pasar oraciones de ocho lenguas de contacto (árabe, inglés, francés, alemán, hindi, japonés, ruso y turco) a través del modelo de persa y analizar los embeddings resultantes.

El análisis utiliza dos técnicas primarias:

Sondeo de información teórica: Utilizando la Información Útil Variacional ( $\hat{IV}$ ), el estudio cuantifica la cantidad de información lingüística codificada en las capas intermedias del modelo respecto a variables objetivo ( $Y$ ) específicas, tales como la identidad de la lengua, etiquetas de Partes de la Oración Universales (UPOS), CASO y GÉNERO. La métrica se normaliza mediante la entropía marginal de la característica objetivo para reflejar la proporción de incertidumbre recuperable de la representación.
Análisis de atribución: Utilizando la Entropía de Probabilidad de Activación de la Lengua (LAPE), el estudio identifica qué elementos específicos (neuronas) dentro de las representaciones contribuyen más fuertemente a la codificación de estas características. Los puntajes bajos de LAPE indican una alta selectividad (neuronas que responden preferencialmente a condiciones específicas), mientras que los puntajes altos sugieren una activación uniforme o no discriminativa.

El conjunto de datos consiste en los bancos de árboles de Universal Dependencies Paralelas (PUD), lo que garantiza la comparabilidad translingüística mediante una anotación consistente y estructuras de oraciones alineadas. Las lenguas de prueba seleccionadas varían en su grado y tipo de contacto con el persa (histórico, moderno, regional o mínimo).

Resultados clave
La investigación revela una asimetría distintiva entre cómo se codifican las categorías sintácticas universales y las características morfológicas en presencia de contacto lingüístico:

Identificación de la lengua: ParsBERT codifica información sustancial sobre lenguas no persas a pesar de su entrenamiento monolingüe. La ganancia de información alcanza su punto máximo tras la tercera capa. Notablemente, el modelo es más informativo sobre el árabe, el hindi y el ruso, lo que probablemente refleja una influencia léxica significativa o vínculos genealógicos. Sin embargo, el análisis LAPE muestra que las señales específicas de la lengua rara vez se localizan en características compactas y selectivas; en su lugar, se distribuyen en representaciones compartidas, excepto en el caso del japonés, que muestra una alta selectividad debido probablemente al desajuste ortográfico.
Sintaxis Universal (UPOS): La información recuperable para las etiquetas UPOS permanece mayormente estable a través de las capas y es insensible al grado de contacto histórico. Ni la similitud tipológica ni la intensidad del contacto impactan significativamente la codificación de las categorías sintácticas universales, lo que sugiere que estas representaciones son robustas a la variación inducida por el contacto.
Características Morfológicas (CASO y GÉNERO):
- CASO: El modelo exhibe un fuerte sesgo hacia lenguas con marcación de caso mínima o residual (por ejemplo, inglés, francés, japonés), donde la ganancia de información es alta. Por el contrario, no logra codificar sistemas de caso flexivo ricos (por ejemplo, alemán, ruso, turco) que están ausentes en el persa. El árabe muestra un desempeño intermedio, probablemente debido al solapamiento léxico y a la realización limitada del caso en el árabe escrito contemporáneo. El caso posicional del hindi es pobremente capturado debido a desajustes estructurales.
- GÉNERO: ParsBERT captura eficazmente las pistas relacionadas con la ausencia de género gramatical (japonés, turco) y la realización marginal del género en los pronombres (inglés). Para las lenguas con sistemas de género plenamente gramaticalizados, el desempeño es menor. Los sistemas de dos géneros (francés, hindi, árabe) muestran una recuperación moderada, mientras que los sistemas de tres géneros muestran casi ninguna. La selectividad del modelo se concentra en características asociadas con sustantivos neutros, reflejando la diversidad semántica de esa categoría.

Contribuciones principales

Primer estudio computacional del contacto en el persa: Este trabajo presenta la primera investigación computacional del contacto lingüístico del persa al nivel de las representaciones neuronales.
Codificación selectiva del contacto: El estudio proporciona evidencia de que los modelos de lenguaje monolingües codifican rastros selectivos y estructuralmente restringidos del contacto lingüístico. Los efectos del contacto se reflejan más fácilmente en patrones morfológicos y construccionales alineados con la lengua de entrenamiento (analítica/configuracional) que en las categorías sintácticas universales.
Marco metodológico: Al combinar el sondeo de información teórica con el análisis de atribución, el artículo ofrece un marco con principios para investigar cuestiones clásicas de la lingüística de contacto utilizando modelos neuronales.

Significado y afirmaciones
El artículo afirma que los modelos de lenguaje monolingües no solo reflejan los datos de entrenamiento, sino que codifican implícitamente rastros del contacto lingüístico histórico, siempre que dichos rastros se alineen con las propiedades estructurales de la lengua de entrenamiento. Los hallazgos sugieren que, mientras las representaciones sintácticas universales permanecen robustas a la variación inducida por el contacto, las características morfológicas son altamente sensibles a la estructura específica de la lengua.

Los autores concluyen que los efectos del contacto en estos modelos no son el resultado de la exposición directa a las lenguas de contacto, sino que surgen de:

Características estructurales del propio persa que reflejan el contacto histórico.
La impronta estadística de préstamos, calcos y construcciones híbridas.
Propiedades lingüísticas universales compartidas entre lenguas.

El estudio destaca que los modelos neuronales capturan alineaciones superficiales o semánticas (por ejemplo, préstamo léxico, estrategias analíticas) en lugar de reestructuraciones gramaticales profundas (por ejemplo, transferencia de paradigmas flexivos). Esto subraya los límites y las posibilidades de usar los modelos de lenguaje neuronales como herramientas para estudiar el cambio lingüístico, indicando que reflejan las "restricciones estructurales" de la lengua de entrenamiento al procesar fenómenos de contacto.

Limitaciones
Los autores reconocen que el conjunto de datos PUD excluye varias lenguas cruciales para la historia del persa, como el azerbaiyano, el turcomano y el urdu, lo que limita la capacidad de evaluar los casos más fuertes de bilingüismo sostenido y convergencia estructural. En consecuencia, el análisis está limitado a las lenguas disponibles en el marco de PUD.