Contextual Embedding Evidence for Main--Light Verb Distinctions in Urdu

Resumen Técnico: Evidencia de Incrustaciones Contextuales para las Distinciones entre Verbos Principales y Verbos Ligeros en Urdu

Problema y Motivación
La gramática del urdu presenta construcciones de verbos ligeros (LVC, por sus siglas en inglés) donde un verbo léxico (V1) se combina con un segundo verbo (V2) que aporta un significado aspectual, completivo o estructural del evento, mientras exhibe un contenido léxico reducido. Aunque la teoría lingüística, particularmente el trabajo de Butt (1995, 2003, 2010) y Butt y Lahiri (2013), postula que los verbos ligeros son distintos de sus contrapartes de verbos principales pero retienen una relación léxica específica, no está claro si los modelos de lenguaje contextuales codifican esta distinción. Específicamente, se desconoce si la geometría representacional de los modelos basados en codificadores refleja las predicciones teóricas de que: (1) los usos principales y ligeros están sistemáticamente diferenciados, (2) los usos del mismo lema permanecen más cerca entre sí que los pares de lemas no coincidentes, y (3) los verbos ligeros individuales retienen perfiles distinguibles en lugar de colapsar en una clase homogénea.

Metodología
El estudio analiza 1,126 oraciones en urdu que ocurren naturalmente y contienen siete verbos ligeros canónicos (āyā, uṭhā, baiṭhā, paṛā, diyā, gayā, liyā). El conjunto de datos se construyó a partir de un corpus interno de 1.6 GB, con oraciones extraídas donde el verbo objetivo aparecía en la posición final de la oración. La anotación siguió un estricto protocolo de acuerdo tripartito: GPT-5.1 clasificó primero cada oración utilizando prompts fundamentados en los criterios lingüísticos de Butt, y luego dos anotadores humanos expertos revisaron de forma independiente las etiquetas asignadas por el GPT. Solo se retuvieron las oraciones para las cuales las tres fuentes (GPT-5.1, Anotador 1 y Anotador 2) estuvieron en pleno acuerdo; cualquier oración con incluso un solo desacuerdo fue descartada.

Se evaluaron tres modelos basados en codificadores:

1. UrduBERT: Un modelo BERT-base entrenado desde cero con un corpus de urdu de 5.8 GB desduplicado.
2. DunbaaBERT: Un modelo de estilo RoBERTa entrenado en un corpus de urdu de 17 GB.
3. Multilingual BERT (mBERT): Un modelo multilingüe estándar no optimizado específicamente para el urdu.

La metodología empleó tres análisis complementarios sobre las incrustaciones contextuales extraídas de las últimas capas ocultas:

• Separación Representacional: Se calcularon la distancia de coseno y los coeficientes de silueta entre los centroides de uso principal y de uso ligero para cada verbo y modelo. La significancia estadística se evaluó mediante pruebas de permutación de etiquetas.
• Relación Léxica: La distancia entre los centroides de uso principal y ligero del mismo lema se comparó con las distancias entre lemas no coincidentes para probar si los pares del mismo lema permanecen más cerca.
• Estructura Específica del Verbo: Se realizó una tarea de clasificación de siete vías para predecir la identidad del verbo ligero. Esto incluyó una condición de "objetivo enmascarado" donde el verbo objetivo fue reemplazado por un token de máscara, y una evaluación de "forma precedente disjunta" para probar la generalización más allá de las combinaciones repetidas de V1–V2.

Resultos Clave

• Diferenciación Sistemática: Las 21 comparaciones verbo–modelo mostraron una separación representacional significativa entre los usos principales y ligeros ($p < 0.001$). UrduBERT demostró las mayores distancias de centroide (media de 0.177) y los coeficientes de silueta más altos (media de 0.272), seguido de mBERT y DunbaaBERT.
• Recuperabilidad Lineal y No Supervisada: El sondeo logístico logró una alta precisión al distinguir entre el uso principal y el ligero en todos los modelos (F1 media de UrduBERT: 0.997). Sin embargo, el agrupamiento no supervisado mediante KMeans mostró que, si bien UrduBERT alcanzó un Índice de Rand Ajustado (ARI) medio de 0.778, los otros modelos funcionaron cerca del azar, lo que indica que una alta separabilidad lineal no garantiza la formación de dos cúmulos esféricos dominantes.
• Relación Léxica: Los centroides de uso principal–ligero del mismo lema fueron consistentemente más cercanos que los pares de lemas no coincidentes en todos los modelos. La precisión de coincidencia Top-1 fue de 1.0 para todos los modelos, lo que respalda la predicción de que los usos principales y ligeros mantienen la relación léxica a pesar de su diferenciación.
• Identidad del Verbo Ligero: En la condición de objetivo enmascarado, UrduBERT alcanzó una precisión de 0.866 y un macro-F1 de 0.852 en la predicción de la identidad específica del verbo ligero, superando significativamente el azar. Bajo la evaluación de forma precedente disjunta, UrduBERT mantuvo una precisión de 0.782, lo que sugiere la generalización más allá de las coocurrencias superficiales inmediatas. DunbaaBERT y mBERT mostraron un rendimiento menor pero aún significativo en las condiciones de enmascaramiento.

Significancia y Reivindicaciones
El artículo proporciona evidencia computacional consistente con el análisis lingüístico de Butt sobre los verbos ligeros en urdu. Los hallazgos demuestran que las incrustaciones contextuales diferencian sistemáticamente los usos principales y ligeros mientras preservan la estructura específica del lema. Específicamente, los resultados apoyan la visión de que los verbos ligeros no son marcadores gramaticales semánticamente vacíos, sino que retienen contribuciones específicas del verbo y una relación con sus contrapartes de verbos principales.

Los autores declaran explícitamente que estos hallazgos proporcionan evidencia de las consecuencias representacionales del análisis de Butt sin establecer directamente una estructura particular de entrada léxica o una vía diacrónica. El estudio complementa el trabajo previo sobre verbos ligeros en inglés al extender la investigación al urdu y evaluar predicciones específicas sobre la relación léxica y la especificidad del verbo que son centrales en la teoría lingüística del urdu. Los resultados sugieren que los modelos basados en codificadores, particularmente aquellos entrenados en datos monolingües de urdu, capturan la matizada geometría representacional de las construcciones de verbos ligeros.