Contextual Embedding Evidence for Main--Light Verb Distinctions in Urdu

Technisches Resümee: Kontextuelle Embedding-Evidenz für die Unterscheidung zwischen Vollverb und Light-Verb im Urdu

Problemstellung und Motivation
Die Grammatik des Urdu weist Konstruktionen mit Light Verbs (LVCs) auf, bei denen ein lexikalisches Verb (V1) mit einem zweiten Verb (V2) kombiniert, das aspektuelle, kompletiertende oder ereignisstrukturelle Bedeutung beiträgt, während es einen reduzierten lexikalischen Gehalt aufweist. Während die linguistische Theorie, insbesondere die Arbeiten von Butt (1995, 2003, 2010) sowie Butt und Lahiri (2013), postuliert, dass Light Verbs von ihren entsprechenden Vollverben verschieden sind, aber dennoch eine spezifische lexikalische Beziehung beibehalten, bleibt unklar, ob kontextbasierte Sprachmodelle diese Unterscheidung kodieren. Insbesondere ist unbekannt, ob die repräsentationale Geometrie von Encoder-basierten Modellen die theoretischen Vorhersagen widerspiegelt, wonach: (1) Vollverb- und Light-Verb-Verwendungen systematisch differenziert sind, (2) Verwendungen desselben Lemma-Paares näher beieinander liegen als gematchte Lemma-Paare unterschiedlicher Wörter und (3) individuelle Light Verbs unterscheidbare Profile beibehalten, anstatt in einer homogenen Klasse zu kollabieren.

Methodik
Die Studie analysiert 1.126 natürlich vorkommende Urdu-Sätze, die sieben kanonische Light Verbs (āyā, uṭhā, baiṭhā, paṛā, diyā, gayā, liyā) enthalten. Der Datensatz wurde aus einem 1,6 GB großen hausinternen Korpus konstruiert, wobei Sätze extrahiert wurden, in denen das Zielverb in der Satzendposition auftrat. Die Annotation folgte einem strengen Drei-Wege-Konsensprotokoll: GPT-5.1 klassifizierte jeden Satz zuerst anhand von Prompts, die auf Butts linguistischen Kriterien basieren, und anschließend überprüften zwei menschliche Experten unabhängig die von GPT zugewiesenen Labels. Nur Sätze, bei denen alle drei Quellen (GPT-5.1, Annotator 1 und Annotator 2) in vollständiger Übereinstimmung standen, wurden beibehalten; jeder Satz mit auch nur einer einzigen Unstimmigkeit wurde verworfen.

Es wurden drei Encoder-basierte Modelle evaluiert:

1. UrduBERT: Ein BERT-Base-Modell, das von Grund auf auf einem 5,8 GB großen, deduplizierten Urdu-Korpus trainiert wurde.
2. DunbaaBERT: Ein RoBERTa-ähnliches Modell, das auf einem 17 GB großen Urdu-Korpus trainiert wurde.
3. Multilingual BERT (mBERT): Ein Standard-Multilingual-Modell, das nicht spezifisch für Urdu optimiert wurde.

Die Methodik verwendete drei komplementäre Analysen auf den kontextuellen Embeddings, die aus den finalen Hidden-Layers extrahiert wurden:

• Repräsentationale Separation: Kosinus-Distanz und Silhouette-Scores wurden zwischen den Zentroiden der Vollverb- und Light-Verb-Verwendungen für jedes Verb und jedes Modell berechnet. Die statistische Signifikanz wurde mittels Label-Permutationstests bewertet.
• Lexikalische Verwandtschaft: Die Distanz zwischen den Vollverb- und Light-Verb-Zentroiden desselben Lemmas wurde mit den Distanzen zwischen gemischten Cross-Lemma-Paaren verglichen, um zu testen, ob Paare desselben Lemmas näher beieinander bleiben.
• Verbspezifische Struktur: Es wurde eine sieben-Wege-Klassifikationsaufgabe durchgeführt, um die Identität des Light Verbs vorherzusagen. Dies beinhaltete eine „Masked-Target“-Bedingung, bei der das Zielverb durch ein Mask-Token ersetzt wurde, sowie eine „Preceding-Form-Disjoint“-Evaluierung, um die Generalisierung über wiederholte V1–V2-Kombinationen hinaus zu testen.

Kernergebnisse

• Systematische Differenzierung: Alle 21 Verb-Modell-Vergleiche zeigten eine signifikante repräsentationale Separation zwischen Vollverb- und Light-Verb-Verwendungen ($p < 0,001$). UrduBERT demonstrierte die größten Zentroid-Distanzen (Mittelwert 0,177) und die höchsten Silhouette-Scores (Mittelwert 0,272), gefolgt von mBERT und DunbaaBERT.
• Lineare und unüberwachte Rekuperierbarkeit: Das Logistic Probing erreichte eine hohe Genauigkeit bei der Unterscheidung zwischen Vollverb- und Light-Verb-Verwendungen in allen Modellen (UrduBERT Mittelwert F1: 0,997). Jedoch zeigte die unüberwachte KMeans-Clusterung, dass während UrduBERT einen mittleren Adjusted Rand Index (ARI) von 0,778 erreichte, die anderen Modelle nahe am Zufallsniveau operierten, was darauf hindeutet, dass eine hohe lineare Separabilität nicht zwangsläufig die Bildung von zwei dominanten sphärischen Clustern garantiert.
• Lexikalische Verwandtschaft: Die Vollverb- und Light-Verb-Zentroiden desselben Lemmas waren über alle Modelle hinweg konsistent näher beieinander als gemischte Cross-Lemma-Paare. Die Top-1-Matching-Genauigkeit betrug für alle Modelle 1,0, was die Vorhersage stützt, dass Vollverb- und Light-Verb-Verwendungen trotz ihrer Differenzierung eine lexikalische Verwandtschaft beibehalten.
• Identität des Light Verbs: In der „Masked-Target“-Bedingung erreichte UrduBERT eine Genauigkeit von 0,866 und einen Macro-F1 von 0,852 bei der Vorhersage der spezifischen Identität des Light Verbs, was die Zufallswahrscheinlichkeit signifikant übertraf. Unter der „Preceding-Form-Disjoint“-Evaluierung behielt UrduBERT eine Genauigkeit von 0,782 bei, was auf eine Generalisierung jenseits unmittelbarer oberflächlicher Kookkurrenzen hindeutet. DunbaaBERT und mBERT zeigten eine geringere, aber dennoch signifikante Leistung unter den Masking-Bedingungen.

Bedeutung und Ansprüche
Die Arbeit liefert computergestützte Evidenz, die konsistent mit Butts linguistischer Beschreibung von Urdu-Light-Verbs ist. Die Ergebnisse zeigen, dass kontextuelle Embeddings Vollverb- und Light-Verb-Verwendungen systematisch differenzieren und gleichzeitig die lemma-spezifische Struktur bewahren. Insbesondere stützen die Ergebnisse die Ansicht, dass Light Verbs keine semantisch leeren grammatikalischen Marker sind, sondern verbspezifische Beiträge und eine Beziehung zu ihren entsprechenden Vollverben beibehalten.

Die Autoren halten explizit fest, dass diese Befunde Belege für die repräsentativen Konsequenzen von Butts Analyse liefern, ohne direkt eine bestimmte formale Lexik-Eintrag-Struktur oder einen diachronen Pfad zu etablieren. Die Studie ergänzt vorangegangene Arbeiten zu englischen Light Verbs, indem sie die Untersuchung auf das Urdu ausweitet und spezifische Vorhersagen bezüglich der lexikalischen Verwandtschaft und der Verbspezifität untersucht, die für die Urdu-Linguistik zentral sind. Die Ergebnisse legen nahe, dass Encoder-basierte Modelle, insbesondere solche, die auf monolingualen Urdu-Daten trainiert wurden, die nuancierte repräsentationale Geometrie von Light-Verb-Konstruktionen erfassen.