Contextual Embedding Evidence for Main--Light Verb Distinctions in Urdu

技术摘要：乌尔都语实义动词与轻动词区别的上下文嵌入证据

问题与动机
乌尔都语语法具有轻动词结构（LVCs），其中实义动词（V1）与第二个动词（V2）结合，后者贡献了体（aspectual）、完成（completive）或事件结构（event-structural）的含义，同时表现出词汇内容减少的特征。虽然语言学理论，特别是 Butt (1995, 2003, 2010) 以及 Butt 和 Lahiri (2013) 的研究认为，轻动词与其对应的实义动词是不同的，但仍保留着特定的词汇关系，但目前尚不清楚上下文语言模型是否编码了这种区别。具体而言，尚不清楚基于编码器的模型的表示几何结构（representational geometry）是否反映了以下理论预测：(1) 实义用法与轻动词用法在系统层面是相互区分的；(2) 同一词元（lemma）的用法比不同词元的对组更接近彼此；(3) 单个轻动词保留了可辨识的特征，而非坍缩为一个同质化的类别。

研究方法
本研究分析了包含七个典型轻动词（āyā, uṭhā, baiṭhā, paṛā, diyā, gayā, liyā）的 1,126 个自然发生的乌尔都语句子。数据集构建自一个 1.6 GB 的内部语料库，提取的句子中目标动词均出现在句末位置。标注遵循严格的三方一致性协议：首先由 GPT-5.1 根据基于 Butt 语言学标准的提示词对每个句子进行分类，随后由两名专家人类标注员独立审查 GPT 分配的标签。只有当所有三个来源（GPT-5.1、标注员 1 和标注员 2）完全一致时，该句子才会被保留；任何存在单一分歧的句子都会被舍弃。

研究评估了三个基于编码器的模型：

1. UrduBERT：一个在 5.8 GB 去重后的乌路语语料库上从头训练的 BERT-base 模型。
2. DunbaaBERT：一个在 17 GB 乌尔都语语料库上训练的 RoBERTa 类型模型。
3. 多语言 BERT (mBERT)：一个并非专门针对乌尔都语优化的标准多语言模型。

该方法对从最终隐藏层提取的上下文嵌入进行了三种互补分析：

• 表示分离度（Representational Separation）：计算了每个动词和每个模型在实义用法与轻动词用法质心之间的余弦距离和轮廓系数（silhouette scores）。通过标签置换检验（label-permutation tests）评估统计显著性。
• 词汇相关性（Lexical Relatedness）：比较了相同词元的实义–轻动词质心与不同词元的跨词元距离，以测试相同词元对是否保持更近的关系。
• 动词特定结构（Verb-Specific Structure）：执行了一项七分类任务以预测轻动词的身份。这包括“掩码目标”（masked-target）条件（即目标动词被替换为掩码标记）以及“前序形式不相交”（preceding-form-disjoint）评估（用于测试超越重复 V1–V2 组合的泛化能力）。

核心结果

• 系统性区分：所有 21 组“动词–模型”比较均显示出实义用法与轻动词用法之间存在显著的表示分离（$p < 0.001$）。UrduBERT 展示了最大的质心距离（平均 0.177）和最高的轮廓系数（平均 0.272），其次是 mBERT 和 DunbaaBERT。
• 线性与无监督可恢复性：逻辑探测（Logistic probing）在区分所有模型中的实义与轻动词用法方面均达到了极高准确率（UrduBERT 平均 F1 值：0.997）。然而，无监督 KMeans 聚类显示，尽管 UrduBERT 实现了 0.778 的平均调整兰德指数（ARI），但其他模型表现接近随机水平，这表明高线性可分性并不保证形成两个主导的球形簇。
• 词汇相关性：在所有模型中，相同词元的实义–轻动词质心始终比不同词元的跨词元对更接近。所有模型的 Top-1 匹配准确率均为 1.0，支持了以下预测：尽管存在差异，实义用法与轻动词用法仍保留了词汇相关性。
• 轻动词身份：在掩码目标条件下，UrduBERT 在预测特定轻动词身份方面的准确率达到 0.866，宏 F1 值达到 0.852，显著优于随机水平。在“前序形式不相交”评估下，UrduBERT 保留了 0.782 的准确率，表明其具备超越即时表面共现的泛化能力。DunbaaBERT 和 mBERT 在掩码条件下的表现较低，但仍具有显著性。

意义与主张
本文提供了与 Butt 关于乌尔都语轻动词语言学解释一致的计算证据。研究结果表明，上下文嵌入在系统性区分实义用法与轻动词用法的同时，仍保留了特定词元的结构。具体而言，结果支持了以下观点：轻动词并非语义为空白的语法标记，而是保留了动词特定的贡献及其与实义动词对应物的关系。

作者明确指出，这些发现为 Butt 分析的表示后果提供了证据，但并未直接建立特定的形式词汇条目结构或历时演变路径。这项研究通过将调查扩展到乌尔都语，并评估关于词汇相关性和动词特定性的具体预测（这些预测对乌尔都语语言理论至关重要），补充了以往关于英语轻动词的研究工作。结果表明，编码器模型（尤其是那些在单语乌尔都语数据上训练的模型）能够捕捉到轻动词结构的细微表示几何结构。