💬 NLP

Lacuna Inc. at SemEval-2026 Task 4: Structurally Gated State-Space Models for Disentangling Narrative Similarity

本文介绍了不变-变体解耦状态空间模型（Invariant-Variant Disentangled State-Space Model, IVD-SSM），该模型结合了混合状态空间骨干网络与一种新型的结构化门控对齐头，旨在有效地将抽象叙事结构从表层词汇细节中解耦，从而提升 SemEval-2026 任务 4 中的故事相似度评估效果。

原作者： Aleksey Kudelya, Rafif Alshawi, Alexander Shirnin

发布于 2026-07-07

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Aleksey Kudelya, Rafif Alshawi, Alexander Shirnin

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是该论文的中文翻译：

核心问题：“词汇相同，故事迥异”

想象一下，你正试图判断两个故事是否本质上是同一个情节，只是用了不同的角色来讲述。

故事 A： 一个被霸凌的孩子利用“丧尸病毒”进行报复，从而变得受欢迎。
故事 B： 一位科学家在实验室里意外释放了“丧尸病毒”，导致所有人四处尖叫逃命。

一个标准的计算机程序可能会观察后得出结论：“它们有 90% 的相似度！”因为它发现两者都出现了“丧尸”这个词。但人类知道它们是完全不同的故事。一个是关于复仇和社会地位提升的故事；另一个则是关于生存恐怖灾难的故事。

作者们面临的挑战（SemEval-2026 Task 4）是构建一个能够忽略“丧尸”这个关键词，转而观察因果链条的计算机：谁做了什么，以及为什么这么做？

解决方案：“骨架与皮肤”法

来自 HSE 大学（高等经济学院）的团队开发了一个名为 IVD-SSM 的系统。你可以将这个系统想象成一个侦探，它将故事分为两个层面：

骨架（不变性/Invariant）： 核心结构。事件的序列（例如：“被排挤者” $\rightarrow$ “采取极端行动” $\rightarrow$ “地位发生变化”）。即使名字变了，这个结构也永远不会改变。
皮肤（变体/Variant）： 表层的细节。名字、具体的物体、环境和类型化元素（如“丧尸”、“宇宙飞船”或“城堡”）。

他们的目标是让计算机完全专注于骨架，并忽略皮肤。

它是如何工作的：“大局观”与“显微镜”

该系统使用了一种特殊的 AI 引擎（基于名为 Jamba 的模型），这种引擎擅长阅读长文本，且不会感到疲劳或忘记开头。但真正的魔力在于他们发明的一个新部分，叫做结构化门控对齐（SGA）头。

想象一下，SGA 头拥有两对协同工作的眼睛：

“宏观”眼（广角镜头）：
- 这只眼睛从远处观察故事。它跳过细节，只看重大的里程碑：开端、冲突、高潮、结局。
- 它创建了一张故事形状的粗略地图。它不在乎英雄的名字是“约翰”还是“简”，也不在乎武器是“枪”还是“激光”。它看到的仅仅是情节的形状。
“微观”眼（显微镜）：
- 这只眼睛会放大到每一个单词。它注意到两个故事都提到了“丧尸”。
- 危险之处： 如果计算机只使用这只眼睛，它就会被“丧尸”这个词所迷惑，认为这两个故事很相似。
“守门人”（门控机制）：
- 这是最重要的部分。宏观眼充当了保安或守门人的角色。
- 它先观察粗略的地图。如果宏观眼说：“嘿，这两个故事的形状完全不同，”它就会向微观眼关上大门。
- 即便微观眼在大喊：“但它们都有丧尸啊！”，守门人也会说：“我不在乎。情节结构不匹配，所以忽略‘丧尸’这个词。”
- 只有当大局结构确实一致时，守门人才会允许微观眼的细节通过。

他们的发现

团队将该系统与其他的标准 AI 模型，甚至是一个非常智能的预训练 AI（GPT-4o-mini）进行了对比测试。

标准模型： 被“丧尸”等词汇误导，未能看出情节的区别。
他们的系统 (IVD-SSM)： 成功地忽略了干扰性的词汇，正确识别出“复仇”故事和“生存”故事是不同的，同时精准捕捉到了那个真正共享“被排挤者采取行动”结构的故事情节。
结果： 他们的系统表现优于随机猜测，也优于简单的词汇匹配，证明了你确实可以教会计算机透过表面细节去寻找真正的故事结构。

局限性（不足之处）

作者坦诚地说明了该系统目前尚不完美的地方：

门不是墙： 这个“门”是“软性”的。如果错误的故事包含了过多的特定匹配词（例如一个非常特定的名字或罕见的物体），这些“噪声”仍可能通过缝隙渗入，从而干扰系统。
内存问题： 虽然主引擎效率很高，但最后一步——即对比每一个词与每一个词的过程（以检查细节）——仍然非常消耗计算机内存。它在处理短篇摘要时运行良好，但在处理长篇小说时可能会遇到困难。
训练数据： 他们主要使用由其他计算机生成的故事情节来训练系统，因为人类编写的样本不足。这意味着该系统非常擅长识别标准的叙事模式，但可能会在面对非常怪异、实验性或非线性的人类故事时感到困惑。

总结

这篇论文提出了一种教计算机理解故事的新方法。与其仅仅计算两个故事共享多少单词，他们构建了一个首先检查情节骨架是否匹配的系统。只有在骨架匹配的情况下，才会允许细节影响最终的判断。这防止了计算机被像共享关键词这样的表面相似性所欺骗。

技术摘要：用于叙事相似性的 IVD-SSM

问题定义
本文旨在解决评估**叙事相似性（narrative similarity）**的计算挑战。该任务由 SemEval-2026 Task 4 定义，其核心在于区分情节的“深层结构”（因果关系与演进的抽象模式）与其“表层实现”（具体的名称、设定与物体）。标准的 Transformer 架构通常无法胜任此项任务，因为它们存在对词汇和语义重叠的偏好，从而导致“伪相关”现象——即两个故事即便在因果链条截然不同的情况下，仅因共享了特定类型的词汇（如“僵尸”）就被判定为相似。此外，标准 Transformer 在处理长篇叙事中固有的长程依赖时，面临着二次方级的内存与计算瓶颈（ $O(N^2)$ ）。

方法论：IVD-SSM
作者提出了不变-变体解耦状态空间模型（Invariant-Variant Disentangled State-Space Model, IVD-SSM），这是一种旨在显式分离不变情节结构与变体语义细节的混合架构。该系统由两个主要部分组成：

骨干编码器 (Jamba-1.5-Mini)：
- 系统采用了 Jamba-1.5-Mini 模型，这是一种结合了 Mamba（状态空间模型）层与 Transformer 注意力机制的混合架构。
- 选择 Mamba 层是因为其能够将序列历史压缩为动态更新的隐藏状态，并具有线性时间复杂度（ $O(N)$ ），这使其在捕捉长程因果链方面表现出色，且没有键值缓存（KV cache）带来的内存开销。
- 为了在计算资源受限的情况下适配这一 120 亿参数的模型，骨干网络以 4-bit NormalFloat (NF4) 量化方式加载。作者采用了 QLoRA（参数高效微调）技术，仅针对投影（projection）和嵌入（embedding）模块进行微调，同时保持网络其余部分冻结，以保留预训练的世界知识。
结构化门控对齐 (Structurally Gated Alignment, SGA) 头：
- 这是核心的创新点，一种受 Smith-Waterman 算法启发的可微双尺度对齐机制。它通过两条并行路径处理锚点叙事（anchor narrative）与候选叙事（candidate narrative）：
  - 宏观路径 (Macro-path, 不变结构)： 输入序列经过大幅度下采样（步长 $k=4$ ），以捕捉粗粒度的结构骨架（例如：引入、冲突、解决）。该路径对特定的标记级实体是不敏感的。
  - 微观路径 (Micro-path, 变体细节)： 处理全分辨率序列，以捕捉细粒度的实体级匹配（例如：特定的角色名称或物体）。
- 门控机制： 宏观路径生成一个结构相似性矩阵（ $M_{macro}$ ），该矩阵经过上采样并通过温度缩放的 Sigmoid 激活函数，生成一个软结构掩码（ $G$ ）。该掩码通过逐元素相乘的方式对微观路径的相似性矩阵进行门控（ $M_{filtered} = M_{micro} \odot G$ ）。
- 该机制主动抑制语义噪声和表层关键词重叠，确保只有当细粒度细节在结构有效的区域内对齐时，才会赋予高相似度分数。

训练与评估

数据： 由于人工标注数据有限（200 个开发集三元组，400 个测试集三元组），模型完全基于任务组织者提供的 1,900 个合成故事三元组进行训练，并辅以人工标注集进行验证。
Track A (成对分类)： 模型使用对比目标来确定两个候选者中哪一个在结构上更接近锚点。
Track B (表示学习)： 模型通过对投影后的骨干输出进行均值池化（mean-pooling）生成稠密向量嵌入，随后进行严格的 L2 归一化，以便于进行余弦距离比较。

关键结果

Track A (成 pair 分类)： IVD-SSM (Gated) 达到了 57.25% 的准确率，优于随机基准（50.00%）和词汇 Jaccard 相似度基准（56.25%）。然而，它仍落后于零样本 GPT-4o-mini 提示词的效果（67.00%）。
Track B (嵌入相似度)： 模型达到了 54.50% 的准确率，低于 all-MiniLM-L6-v2 句子编码器（58.50%）和 story-emb（63.25%）。
消融实验：
- 仅使用微观路径（55.75%）的表现逊于 Jaccard 基准，证实了缺乏结构过滤的细粒度标记相似性极易受到词汇干扰的影响。
- 仅使用宏观路径（57.00%）显著优于 Jaccard，表明粗粒度的结构骨架承载了大部分有效信号。
- 门控机制相比于仅使用宏观路径的版本提供了小幅但一致的提升（+0.25%），验证了其在过滤残余语义噪声方面的作用。

意义与主张
论文声称，计算叙事评估的主要瓶颈在于不变的情节结构与变体的语义细节之间的混淆。作者认为，其结果表明叙事相似性无法通过“词袋”或通用的句子嵌入进行可靠测量。相反，它需要能够显式建模序列行动过程的架构。

这项工作的意义在于 IVD-SSM 能够解耦结构不变性与词汇变体性，为深度叙事理解提供了一个原则性的框架。作者指出，虽然其方法目前尚未达到大型零样本 LLM 的性能水平（这可能是由于 LLM 拥有广泛的叙事结构预训练和隐性推理能力），但 SGA 架构成功缓解了导致标准模型在困难负样本上失效的“伪相关”问题。

局限性
作者承认存在以下局限性：

软门控 (Soft Gating)： 基于 Sigmoid 的门控是连续的，永远不会达到零，这导致了一些强烈的词汇干扰项（例如相同的命名实体）可能会覆盖结构上的不一致。
计算复杂度： 虽然骨干网络是线性的，但 SGA 头在计算全序列交叉相似性矩阵时重新引入了二次方级（ $O(L_a \times L_c)$ ）的瓶颈，如果不进行稀疏对齐修改，可能无法扩展到处理全长小说或剧本。
数据偏差： 模型主要在 LLM 生成的合成数据上进行训练，这可能导致其对可预测的叙事节奏和标准原型产生过拟合，从而使得其在先锋派或非线性人类创作叙事上的表现仍有待探索。