💬 NLP

Task Prompt Vectors: Effective Initialization through Multi-Task Soft-Prompt Transfer

本文介绍了“任务提示向量”，这是一种利用源自任务特定差异的软提示进行算术运算的方法，旨在无需全量重训练即可实现提示微调中的有效多任务初始化与迁移。

原作者： Robert Belanec, Simon Ostermann, Ivan Srba, Maria Bielikova

发布于 2026-05-14

📖 1 分钟阅读☕ 轻松阅读

原作者： Robert Belanec, Simon Ostermann, Ivan Srba, Maria Bielikova

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你拥有一座巨大且极其聪明的图书馆（即大型语言模型），它懂得如何写作、回答问题以及解决问题。然而，若要教会这座图书馆一项新的特定技能，通常需要对整座建筑进行大规模且昂贵的改造。

提示微调（Prompt Tuning） 则是一种更聪明、更经济的教学方式。你无需重建整座图书馆，只需在图书馆阅读的每本书前面添加一张小型的定制化“指令卡”（即软提示）。你只需微调这张小卡片，就能教会图书馆一项新任务，例如“写一首诗”或“解决数学问题”。

当前方法的问题在于，如果你希望图书馆同时完成两件事（例如既写诗又解数学题），通常必须针对这种特定组合从头训练一张全新的指令卡。这就像每次想要组合两项技能时，都必须编写一本新手册。

本文介绍了一种名为**任务提示向量（Task Prompt Vectors）**的新工具。其工作原理如下，通过简单的类比来说明：

1. “方向”类比

将图书馆的指令卡想象成一根指向特定方向的指南针指针。

随机起点：当你刚拿到一张空白的指令卡时，指针指向一个随机方向（就像指南针在疯狂旋转）。
训练：当你训练这张卡片去解决“数学问题”时，你会轻轻推动指针，直到它稳定地指向“数学”。
向量：本文将任务提示向量定义为指针起始位置（随机）与最终位置（数学）之间的差异。它不是最终的位置，而是到达那里所需的移动或推动。

2. “算术”的魔力

本文最激动人心的发现是，你可以对这些“推动”进行数学运算。

假设你拥有一个“数学推动”和一个“诗歌推动”。
你无需从头训练一张新卡片，只需将“数学推动”和“诗歌推动”相加即可。
结果是一张新的指令卡，其指向的方向能够同时处理数学和诗歌。

这就像拥有两种不同的蛋糕食谱。你无需为了融合巧克力和香草口味而烘烤整个新蛋糕，只需将“巧克力调味剂”和“香草调味剂”混合在一起，加入新鲜的面糊中即可。

3. 为何这意义重大

作者在 19 项不同的任务（如理解句子、分类主题和解决数学问题）上测试了这一想法。他们发现了三个关键点：

起点无关紧要：通常，如果你从不同的随机位置开始指南针，它最终指向的方向可能会略有不同。但本文表明，这些“任务提示向量”非常稳健，无论你使用哪个随机起点都无关紧要。“推动”是相同的。这意味着，你可以将某人创建的“数学推动”应用到他人的空白卡片上，它依然有效。
相似任务混合良好：如果你将“数学推动”加到“科学推动”上，效果会很好，因为它们相似。如果你试图将“数学推动”加到“烹饪推动”上，结果可能会混乱。本文表明，这些向量自然地反映了任务之间的相似程度。
节省时间和金钱：因为你只需将这些预制向量“相加”，所以无需从头重新训练模型。这在数据非常有限的情况下（例如只有 5 个任务示例而非数千个）尤其有帮助。在这些“低资源”情境中，使用这些预混合向量往往比当前的其他方法效果更好。

总结

本文提出了一种将 AI 指令视为积木的方法。你无需每次想要不同房间时就建造一栋新房子，而是为特定房间创建“蓝图”（向量）。随后，你可以将这些蓝图拼接在一起，瞬间打造出一栋拥有多个房间的房子，而无需雇佣新的施工队（重新训练模型）。

作者将这种方法称为任务提示向量，并表明它使 AI 更加灵活、高效，且更易于同时组合处理多项任务。

技术摘要：任务提示向量

问题陈述

提示微调（Prompt tuning）是一种用于大语言模型（LLM）的参数高效微调（PEFT）方法，其中仅训练一小部分连续的软提示权重，而预训练模型保持冻结。然而，现有的基于软提示的方法通常缺乏足够的多任务模块化。通常，为新任务训练软提示需要完整或部分的重训练过程，而组合多个任务的提示往往会降低性能或需要进一步的微调。虽然“任务向量”（对完整模型权重进行算术运算）在计算机视觉和旧版自然语言处理模型中已显示出实现多任务性能的潜力，但这一概念尚未有效地扩展到基于软提示的微调领域。此外，现有的 PEFT 权重插值方法往往严重依赖特定的随机初始化，限制了其可重用性。

方法论

作者引入了任务提示向量（TPVs），这是一个将任务向量算术原理适应到软提示空间的新概念。

定义

任务提示向量（ $\tau_{P}^{t}$ ）定义为在特定任务上微调后的软提示权重（ $\theta_{P_{ft}}^{t}$ ）与其随机初始化（ $\theta_{P_{pre}}$ ）之间的逐元素差值：
$\tau_{P}^{t} = \theta_{P_{ft}}^{t} - \theta_{P_{pre}}$
该向量代表了嵌入空间中的一个方向，将提示从随机状态移动到特定任务的子空间。

算术运算

核心机制涉及提示算术，特别是通过添加任务提示向量来组合来自不同任务的知识：
$\tau_{P_{new}} = \tau_{P_{a}} + \tau_{P_{b}}$
该组合向量可应用于新的软提示初始化（ $\theta_{P}$ ），以在无需进一步训练的情况下将其初始化为目标任务：
$\theta_{P_{new}} = \theta_{P} + \lambda \tau_{P_{new}}$
其中 $\lambda$ 为重缩放因子。

实验设置

作者在 19 个数据集上评估了 TPV，这些数据集涵盖了 8 种任务类型（包括自然语言推理、主题分类、情感分析和数学问题解决），使用了 T5-base、LLaMa-3.1-8B-Instruct 和 DeepSeek-LLM-7B-Chat 模型。关键实验目标包括：

初始化独立性：测试 TPV 是否无论目标软提示的随机初始化如何都能生效。
向量相似性：分析来自相关任务和不相关任务的向量之间的余弦相似度。
多任务迁移：评估组合向量在源任务上的性能，以及作为目标任务上零样本和少样本学习的初始化的性能。

主要贡献与发现

1. 随机初始化独立性

研究表明，任务提示向量在很大程度上独立于软提示的随机初始化。当在一个随机初始化上训练的 TPV 应用于另一个不同的随机初始化时，对于大多数任务，下游性能仍与原始设置相当。这一特性至关重要，因为它允许 TPV 在不同的训练运行之间共享和重用，而无需相同的种子。

2. 任务模块化与向量算术

作者表明，将来自相似任务（例如 MNLI + RTE）的任务提示向量相加，可以保持或略微提高两个任务上的单任务性能。这表明 TPV 能够以模块化的方式有效地编码特定任务的知识。研究发现，TPV 的余弦相似度比原始任务提示本身的相似度更能预测迁移能力。

3. 低资源初始化

在零样本和少样本设置（0–100 次）中，使用预训练 TPV 的组合来初始化提示微调，其表现往往优于或等同于 SPoT（软提示迁移）和 ATTEMPT 等最先进基线。具体而言：

TPV 组合在 SciTail 和 IMDB 上的表现优于单任务源提示。
它们在 AG News 和 Yahoo Answers 上的表现与 SPoT 相当。
在多种场景下，特别是在预训练源提示数量有限时，它们显著优于 ATTEMPT。

4. 与现有方法的比较

与 SPoT（当源任务集变化时需要重新训练源提示）和 ATTEMPT（高度依赖源提示的质量和数量）不同，TPV 提供了高模块化和源提示独立性。这允许创建一个“向量中心”，其中预训练向量可被重用以适配新任务，而无需额外训练。

意义与主张

该论文声称，任务提示向量提供了一种计算高效的替代方案，用于解决最先进多任务解决方案。通过对预训练向量进行简单的算术运算，该方法在不产生重新训练计算成本的情况下实现了高多任务模块化。

作者提出，该方法的成功表明软提示的最优子空间可能具有凸形，使得线性近似（向量加法）即使在非线性空间中也能有效工作。此外，对随机初始化的独立性使得构建社区驱动的任务向量存储库成为可能。

作者指出的局限性：

实验主要在单语（英语）模型和数据集上进行。
研究以 T5-base 作为代表性模型，尽管结果已在更大的 LLaMa 和 DeepSeek 模型上得到验证。
对软提示空间几何特性的理论分析留待未来工作。
该方法目前专注于 NLU 和 NLG 任务，尚未在多语言设置中进行广泛测试。

总之，该工作确立了任务提示向量可用于在低资源设置下有效初始化提示微调，提供了一种稳健、模块化且无需训练的多任务适应方法。