💬 NLP

Task Prompt Vectors: Effective Initialization through Multi-Task Soft-Prompt Transfer

Cet article présente les « vecteurs d'invite de tâche », une méthode qui exploite des opérations arithmétiques sur des invites souples dérivées de différences spécifiques à la tâche afin de permettre une initialisation et un transfert efficaces dans le cadre de l'ajustement par invite pour plusieurs tâches sans nécessiter de réentraînement complet.

Auteurs originaux : Robert Belanec, Simon Ostermann, Ivan Srba, Maria Bielikova

Publié 2026-05-14

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Robert Belanec, Simon Ostermann, Ivan Srba, Maria Bielikova

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous possédiez une bibliothèque géante et incroyablement intelligente (un modèle de langage de grande taille) qui sait écrire, répondre à des questions et résoudre des problèmes. Cependant, enseigner à cette bibliothèque une nouvelle compétence spécifique nécessite généralement une rénovation massive et coûteuse de tout l'édifice.

L'ajustement par prompt (Prompt Tuning) est une méthode plus intelligente et moins coûteuse pour enseigner à cette bibliothèque. Au lieu de reconstruire toute la bibliothèque, vous ajoutez simplement une petite « carte d'instruction » personnalisée (un prompt doux) au début de chaque livre que la bibliothèque lit. Vous n'avez qu'à modifier cette petite carte pour enseigner à la bibliothèque une nouvelle tâche, comme « écrire un poème » ou « résoudre des problèmes de mathématiques ».

Le problème avec les méthodes actuelles est que si vous voulez que la bibliothèque fasse deux choses à la fois (comme écrire des poèmes et résoudre des problèmes de mathématiques), vous devez généralement entraîner une toute nouvelle carte d'instruction à partir de zéro pour cette combinaison spécifique. C'est comme devoir rédiger un nouveau manuel à chaque fois que vous souhaitez combiner deux compétences.

Ce papier présente un nouvel outil appelé Vecteurs de Prompt de Tâche. Voici comment cela fonctionne, en utilisant des analogies simples :

1. L'analogie de la « Direction »

Imaginez la carte d'instruction de la bibliothèque comme une aiguille de boussole pointant dans une direction spécifique.

Départ aléatoire : Lorsque vous obtenez une carte d'instruction vierge, l'aiguille pointe dans une direction aléatoire (comme une boussole qui tourne frénétiquement).
Entraînement : Lorsque vous entraînez la carte pour résoudre des « Problèmes de Mathématiques », vous poussez doucement cette aiguille jusqu'à ce qu'elle pointe fermement vers « Mathématiques ».
Le Vecteur : Le papier définit un Vecteur de Prompt de Tâche comme simplement la différence entre l'endroit où l'aiguille a commencé (aléatoire) et l'endroit où elle a fini (Mathématiques). Ce n'est pas la position finale ; c'est le mouvement ou la poussée nécessaire pour y parvenir.

2. La magie de l'« Arithmétique »

La découverte la plus excitante du papier est que vous pouvez faire des mathématiques avec ces « poussées ».

Imaginez que vous avez une « Poussée Mathématiques » et une « Poussée Poème ».
Au lieu d'entraîner une nouvelle carte à partir de zéro, vous pouvez simplement additionner la « Poussée Mathématiques » et la « Poussée Poème » ensemble.
Le résultat est une nouvelle carte d'instruction qui pointe dans une direction capable de gérer à la fois les mathématiques et la poésie.

C'est comme avoir deux recettes différentes pour un gâteau. Au lieu de cuire un tout nouveau gâteau pour combiner les saveurs chocolat et vanille, vous mélangez simplement l'« arôme chocolat » et l'« arôme vanille » ensemble et les ajoutez à une nouvelle pâte.

3. Pourquoi c'est important

Les auteurs ont testé cette idée sur 19 tâches différentes (comme la compréhension de phrases, la classification de sujets et la résolution de problèmes mathématiques). Ils ont découvert trois points clés :

Le point de départ n'a pas d'importance : Habituellement, si vous démarrez une boussole à un endroit aléatoire différent, elle pourrait finir par pointer légèrement différemment. Mais le papier montre que ces « Vecteurs de Prompt de Tâche » sont si robustes que cela n'a pas d'importance quel point de départ aléatoire vous utilisez. La « poussée » est la même. Cela signifie que vous pouvez prendre une « Poussée Mathématiques » créée par une personne et l'appliquer à la carte vierge d'une autre personne, et cela fonctionnera toujours.
Les tâches similaires se mélangent bien : Si vous ajoutez une « Poussée Mathématiques » à une « Poussée Sciences », cela fonctionne très bien car elles sont similaires. Si vous essayez d'ajouter une « Poussée Mathématiques » à une « Poussée Cuisine », cela pourrait devenir désordonné. Le papier montre que les vecteurs reflètent naturellement la similarité des tâches.
Cela économise du temps et de l'argent : Parce que vous pouvez simplement « additionner » ces vecteurs préfabriqués ensemble, vous n'avez pas besoin de réentraîner le modèle à partir de zéro. Cela est particulièrement utile lorsque vous avez très peu de données (comme avoir seulement 5 exemples d'une tâche au lieu de milliers). Dans ces situations « à ressources limitées », l'utilisation de ces vecteurs pré-mélangés fonctionne souvent mieux que les autres méthodes actuelles.

Résumé

Le papier propose une méthode pour traiter les instructions d'IA comme des blocs de construction. Au lieu de construire une nouvelle maison à chaque fois que vous voulez une pièce différente, vous créez des « plans » (vecteurs) pour des pièces spécifiques. Vous pouvez ensuite assembler ces plans pour créer une maison avec plusieurs pièces instantanément, sans avoir besoin d'embaucher une nouvelle équipe de construction (réentraîner le modèle).

Les auteurs appellent cela Vecteurs de Prompt de Tâche, et ils montrent que cela rend l'IA plus flexible, plus efficace et plus facile à combiner pour plusieurs tâches à la fois.

Résumé Technique : Vecteurs de Prompt de Tâche

Énoncé du Problème

L'ajustement de prompt (prompt tuning) est une méthode de fine-tuning efficace en paramètres (PEFT) pour les grands modèles de langage (LLM), où seul un petit ensemble de poids de prompt continu et souple est entraîné, tandis que le modèle pré-entraîné reste figé. Cependant, les méthodes existantes basées sur les prompts souples manquent souvent de modularité multi-tâches suffisante. Typiquement, l'entraînement d'un prompt souple pour une nouvelle tâche nécessite un processus de réentraînement complet ou partiel, et la combinaison de prompts pour plusieurs tâches dégrade souvent les performances ou nécessite un fine-tuning supplémentaire. Bien que les « vecteurs de tâche » (opérations arithmétiques sur les poids complets du modèle) aient montré des promesses en vision par ordinateur et dans les anciens modèles de TALN pour atteindre des performances multi-tâches, ce concept n'a pas été étendu efficacement au domaine de l'ajustement basé sur les prompts souples. De plus, les méthodes existantes d'interpolation de poids PEFT dépendent souvent fortement d'initialisations aléatoires spécifiques, limitant leur réutilisabilité.

Méthodologie

Les auteurs introduisent les Vecteurs de Prompt de Tâche (TPV), un concept novateur qui adapte les principes de l'arithmétique des vecteurs de tâche à l'espace des prompts souples.

Définition

Un vecteur de prompt de tâche ( $\tau_{P}^{t}$ ) est défini comme la différence élément par élément entre les poids d'un prompt souple après fine-tuning sur une tâche spécifique ( $\theta_{P_{ft}}^{t}$ ) et son initialisation aléatoire ( $\theta_{P_{pre}}$ ) :
$\tau_{P}^{t} = \theta_{P_{ft}}^{t} - \theta_{P_{pre}}$
Ce vecteur représente une direction dans l'espace d'embedding qui déplace le prompt d'un état aléatoire vers un sous-espace spécifique à la tâche.

Opérations Arithmétiques

Le mécanisme central implique l'arithmétique des prompts, spécifiquement l'addition de vecteurs de prompt de tâche pour combiner les connaissances de différentes tâches :
$\tau_{P_{new}} = \tau_{P_{a}} + \tau_{P_{b}}$
Ce vecteur combiné peut être appliqué à une nouvelle initialisation de prompt souple ( $\theta_{P}$ ) pour l'initialiser pour une tâche cible sans entraînement supplémentaire :
$\theta_{P_{new}} = \theta_{P} + \lambda \tau_{P_{new}}$
où $\lambda$ est un facteur de redimensionnement.

Configuration Expérimentale

Les auteurs ont évalué les TPV sur 19 jeux de données couvrant 8 types de tâches (incluant NLI, classification de sujets, analyse de sentiments et résolution de problèmes mathématiques) en utilisant les modèles T5-base, LLaMa-3.1-8B-Instruct et DeepSeek-LLM-7B-Chat. Les objectifs expérimentaux clés comprenaient :

Indépendance de l'initialisation : Tester si les TPV fonctionnent indépendamment de l'initialisation aléatoire du prompt souple cible.
Similarité Vectorielle : Analyser les similarités cosinus entre les vecteurs issus de tâches liées et non liées.
Transfert Multi-tâches : Évaluer les performances des vecteurs combinés sur les tâches sources et en tant qu'initialisations pour l'apprentissage zero-shot et few-shot sur les tâches cibles.

Contributions et Résultats Clés

1. Indépendance de l'Initialisation Aléatoire

L'étude démontre que les vecteurs de prompt de tâche sont largement indépendants de l'initialisation aléatoire du prompt souple. Lorsqu'un TPV entraîné sur une initialisation aléatoire est appliqué à une initialisation aléatoire différente, les performances en aval restent comparables à la configuration originale pour la majorité des tâches. Cette propriété est cruciale car elle permet de partager et de réutiliser les TPV à travers différentes exécutions d'entraînement sans nécessiter la même graine.

2. Modularité des Tâches et Arithmétique Vectorielle

Les auteurs montrent que l'ajout de vecteurs de prompt de tâche provenant de tâches similaires (par exemple, MNLI + RTE) maintient ou améliore légèrement les performances en tâche unique sur les deux tâches. Cela suggère que les TPV peuvent encoder efficacement des connaissances spécifiques à la tâche de manière modulaire. Il a été constaté que la similarité cosinus des TPV était un meilleur prédicteur de transférabilité que la similarité des prompts de tâche bruts eux-mêmes.

3. Initialisation à Faibles Ressources

Dans les configurations zero-shot et few-shot (0–100 shots), l'initialisation de l'ajustement de prompt avec une combinaison de TPV pré-entraînés surpasse souvent ou égale les bases de référence de l'état de l'art comme SPoT (Soft Prompt Transfer) et ATTEMPT. Plus précisément :

Les combinaisons TPV ont mieux performé que les prompts sources en tâche unique sur SciTail et IMDB.
Elles ont égalé les performances de SPoT sur AG News et Yahoo Answers.
Elles ont considérablement surpassé ATTEMPT dans plusieurs scénarios, en particulier lorsque le nombre de prompts sources pré-entraînés était limité.

4. Comparaison avec les Méthodes Existantes

Contrairement à SPoT, qui nécessite de réentraîner le prompt source lorsque l'ensemble des tâches sources change, et à ATTEMPT, qui dépend fortement de la qualité et de la quantité des prompts sources, les TPV offrent une modularité élevée et une indépendance vis-à-vis des prompts sources. Cela permet la création d'un « hub vectoriel » où les vecteurs pré-entraînés peuvent être réutilisés pour de nouvelles tâches sans entraînement supplémentaire.

Importance et Revendications

L'article revendique que les Vecteurs de Prompt de Tâche fournissent une alternative computationnellement efficace aux solutions multi-tâches de l'état de l'art. En exploitant de simples opérations arithmétiques sur des vecteurs pré-entraînés, la méthode atteint une haute modularité multi-tâches sans le coût computationnel du réentraînement.

Les auteurs posent l'hypothèse que le succès de cette méthode suggère que le sous-espace optimal pour les prompts souples pourrait avoir une forme convexe, permettant aux approximations linéaires (addition vectorielle) de fonctionner efficacement même dans des espaces non linéaires. De plus, l'indépendance vis-à-vis de l'initialisation aléatoire permet le potentiel d'un dépôt communautaire de vecteurs de tâche.

Limitations notées par les auteurs :

Les expériences ont été menées principalement sur des modèles et des jeux de données monolingues (anglais).
L'étude s'est concentrée sur T5-base comme modèle représentatif, bien que les résultats aient été validés sur des modèles LLaMa et DeepSeek plus grands.
L'analyse théorique des propriétés géométriques de l'espace des prompts souples est laissée pour un travail futur.
La méthode se concentre actuellement sur les tâches NLU et NLG mais n'a pas été testée de manière extensive dans des contextes multilingues.

En conclusion, ce travail établit que les vecteurs de prompt de tâche peuvent être utilisés pour initialiser efficacement l'ajustement de prompt dans des contextes à faibles ressources, offrant une approche robuste, modulaire et sans entraînement pour l'adaptation multi-tâches.