🤖 AI

CreativityNeuro: Steering Language Model Weights to Improve Divergent Thinking and Reduce Mode Collapse

Le document présente CreativityNeuro, une méthode sans données qui oriente les poids des modèles de langage pour améliorer considérablement la pensée divergente et réduire l'effondrement de mode à travers diverses tâches de créativité, sans nécessment de réentraînement ni de données comportementales.

Auteurs originaux : Samuel Schapiro, Core Francisco Park, Felix Sosa, Lav R. Varshney

Publié 2026-07-03

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Samuel Schapiro, Core Francisco Park, Felix Sosa, Lav R. Varshney

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un grand modèle de langage (comme ceux qui alimentent les chatbots) comme un chef cuisinier super intelligent mais très prévisible. Ce chef a lu presque toutes les recettes du monde. Quand vous lui demandez de « créer quelque chose de créatif », il se contente souvent de servir les mêmes quelques plats populaires encore et encore. Il s'enferme dans une boucle, vous servant de la « pizza » quand vous avez demandé « quelque chose de nouveau », ou des « pâtes » quand vous vouliez une surprise. Dans l'article, les auteurs appellent cela l'« effet d'esprit de ruche artificiel » — tout le monde (ou chaque IA) pensant exactement la même chose.

L'article présente un nouvel outil appelé CreativityNeuro pour corriger cela. Voici comment il fonctionne, en utilisant des analogies simples :

1. Le Problème : La « zone de confort » du Chef

Lorsque l'IA essaie d'être créative, elle a tendance à retomber sur ses réponses les plus communes et les plus sûres. C'est comme un musicien de jazz qui ne connaît que trois notes parce qu'elles sont les plus familières. L'article appelle cela l'« effondrement de mode » (mode collapse). L'IA cesse d'explorer de nouvelles idées et répète simplement les mêmes schémas.

2. La Solution : Le « Pilotage par Poids » (La chirurgie cérébrale)

Les auteurs n'ont pas appris de nouvelles recettes à l'IA (ce qui nécessiterait de lui fournir des milliers de nouveaux exemples). À la place, ils ont effectué une « chirurgie » minuscule et précise sur le cerveau de l'IA (ses poids mathématiques internes).

Le Test de Contraste : Ils ont donné à l'IA deux types d'instructions :
- Prompts Créatifs : « Écris une histoire qui te fait remettre en question la réalité » ou « Surprends-moi ».
- Prompts Ennuyeux : « Écris une histoire standard » ou « Sois précis ».
Trouver l'« Interrupteur de Créativité » : En comparant la façon dont le cerveau de l'IA réagissait à ces deux types de prompts, le système a identifié des interrupteurs spécifiques (poids mathématiques) qui ne s'allumaient que lorsque l'IA était créative, et restaient éteints lorsqu'elle était ennuyeuse.
Augmenter le Volume : Ils ont trouvé ces interrupteurs spécifiques et ont augmenté légèrement leur volume (par un facteur d'échelle). C'est comme trouver les boutons spécifiques sur une console de mixage qui contrôlent « l'imagination » et les tourner d'un cran, sans changer le reste de la musique.

3. Les Résultats : Penser hors de la boîte

Ils ont testé cela sur trois différents « jeux de créativité » :

Le jeu des « Mots sans rapport » (DAT) : L'IA devait lister 10 mots qui n'avaient aucun rapport entre eux.
- Avant : L'IA listait des mots comme « chat, chien, oiseau, poisson... » (tous des animaux).
- Après CreativityNeuro : L'IA listait des mots comme « grille-pain, galaxie, murmure, volcan... » (beaucoup plus dispersés).
- Résultat : Les réponses de l'IA ont bondi de 14 points de percentile par rapport aux humains normaux. Elle est devenue nettement plus diversifiée.
Le jeu des « Nouvelles utilisations » (AUT) : L'IA devait imaginer des utilisations étranges pour une brique ou un trombone.
- Résultat : Des juges humains ont estimé que les nouvelles idées de l'IA étaient plus originales, plus surprenantes et plus créatives qu'auparavant.
Le jeu du « Jeu télévisé » (Task Task) : L'IA devait inventer un défi amusant et loufoque pour un jeu télévisé.
- Résultat : Encore une fois, les idées ont été jugées plus créatives et originales par les humains.

4. Pourquoi c'est spécial

Aucune nouvelle donnée nécessaire : Contra à d'autres méthodes qui nécessitent de nourrir l'IA avec des milliers de « bons » exemples pour qu'elle apprenne, cette méthode utilise zéro nouvelle donnée. Elle se contente de modifier le cerveau existant.
Pas de réentraînement : Ils n'ont pas eu besoin de réapprendre à l'IA à partir de zéro. Ils ont simplement ajusté les réglages.
Cela se généralise : L'article a constaté que cette méthode fonctionnait même sur des jeux que l'IA n'avait jamais vus auparavant. C'est comme accorder le moteur d'une voiture pour qu'elle roule mieux sur n'importe quelle route, et pas seulement sur la route spécifique sur laquelle elle a été testée.

5. Le revers de la médaille : Créativité vs Faits

L'article a également découvert quelque chose d'intéressant : la créativité et le raisonnement factuel sont entremêlés.

Lorsque nous avons augmenté le volume de la « créativité », la capacité de l'IA à répondre à des questions factuelles (comme les mathématiques ou l'histoire) a légèrement diminué.
C'est comme si la même partie du cerveau qui vous aide à vous souvenir des faits est aussi celle qui vous aide à imaginer de nouvelles choses. On ne peut pas facilement booster l'un sans affecter légèrement l'autre. L'article suggère que pour obtenir les meilleurs résultats, il pourrait être nécessaire d'utiliser différents « modes » pour différentes tâches (un mode pour les faits, un autre pour la créativité).

Résumé

CreativityNeuro est un moyen de pousser les réglages internes d'une IA pour la sortir de ses habitudes répétitives. En identifiant et en amplifiant les parties spécifiques de l'IA qui gèrent la « pensée hors de la boîte », les auteurs ont permis à l'IA de générer des idées plus diverses, surprenantes et originales sans avoir besoin de la réentraîner ou de lui fournir de nouvelles données. C'est comme donner une légère poussée à l'IA pour qu'elle arrête de jouer la sécurité et commence à prendre des risques.

Résumé Technique : CreativityNeuro

Énoncé du Problème

Les grands modèles de langage (LLM) présentent un phénomène qualifié d'« effet d'essaim artificiel », où ils génèrent systématiquement des réponses similaires et homogénéisées à des questions ouvertes. Ce comportement limite leur capacité de pensée divergente — la capacité de générer de multiples solutions diverses à un problème — qui est une composante cruciale de la créativité. Les méthodes existantes pour améliorer la créativité, telles que le prompting, le réglage des paramètres de décodage (ex. température) ou le pilotage par activation (activation steering), nécessitent souvent des ensembles de données comportementales, un ajustement fin basé sur le gradient, ou échouent à se généraliser à différentes tâches créatives. De plus, il existe un manque de compréhension quant à savoir si les comportements créatifs sont séparables du raisonnement factuel au sein de l'espace des poids du modèle.

Méthodologie : CreativityNeuro

Les auteurs introduisent CreativityNeuro (CN), une méthode sans données (data-free) pour piloter les poids des LLM afin d'amplifier la pensée divergente. Contrairement aux approches précédentes qui reposent sur des données comportementales ou des mises à jour de gradients, CN opère en identifiant et en mettant à l'échelle des paramètres spécifiques dans l'espace des poids du modèle à partir d'ensembles de prompts contrastifs.

Algorithme Central

La méthode suit un processus en trois étapes (détaillé dans l'Algorithme 1) :

Ensembles de Prompts Contrastifs : Au lieu de s'appuyer sur des ensembles de données structurés (comme MATH pour le raisonnement), CN utilise six ensembles de prompts contrastifs ( $P_{cre}$ vs. $P_{non-cre}$ ) couvrant des styles tels que la narration, l'idéation et les instructions minimales (ex. « Surprenez-moi » vs « Soyez précis »).
Score d'Importance des Paramètres : En utilisant un mécanisme de scoring de type Wanda, la méthode calcule les scores d'importance ( $S_{\ell,ij}$ ) pour les poids dans chaque couche $\ell$ . Le score est le produit de la magnitude du poids et de la norme d'activation, sommé sur les tokens des ensembles de prompts :
$S_{\ell,ij} = \sum_{b,t} |W_{\ell,ij}| \cdot \|x^{(b,t)}_{\ell,j}\|^2$
Les scores sont calculés séparément pour les prompts créatifs ( $P_{cre}$ ) et non créatifs ( $P_{non-cre}$ ).
Sélection et Mise à l'Échelle des Poids : La méthode isole les paramètres spécifiques à la créativité en sélectionnant les $\rho$ pourcent supérieurs de poids classés par importance créative qui n'apparaissent pas dans les $\rho$ pourcent supérieurs pour les prompts non créatifs ( $C_\ell \setminus N_\ell$ ). Ces poids sélectionnés sont ensuite mis à l'échelle par un facteur $(1 + \alpha)$ lors de l'inférence.

Cette approche ne nécessite aucune génération comportementale, aucun score de réponse, ni aucun exemple étiqueté, ce qui la rend entièrement exempte de données.

Principales Contributions

Le document présente cinq contributions primaires :

Pilotage Sans Données : Introduction de CreativityNeuro, une méthode pour piloter le comportement créatif sans ensembles de données comportementales ni réentraînement.
Amélioration de la Tâche d'Association Divergente (DAT) : Démonstration que CN améliore significativement les scores DAT, surpassant les bases de référence incluant le prompting, les variations de paramètres d'échantillonnage et le pilotage par activation.
Généralisation à des Tâches Complexes : Validation via une évaluation humaine à grande échelle ( $N=720$ ) sur l'Alternative Uses Test (AUT) et le Task Task (TT), montrant des améliorations de l'originalité, de la surprise et de la créativité.
Réduction de l'Effondrement de Mode : Preuve que CN réduit l'effondrement de mode au niveau des mots (DAT) et au niveau des réponses (AUT/TT).
Intrication de l'Espace des Poids : Découverte que la pensée divergente et le raisonnement factuel ne sont pas séparables dans l'espace des poids ; les tentatives d'isoler ces deux domaines dégradent les performances dans les deux domaines.

Résultats Expérimentaux

1. Tâche d'Association Divergente (DAT)

Évalué sur six modèles ajustés par instruction (familles Phi, Llama, Qwen, allant de 3B à 14B de paramètres) :

Performance : CN a amélioré la performance DAT jusqu'à 14 points de percentile humain.
Comparaison : CN a atteint un percentile humain moyen de 94,1, surpassant légèrement le pilotage par activation (93,9) et surpassant nettement les bases de référence de prompting et d'échantillonnage.
Efficacité des Données : Contrairement au pilotage par activation, qui nécessite des données comportementales scorées pour construire des vecteurs de pilotage, CN a obtenu des résultats supérieurs en utilisant uniquement des paires de prompts.

2. Alternative Uses Test (AUT) et Task Task (TT)

Une évaluation humaine à grande échelle ( $N=720$ ) a évalué l'originalité, la surprise, l'utilité et la créativité :

AUT : CN a obtenu des effets positivement uniformes sur l'originalité (moyenne de Cohen's $d = +0,36$ ) et la surprise ( $d = +0,43$ ).
TT : CN a montré de forts gains en originalité ( $d = +0,40$ ) et des améliorations modérées en créativité ( $d = +0,24$ ).
Généralisation : Bien que le pilotage par activation soit comparable à CN sur la DAT, il a échoué à se généraliser à l'AUT et au TT. Cela souligne la supériorité du pilotage dans l'espace des poids par rapport au pilotage par activation pour des tâches créatives complexes non vues.
Compromis : CN a réduit les scores d'utilité sur l'AUT, une conséquence prévisible du compromis nouveauté-utilité inhérent à la génération créative.

3. Effondrement de Mode (Mode Collapse)

DAT : CN a réduit la masse de probabilité sur les 10 mots les plus fréquents de 10,2 points de pourcentage et a augmenté l'entropie du vocabulaire de 10 %.
AUT/TT : CN a réduit la répétition intra-modèle et l'homogénéité inter-modèles, démontrant une réduction de l'effondrement de mode sémantique à travers les réponses de longueur phrase et paragraphe.

4. Séparabilité de la Pensée Divergente et du Raisonnement Factuel

Les auteurs ont étudié si les poids créatifs pouvaient être isolés des poids du raisonnement factuel (testé sur le benchmark MMLU) :

Résultat : La pensée divergente et le raisonnement factuel sont fonctionnellement intriqués dans l'espace des poids.
Preuve : Les tentatives de protéger la performance MMLU en excluant les poids liés à MMLU du masque créatif ont entraîné une dégradation supplémentaire des scores MMLU, malgré la réduction de la taille du masque. Cela suggère que les paramètres pilotant la créativité sont profondément entrelacés avec ceux qui pilotent l'exactitude factuelle.

Signification et Revendications

L'article affirme que CreativityNeuro fournit un mécanisme direct et sans données pour améliorer les performances des LLM dans les domaines créatifs. Sa principale importance réside dans :

Généralisation : Prouver que le pilotage dans l'espace des poids se généralise à des tâches créatives non vues (AUT, TT) là où le pilotage par activation échoue.
Efficacité : Atteindre des performances créatives de pointe sans le coût computationnel ou les exigences de données de l'ajustement fin ou de la collecte de jeux de données comportementales.
Aperçu Mécaniste : Offrir la preuve que la créativité et le raisonnement factuel ne sont pas modulairement séparables dans les architectures LLM actuelles, suggérant que l'amélioration de l'un peut intrinsèquement impacter l'autre.

Les auteurs concluent que bien que CN améliore efficacement la pensée divergente et réduise l'homogénéisation, l'intrication des poids créatifs et factuels reste une contrainte architecturale fondamentale que les recherches futures devront aborder, potentiellement via des systèmes multi-agents ou des représentations factorisées unifiées.