Coupled-NeuralHP: Directional Temporal Coupling Between AI Innovation Exposure and Public Response

L'article présente Coupled-NeuralHP, un modèle hybride événement-plus-état qui capture efficacement le couplage temporel directionnel de l'exposition à l'innovation en intelligence artificielle vers la réponse du public, surpassant les références traditionnelles dans la prévision des nombres d'innovations et la récupération des liens causaux lors de tests semi-synthétiques, tout en ne trouvant aucune preuve de ruptures de régime en 2022.

L'essentiel

La Vue d'Ensemble : Deux Horloges Différentes

Imaginez deux personnes essayant de danser ensemble, mais elles portent des montres différentes.

• Personne A (Innovation) : C'est le monde des brevets d'IA. Ils dansent sur un rythme chaotique et irrégulier. Parfois, ils sautent trois fois en une minute ; parfois, ils restent immobiles pendant des semaines. C'est le "flux d'événements" des nouvelles inventions.
• Personne B (Réaction du Public) : C'est le grand public, mesuré par la fréquence à laquelle ils recherchent "IA" sur Google. Ils dansent sur un rythme mensuel régulier. Tous les 30 jours, nous prenons une photo de leur humeur.

Pendant longtemps, les scientifiques ont étudié ces deux danseurs séparément. Les économistes regardaient les brevets, et les sociologues regardaient les tendances de recherche. Ils se demandaient rarement : Est-ce que le saut chaotique de l'inventeur fait réellement danser le public différemment ? Et est-ce que la danse du public fait sauter l'inventeur davantage ?

Ce papier construit une nouvelle "piste de danse" (un modèle informatique) pour voir s'ils sont réellement connectés, et si oui, dans quelle direction.

Le Modèle : Un Partenaire de Danse Hybride

Les auteurs ont créé un modèle appelé Coupled-NeuralHP. Imaginez-le comme un traducteur intelligent qui tente de prédire les prochaines étapes des deux danseurs en se basant sur leur histoire.

1. Le Flux de Brevets (L'Inventeur) : Le modèle traite les nouveaux brevets d'IA comme des gouttes de pluie tombant sur un toit. Elles tombent à des moments aléatoires. Le modèle utilise un outil mathématique spécial (un processus de Hawkes) pour prédire quand la prochaine "goutte" va frapper, en fonction du nombre de gouttes tombées récemment.
2. L'Humeur du Public (Le Danseur) : Le modèle traite l'intérêt du public (recherches Google) comme une rivière qui coule doucement. Il utilise un modèle "d'espace d'état" pour suivre comment le niveau de la rivière change mois après mois.
3. La Connexion (Les Portes) : La partie la plus importante est les "portes" entre eux. Le modèle demande : Si l'inventeur saute (un nouveau brevet), est-ce que le public commence à danser (les recherches augmentent) ? Et inversement, Si le public danse, est-ce que l'inventeur saute plus vite ?

Le modèle utilise des "portes intelligentes" qui peuvent s'ouvrir ou se fermer. Si les données ne montrent aucune connexion, la porte reste fermée. S'il existe un lien fort, la porte s'ouvre.

Ce Qu'ils Ont Trouvé : La "Rue à Sens Unique"

Après avoir fait tourner le modèle sur dix ans de données (2014–2023), les résultats étaient étonnamment précis :

• La Bonne Nouvelle (Invention → Public) : Le modèle a trouvé une rue à sens unique claire. Lorsque de nouveaux brevets d'IA sont publiés (en particulier dans des domaines comme la parole, le langage naturel et le matériel), le public commence effectivement à rechercher davantage l'IA. Le modèle est devenu très bon pour prédire le nombre de futurs brevets en se basant sur cette connexion.
• La Mauvaise Nouvelle (Public → Invention) : Le modèle a essayé de voir si l'intérêt du public poussait les inventeurs. Il n'a trouvé aucune preuve de cela. Même si le public cherche frénétiquement, cela ne semble pas amener les inventeurs à déposer plus de brevets immédiatement. Lorsque les chercheurs ont forcé le modèle à croire que cette connexion existait, les prédictions sont en fait devenues pires.
• La "Tête" vs Le "Cœur" : Le modèle a deux parties pour prédire l'intérêt du public. L'une est le "cœur" (la connexion profonde et cachée aux brevets), et l'autre est la "tête" (un simple calculateur qui examine les tendances passées de recherche et le nombre de brevets). L'étude a révélé que c'est la "tête" (le simple calculateur) qui faisait presque tout le travail pour prédire l'humeur du public. La connexion profonde et cachée était utile pour comprendre la structure, mais le simple calculateur était meilleur pour faire des prédictions précises.

Le Test du "Jalon" : Les Grands Événements Ont-ils Changé la Danse ?

Les chercheurs se sont demandé si des moments majeurs de l'IA — comme la sortie de ChatGPT ou DALL-E 2 — avaient soudainement changé la façon dont les deux danseurs interagissaient. Est-ce que les règles de la danse ont changé ces jours précis ?

Ils ont testé cela en cherchant des "ruptures de régime" (des changements soudains dans le motif).

• Le Résultat : Non. Les données ont montré que la relation entre les brevets et l'intérêt du public n'a pas soudainement changé le jour du lancement de ChatGPT. La danse a continué au même rythme. Les plus grands changements étaient progressifs, pas soudains.

Le Test des "Données Fictives" : Peut-elle Trouver la Vérité ?

Pour s'assurer que leur modèle ne faisait pas que deviner, ils ont créé 60 "mondes fictifs" (expériences semi-synthétiques) où ils connaissaient la vérité exacte : Nous avons planté une connexion ici.

• Le Résultat : Le modèle Coupled-NeuralHP était excellent pour trouver ces connexions plantées (obtenant un score de 0,73 sur 1,0). Un modèle standard, plus ancien (VARX), n'a obtenu que 0,38. Cela prouve que le modèle est réellement bon pour détecter les liens directionnels réels, même si les données du monde réel sont désordonnées.

Résumé des Revendications

• Ce qui fonctionne : Le modèle prédit avec succès le nombre futur de brevets mieux que les méthodes précédentes en utilisant les tendances de recherche du public comme indice.
• Ce qui ne fonctionne pas : Il n'y a aucune preuve forte que les tendances de recherche du public provoquent un pic immédiat dans les dépôts de brevets.
• Ce qui les a surpris : Les plus grands jalons de l'IA (comme ChatGPT) n'ont pas provoqué de rupture soudaine et mesurable dans la façon dont les brevets et les recherches sont liés entre eux.
• La limitation : Le modèle prédit l'"attention" (recherches), pas les "attitudes" profondes (ce que les gens pensent ou croient réellement).

En bref, le papier dit : Les nouvelles inventions d'IA font que le public prête attention, mais l'attention du public ne semble pas faire travailler les inventeurs plus vite immédiatement. La relation est une rue à sens unique, et elle coule de manière régulière, non par saccades soudaines.

Résumé technique

Résumé Technique : Coupled-NeuralHP

Énoncé du Problème
L'article aborde une fragmentation dans l'étude empirique des dynamiques de l'Intelligence Artificielle (IA). L'innovation (publications de brevets) et la réponse publique (comportement de recherche, attitudes) co-évoluent mais opèrent à des résolutions temporelles différentes : l'innovation arrive sous forme de flux d'événements irréguliers en temps continu, tandis que la réponse publique est généralement observée sous forme de données mensuelles agrégées et discrètes. La littérature existante traite ces processus de manière isolée ; les modèles d'économie de l'innovation modélisent les flux de brevets à l'aide de processus ponctuels sans tenir compte du sentiment public, tandis que la recherche sur l'opinion publique analyse les données de recherche ou d'enquête sans modéliser la dynamique sous-jacente des événements d'innovation. De plus, les méthodes existantes de couplage directionnel (par exemple, causalité de Granger, apprentissage Hawkes parcimonieux) supposent des résolutions temporelles partagées, échouant à relier un processus ponctuel en temps continu à une série temporelle agrégée distincte dans un cadre conjoint et apprenable.

Méthodologie : Coupled-NeuralHP
Les auteurs proposent Coupled-NeuralHP, une famille de modèles hybrides événement-plus-état conçue pour relier les événements d'innovation en IA en temps continu aux signaux de réponse publique en temps discret. L'architecture se compose de cinq composants clés entraînés de bout en bout via un objectif variationnel conjoint :

1. Processus Hawkes d'Innovation : Les publications de brevets IA dans huit domaines technologiques (par exemple, apprentissage automatique, TALN, vision) sont modélisées comme un processus ponctuel multivarié marqué. L'intensité conditionnelle pour chaque domaine comprend une intensité de base, des termes d'auto-excitation et de croisée-excitation (via des noyaux à décroissance exponentielle), et un terme de couplage provenant de l'état latent de réponse publique.
2. Modèle d'État-Espace de Réponse Latente : La réponse publique est modélisée comme un processus d'état-espace mensuel latent. La transition d'état intègre la persistance, une matrice de couplage parcimonieuse provenant des caractéristiques d'innovation décalées (innovation vers réponse), et des covariables de jalons optionnelles. La réponse observée est une projection linéaire de cet état latent.
3. Portes de Couplage Directionnel Parcimonieux : L'interaction entre les deux processus est contrôlée par des portes à béton dur (hard-concrete gates). Ces portes apprennent à parcimoniser les matrices de couplage, permettant au modèle de déterminer l'existence et la direction des liens (Innovation $\to$ Réponse vs Réponse $\to$ Innovation) tout en imposant des pénalités de parcimonie.
4. Tête de Prévision de Réponse Structurée : Pour assurer une prédiction robuste, le modèle inclut une tête de prévision séparée qui prédit la réponse du mois suivant directement à partir de caractéristiques observables (réponse décalée, comptages de brevets décalés compressés par PCA, et indicateurs calendaires). Cette tête opère indépendamment du chemin de couplage latent pour fournir des prévisions interprétables et de haute qualité.
5. Protocole de Réponse Entraînement-Seulement : Pour prévenir le biais de regard futur, toutes les statistiques de normalisation et les projections PCA pour le canal de réponse sont ajustées strictement sur la fenêtre d'entraînement (mois précédant l'évaluation) et appliquées aux ensembles de validation et de test.

Le modèle est optimisé via un objectif variationnel conjoint qui maximise la reconstruction du flux d'événements, la reconstruction du signal de réponse et la dynamique des états latents, tout en pénalisant la densité des portes de couplage.

Contributions et Résultats Clés
L'article évalue le modèle contre quatre questions de recherche en utilisant un panel de dix ans (2014–2023) de données de brevets IA de l'USPTO et d'indices Google Trends.

• Couplage Prédictif (RQ1) : Sous un protocole strict de réponse entraînement-seulement, la variante unidirectionnelle sélectionnée (Innovation $\to$ Réponse uniquement) atteint les meilleures prévisions de comptage d'innovation retenues dans l'ensemble de comparaison, surpassant une base Hawkes auto-excitante (Vraisemblance logarithmique pseudo : $-30,4$ contre $-34,7$ ; RMSE : $471$ contre $532$). Du côté de la réponse, le modèle couplé correspond aux performances d'une forte base de famille de facteurs multi-décalages (ARX) avec un RMSE de $0,295$, plutôt que de la surpasser.
• Structure Stable et Parcimonieuse (RQ2) : La structure de couplage apprise est robuste et parcimonieuse. À travers différentes graines aléatoires, seuils de classification et fenêtres temporelles glissantes, le modèle sélectionne de manière cohérente une structure unidirectionnelle où l'innovation pilote la réponse (densité $\approx 0,5$), tandis que la direction inverse (Réponse $\to$ Innovation) reste inactive (densité $0,0$). Des domaines spécifiques (TALN, parole, matériel) sont systématiquement sélectionnés comme moteurs.
• Changements de Régime (RQ3) : Une analyse contrôlée par placebo des grands jalons de l'IA de 2022 (par exemple, ChatGPT, DALL-E 2) ne trouve aucune preuve robuste de ruptures structurelles dans les dynamiques couplées. Les mois de jalons ne surpassent pas statistiquement les mois placebo en termes de gains d'ajustement du modèle.
• Récupération Directionnelle (RQ4) : Dans 60 répliques semi-synthétiques avec un couplage de vérité terrain connu, Coupled-NeuralHP surpasse significativement les bases linéaires (VARX) dans la récupération de la structure innovation-vers-réponse (F1 : $0,734$ contre $0,386$).

Insights de l'Ablation
Les auteurs identifient que la tête de prévision de réponse structurée est le principal moteur de la qualité de la prédiction du côté de la réponse. Le retrait de cette tête dégrade significativement le RMSE de la réponse ($+0,153$), tandis que le chemin de couplage d'état latent contribue davantage à l'interprétation structurelle et à la récupération semi-synthétique qu'à la performance de prévision retenue. À l'inverse, forcer le canal inverse (Réponse $\to$ Innovation) dégrade la prévision du comptage d'innovation, confirmant que les données ne soutiennent pas une boucle de rétroaction des tendances de recherche agrégées vers les taux de publication de brevets dans ce contexte.

Signification et Revendications
L'article revendique une contribution « plus étroite et plus propre » qu'un récit large de co-évolution bidirectionnelle. Sa signification principale réside dans :

1. Intégration Méthodologique : Le couplage réussi d'un processus ponctuel en temps continu avec un modèle d'état-espace en temps discret via des portes directionnelles apprenables et parcimonieuses.
2. Validation Empirique : La démonstration qu'un couplage unidirectionnel (Innovation $\to$ Réponse) produit une prévision d'innovation supérieure tout en maintenant la parité avec des bases fortes pour la prédiction de réponse.
3. Récupération Structurelle : La preuve de la capacité de l'architecture à récupérer des liens directionnels de vérité terrain dans des expériences contrôlées où les bases linéaires échouent.
4. Résultats Négatifs Honnêtes : L'annonce explicite que les données ne soutiennent pas un lien causal inverse (Réponse $\to$ Innovation) dans des contextes réels et que les grands jalons de l'IA n'induisent pas de ruptures structurelles détectables dans les dynamiques observées.

Les auteurs concluent que le cadre est efficace pour modéliser comment l'exposition à l'innovation stimule l'attention publique, mais ils mettent en garde que les résultats du côté de la réponse représentent une parité avec des bases fortes plutôt qu'une supériorité unique, et que la direction inverse reste non soutenue par les preuves de données réelles nettoyées.