Coupled-NeuralHP: Directional Temporal Coupling Between AI Innovation Exposure and Public Response

Het artikel introduceert Coupled-NeuralHP, een hybride model dat gebeurtenissen en toestanden combineert en dat de directionele temporele koppeling van blootstelling aan AI-innovatie tot publieke reactie effectief vastlegt, waarbij het traditionele basismodellen overtreft in het voorspellen van innovatieaantallen en het herstellen van causale verbanden in semi-synthetische tests, terwijl het geen bewijs vindt van regimebreuken in 2022.

De kern

Het Grote Geheel: Twee Verschillende Klokken

Stel je twee mensen voor die proberen samen te dansen, maar ze dragen verschillende horloges.

• Persoon A (Innovatie): Dit is de wereld van AI-patenten. Ze dansen in een chaotisch, onregelmatig ritme. Soms springen ze drie keer in een minuut; soms staan ze wekenlang stil. Dit is de "eventstroom" van nieuwe uitvindingen.
• Persoon B (Publieke Reactie): Dit is het grote publiek, gemeten aan de hand van hoe vaak ze "AI" zoeken op Google. Ze dansen op een stabiel, maandelijks ritme. Elke 30 dagen nemen we een momentopname van hun stemming.

Lange tijd bestudeerden wetenschappers deze twee dansers apart. Economen keken naar de patenten, en sociologen naar de zoektrend. Ze stelden zelden de vraag: Zorgt het chaotische springen van de uitvinder er daadwerkelijk voor dat het publiek anders gaat dansen? En zorgt het dansen van het publiek ervoor dat de uitvinder harder springt?

Dit artikel bouwt een nieuw "dansvloer" (een computermodel) om te zien of ze eigenlijk wel verbonden zijn, en zo ja, in welke richting.

Het Model: Een Hybride Danspartner

De auteurs creëerden een model genaamd Coupled-NeuralHP. Denk hierbij aan een slimme vertaler die probeert de toekomstige stappen van beide dansers te voorspellen op basis van hun geschiedenis.

1. De Patentstroom (De Uitvinder): Het model behandelt nieuwe AI-patenten als regendruppels die op een dak vallen. Ze vallen op willekeurige tijdstippen. Het model gebruikt een speciaal wiskundig hulpmiddel (een Hawkes-proces) om te voorspellen wanneer de volgende "druppel" zal vallen, gebaseerd op hoeveel er recent zijn gevallen.
2. De Publieke Stemming (De Danser): Het model behandelt publieke interesse (Google-zoekopdrachten) als een rivier die rustig stroomt. Het gebruikt een "state-space"-model om bij te houden hoe het waterpeil van de rivier maand na maand verandert.
3. De Verbinding (De Poorten): Het belangrijkste deel zijn de "poorten" tussen hen. Het model vraagt: Als de uitvinder springt (een nieuw patent), begint het publiek dan te dansen (zoekopdrachten gaan omhoog)? En omgekeerd: Als het publiek danst, springt de uitvinder dan sneller?

Het model gebruikt "slimme poorten" die kunnen openen of sluiten. Als de data geen verbinding toont, blijft de poort gesloten. Als er een sterke link is, gaat de poort open.

Wat Ze Vonden: De "Eenrichtingsstraat"

Na het uitvoeren van het model op tien jaar data (2014–2023), waren de resultaten verrassend specifiek:

• Het Goede Nieuws (Uitvinding → Publiek): Het model vond een duidelijke, eenrichtingsstraat. Wanneer nieuwe AI-patenten worden gepubliceerd (vooral in gebieden zoals spraak, natuurlijke taal en hardware), gaat het publiek wel meer zoeken naar AI. Het model werd zeer goed in het voorspellen van het aantal toekomstige patenten op basis van deze verbinding.
• Het Slechte Nieuws (Publiek → Uitvinding): Het model probeerde te zien of publieke interesse uitvinders aanstuurt. Het vond geen bewijs hiervoor. Zelfs als het publiek wanhopig zoekt, lijkt dat uitvinders niet direct ertoe aan te zetten meer patenten in te dienen. Toen de onderzoekers het model dwongen om te geloven dat deze verbinding bestond, werden de voorspellingen juist slechter.
• Het "Hoofd" versus het "Hart": Het model heeft twee delen voor het voorspellen van publieke interesse. Eén deel is het "hart" (de diepe, verborgen connectie met patenten), en het andere is het "hoofd" (een eenvoudige rekenmachine die kijkt naar eerdere zoektrend en patentaantallen). De studie vond dat het "hoofd" (de eenvoudige rekenmachine) bijna al het werk deed bij het voorspellen van de stemming van het publiek. De diepe, verborgen connectie was nuttig voor het begrijpen van de structuur, maar de eenvoudige rekenmachine was beter in het maken van accurate voorspellingen.

De "Mijlpaal"-Test: Veranderden Grote Evenementen de Dans?

De onderzoekers vroegen zich af of grote AI-momenten – zoals de lancering van ChatGPT of DALL-E 2 – plotseling veranderden hoe de twee dansers met elkaar omgaan. Veranderden de regels van de dans op die specifieke dagen?

Ze testten dit door te zoeken naar "regimebreuken" (plotselinge verschuivingen in het patroon).

• Het Resultaat: Nee. De data toonde aan dat de relatie tussen patenten en publieke interesse niet plotseling veranderde op de dag dat ChatGPT werd gelanceerd. De dans ging door op hetzelfde tempo. De grootste verschuivingen waren geleidelijk, niet plotseling.

De "Valse Data"-Test: Kan Het De Waarheid Vinden?

Om zeker te zijn dat hun model niet zomaar gokte, creëerden ze 60 "valse werelden" (semi-synthetische experimenten) waar ze de exacte waarheid kenden: We hebben hier een connectie geplant.

• Het Resultaat: Het Coupled-NeuralHP-model was uitstekend in het vinden van deze geplante connecties (een score van 0,73 op 1,0). Een standaard, ouder model (VARX) scoorde slechts 0,38. Dit bewijst dat het model echt goed is in het detecteren van echte directionele links, zelfs als de realistische data rommelig is.

Samenvatting van Beweringen

• Wat werkt: Het model voorspelt toekomstige patentaantallen succesvoller dan eerdere methoden door publieke zoektrend als aanwijzing te gebruiken.
• Wat niet werkt: Er is geen sterk bewijs dat publieke zoektrend leidt tot een directe piek in patentaanvragen.
• Wat hen verraste: De grootste AI-mijlpalen (zoals ChatGPT) veroorzaakten geen plotselinge, meetbare breuk in hoe patenten en zoekopdrachten met elkaar samenhangen.
• De beperking: Het model voorspelt "aandacht" (zoekopdrachten), niet diepe "houdingen" (wat mensen echt denken of geloven).

Kortom, het artikel zegt: Nieuwe AI-uitvindingen zorgen ervoor dat het publiek aandacht schenkt, maar de aandacht van het publiek lijkt uitvinders niet direct sneller te laten werken. De relatie is een eenrichtingsstraat, en deze stroomt gestaag, niet in plotselinge uitbarstingen.

Technische samenvatting

Technische Samenvatting: Coupled-NeuralHP

Probleemstelling
Het artikel adresseert een fragmentatie in het empirische onderzoek naar de dynamiek van Kunstmatige Intelligentie (KI). Innovatie (octrooipublicaties) en publieke respons (zoekgedrag, attitudes) co-evolueren maar opereren op verschillende temporele resoluties: innovatie arriveert als onregelmatige, continue-tijd gebeurtenisstromen, terwijl publieke respons doorgaans wordt waargenomen als geaggregeerde, discrete-tijd maanddata. Bestaande literatuur behandelt deze processen geïsoleerd; economische innovatiemodellen modelleren octrooistromen met puntprocessen zonder rekening te houden met publieke sentimenten, terwijl opinieonderzoek zoek- of surveydata analyseert zonder de onderliggende dynamiek van innovatiegebeurtenissen te modelleren. Bovendien nemen bestaande methoden voor directionele koppeling (bijv. Granger-causaliteit, sparse Hawkes-learning) gedeelde temporele resoluties aan, en falen ze in het koppelen van een continue-tijd puntproces aan een afzonderlijke geaggregeerde tijdreeks in een gezamenlijk, leerbare raamwerk.

Methodologie: Coupled-NeuralHP
De auteurs stellen Coupled-NeuralHP voor, een hybride familie van modellen voor gebeurtenis-plus-toestand, ontworpen om continue-tijd KI-innovatiegebeurtenissen te koppelen aan discrete-tijd signalen van publieke respons. De architectuur bestaat uit vijf kerncomponenten die end-to-end worden getraind via een gezamenlijke variational doelstelling:

1. Innovatie Hawkes-proces: KI-octrooipublicaties over acht technologie-domeinen (bijv. machine learning, NLP, visie) worden gemodelleerd als een multivariaat gemarkeerd puntproces. De conditionele intensiteit voor elk domein omvat een basisintensiteit, zelf- en kruis-excitatietermen (via exponentiële verval-kernen), en een koppelterm vanuit de latente publieke respons-toestand.
2. Latente Respons-Toestandruimte-model: Publieke respons wordt gemodelleerd als een latente maandelijkse toestandruimte-proces. De toestands-overgang omvat persistentie, een sparse koppelmatrix van vertraagde innovatiekenmerken (innovatie-naar-respons), en optionele mijlpaal-covariaten. De waargenomen respons is een lineaire projectie van deze latente toestand.
3. Sparse Directionele Koppelgates: De interactie tussen de twee processen wordt gecontroleerd door hard-concrete gates. Deze gates leren de koppelmatrices te verspreiden, waardoor het model de existentie en richting van koppelingen kan bepalen (Innovatie $\to$ Respons vs. Respons $\to$ Innovatie) terwijl het verspreidheidsstraffen afdwingt.
4. Gestructureerde Respons Voorspellingshoofd: Om robuuste voorspelling te waarborgen, bevat het model een apart voorspellingshoofd dat de respons van de volgende maand direct voorspelt op basis van waarneembare kenmerken (vertraagde respons, PCA-gecomprimeerde vertraagde octrooiaantallen, en kalenderindicatoren). Dit hoofd werkt onafhankelijk van het latente koppeltraject om interpreteerbare, hoogwaardige voorspellingen te bieden.
5. Train-Only Respons Protocol: Om lookahead-bias te voorkomen, worden alle normalisatiestatistieken en PCA-projecties voor het responskanaal strikt gefit op het trainingsvenster (maanden voor evaluatie) en toegepast op validatie- en testsets.

Het model wordt geoptimaliseerd via een gezamenlijke variational doelstelling die de reconstructie van de gebeurtenisstroom, de reconstructie van het respons-signaal en de dynamiek van de latente toestanden maximaliseert, terwijl het de dichtheid van de koppelgates straft.

Belangrijkste Bijdragen en Resultaten
Het artikel evalueert het model tegen vier onderzoeksvragen met behulp van een tienjarig panel (2014–2023) van USPTO KI-octrooiedata en Google Trends-indexen.

• Voorspellende Koppeling (VQ1): Onder een strikt train-only responsprotocol bereikt de geselecteerde variant met één richting (alleen Innovatie $\to$ Respons) de beste voorspellingen voor ingehouden octrooiaantallen in de vergelijkingsset, en presteert beter dan een zelf-excitatie Hawkes-baseline (Pseudo-log-likelihood: $-30.4$ vs. $-34.7$; RMSE: $471$ vs. $532$). Aan de responszijde komt het gekoppelde model overeen met de prestaties van een sterke multi-lag factor-familie baseline (ARX) met een RMSE van $0.295$, in plaats van deze te overtreffen.
• Sparse Stabiele Structuur (VQ2): De geleerde koppelstructuur is robuust en verspreid. Over willekeurige zaden, classificatiedrempels en rollende temporele vensters heen selecteert het model consistent een éénrichtingsstructuur waarbij innovatie respons aandrijft (dichtheid $\approx 0.5$), terwijl de omgekeerde richting (Respons $\to$ Innovatie) inactief blijft (dichtheid $0.0$). Specifieke domeinen (NLP, spraak, hardware) worden consequent geselecteerd als drijvers.
• Regimewisselingen (VQ3): Een placebogecontroleerde analyse van grote KI-mijlpalen uit 2022 (bijv. ChatGPT, DALL-E 2) vindt geen robuust bewijs voor structurele breuken in de gekoppelde dynamiek. Mijlpaalmaanden presteren statistisch niet beter dan placebo-maanden in termen van modelfit-winsten.
• Directioneel Herstel (VQ4): In 60 semi-synthetische replicaties met bekende ground-truth koppeling, presteert Coupled-NeuralHP significant beter dan lineaire baselines (VARX) in het herstellen van de innovatie-naar-respons structuur (F1: $0.734$ vs. $0.386$).

Ablatie-inzichten
De auteurs identificeren dat de gestructureerde respons voorspellingshoofd de primaire drijver is van de voorspellingskwaliteit aan de responszijde. Het verwijderen van dit hoofd verslechtert de respons-RMSE aanzienlijk ($+0.153$), terwijl het latente-toestand koppeltraject meer bijdraagt aan structurele interpretatie en semi-synthetisch herstel dan aan de prestaties van ingehouden voorspelling. Omgekeerd verslechtert het forceren van het omgekeerde kanaal (Respons $\to$ Innovatie) de voorspelling van octrooiaantallen, wat bevestigt dat de data in deze context geen feedbacklus ondersteunt van geaggregeerde zoektrends naar octrooipublicatiepercentages.

Betekenis en Claims
Het artikel claimt een "smallere en scherpere" bijdrage dan een breed narratief van bidirectionele co-evolutie. De primaire betekenis ligt in:

1. Methodologische Integratie: Succesvolle koppeling van een continue-tijd puntproces met een discrete-tijd toestandruimte-model via leerbare, sparse directionele gates.
2. Empirische Validatie: Aantonen dat een éénrichtingskoppeling (Innovatie $\to$ Respons) superieure innovatievoorspelling oplevert terwijl het gelijkblijvend is met sterke baselines voor responsvoorspelling.
3. Structureel Herstel: Bewijzen van het vermogen van de architectuur om ground-truth directionele koppelingen te herstellen in gecontroleerde experimenten waar lineaire baselines falen.
4. Eerlijke Negatieve Resultaten: Expliciet rapporteren dat de data in real-world settings geen omgekeerde causale link (Respons $\to$ Innovatie) ondersteunt en dat grote KI-mijlpalen geen detecteerbare structurele breuken veroorzaken in de waargenomen dynamiek.

De auteurs concluderen dat het raamwerk effectief is voor het modelleren van hoe blootstelling aan innovatie publieke aandacht aandrijft, maar zij waarschuwen dat de resultaten aan de responszijde gelijkblijvend zijn met sterke baselines in plaats van unieke superioriteit vertegenwoordigen, en dat de omgekeerde richting niet wordt ondersteund door de opgeschoonde real-data bewijslast.