Hyperspherical Semantic Trajectory Analysis: Mapping Technological Diffusion across Academic Preprints, Patent Signals, and Compute Scaling

In de wereld van de economie bestaat er een hardnekkige vertraging tussen het moment waarop een nieuwe technologie wordt uitgevonden en het moment waarop deze verschijnt in de officiële cijfers die de rijkdom van een land meten. Overheden en financiële instellingen vertrouwen op enquêtes en boekhoudkundige rapporten om de productiviteit te volgen, maar deze processen zijn traag en duren vaak drie tot tien jaar voordat een doorbraak officieel wordt geregistreerd. Tegen de tijd dat een nieuwe uitvinding officieel wordt opgenomen als een drijfveer voor economische groei, is de wereld vaak alweer verdergegaan. Deze vertraging creëert een blinde vlek voor investeerders, beleidsmakers en planners die moeten begrijpen waar de toekomst nú naartoe gaat. Om dit gat te dichten, zijn onderzoekers begonnen met het verkennen van de ruwe, ongefilterde stroom van menselijke kennis: de miljoenen wetenschappelijke artikelen en octrooiaanvragen die elk jaar worden geschreven. Deze documenten bevatten de vroegste signalen van verandering, maar ze zijn te omvangrijk en complex voor mensen om tijdig te lezen. De uitdaging is om een manier te vinden om ze automatisch te lezen, niet alleen om ze te tellen, maar om te begrijpen hoe de ideeën binnenin hen verschuiven en evolueren.

Een onderzoeker heeft een nieuwe methode ontwikkeld om dit probleem op te lossen, waarbij de geschiedenis van technologie niet wordt behandeld als een lijst met feiten, maar als een bewegend landschap. Zij noemen hun aanpak Hyperspherical Semantic Trajectory Analysis. Stel je voor dat je de volledige tekst van een wetenschappelijk artikel neemt en deze omzet in een enkel punt in een enorme, meerdimensionale ruimte, waarbij de positie van dat punt de specifieke betekenis van de gebruikte woorden vertegenwoordigt. In deze ruimte groeperen papers over vergelijkbare onderwerpen zich van nature, terwijl papers over verschillende onderwerpen uit elkaar drijven. De onderzoeker paste deze techniek toe op een enorme collectie van dertigduizend documenten, een mix van academische preprints van een wereldwijde server en commerciële octrooiaanvragen uit de Verenigde Staten. Zij vroeg een mens niet om deze documenten te labelen of de computer te vertellen waarnaar hij moest zoeken. In plaats daarvan liet zij de computer de relaties tussen de woorden zelf in kaart brengen, waarbij de documenten werden gegroepeerd in acht afzonderlijke clusters die belangrijke gebieden van technologie vertegenwoordigen, zoals computer vision, data engineering en large language models.

Zodra de documenten in kaart waren gebracht, observeerde de onderzoeker hoe deze groepen in de loop van de tijd bewogen. Zij splitste de data in een eerdere periode en een latere periode om te zien of het zwaartepunt van elk onderwerp was verschoven. Als de woorden die in een specifiek veld werden gebruikt significant veranderden, zou het centrum van die groep bewegen, wat aangeeft dat het veld een snelle transformatie ondergaat. De resultaten toonden aan dat sommige technologische gebieden zich met een adembenemend tempo ontwikkelen. De cluster gewijd aan Large Language Models, de krachtige systemen achter de moderne kunstmatige intelligentie, vertoonde de meest dramatische verschuiving in vocabulaire en concept, gevolgd door algemene Artificial Intelligence Systems. In contrast hiermee vertoonden meer gevestigde velden zoals basis hardwareontwerp en statistisch machine learning zeer weinig beweging, wat suggereert dat hun kernideeën stabiel en volwassen zijn geworden. Deze methode stelt waarnemers in staat om de snelheid van innovatie in realtime te zien, waarbij het exacte moment wordt gevangen waarop een vakgebied kantelt van de ene manier van denken naar de andere.

De studie keek ook naar de relatie tussen deze academische ideeën en de fysieke machines die nodig zijn om ze te draaien. De onderzoeker vergeleken het volume aan papers geschreven in elk veld tegen de werkelijke hoeveelheid rekenkracht die wordt uitgegeven aan het trainen van de meest geavanceerde AI-systemen. Zij wilde weten of een plotselinge piek in het aantal papers over een onderwerp een toename in de hardware-investeringen voorspelt die nodig is om het te ondersteunen. Het antwoord was een duidelijk nee. De data lieten zien dat de snelheid waarmee onderzoekers papers publiceren, op zichzelf niet voorspelt wanneer bedrijven geld zullen uitgeven aan nieuwe hardware. Dit bevinding is cruciaal omdat het suggereert dat de opwinding in de wetenschappelijke gemeenschap niet automatisch vertaalt in directe industriële actie. De beslissing om de fysieke infrastructuur voor nieuwe technologie te bouwen, hangt af van factoren die verder gaan dan alleen het aantal nieuwe ideeën dat wordt opgeschreven.

Door de stroom van woorden te koppelen aan de stroom van kapitaal, biedt dit onderzoek een nieuwe manier om naar de economie van ideeën te kijken. Het bewijst dat we de evolutie van technologie kunnen volgen door te luisteren naar de veranderende taal van wetenschappers en uitvinders, zonder te wachten op trage overheidsrapporten. De studie bevestigt dat hoewel de ideeën in velden zoals Large Language Models snel veranderen, het pad van een nieuw idee naar een nieuwe machine geen rechte lijn is. De methode biedt een hoogfrequent signaal dat complementair is aan traditionele statistieken, waardoor een duidelijker en directer beeld ontstaat van waar technologie naartoe gaat, zelfs als het nog niet precies kan voorspellen wanneer de hardware zal volgen.