Amplification to Synthesis: A Comparative Analysis of Cognitive Operations Before and After Generative AI
Dit artikel analyseert X-gegevens (voorheen Twitter) uit de Amerikaanse presidentsverkiezingen van 2016 en 2024 om aan te tonen dat cognitieve operaties fundamenteel zijn verschoven van door bots gedreven ampliatie van identieke inhoud naar door generatieve AI gedreven synthese, gekenmerkt door een toename aan originele inhoud, een ingestorte lexicaal overlap en narratief geconcentreerde coördinatie.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je het internet voor als een gigantisch, luidruchtig stadsplein waar mensen meningen schreeuwen, nieuws delen en anderen proberen te overtuigen van hun standpunt. Jarenlang hebben beveiligingsexperts dit plein in de gaten gehouden om "cognitieve operaties" op te sporen – in wezen georganiseerde campagnes die mensen erop uit zijn om hen dingen te laten geloven of hun mening te laten veranderen.
Dit artikel vergelijkt twee specifieke momenten op dit stadsplein: de Amerikaanse presidentsverkiezingen van 2016 en de verkiezingen van 2024. De onderzoekers wilden zien of de "slechte actoren" hun tactieken hebben veranderd nadat een nieuwe technologie, genaamd Generatieve AI (zoals de chatbots die verhalen voor je kunnen schrijven), populair werd.
Hier is wat ze vonden, uitgelegd via eenvoudige analogieën:
1. De verschuiving van "Kopieer-Plakken" naar "Vers Gebakken"
De Oude Manier (2016):
Stel je een groep mensen voor die probeert een gerucht te verspreiden. In 2016 gedroegen ze zich vooral als een fotokopieerapparaat. Ze zouden één enkel bericht vinden, het duizenden keren afdrukken en het aan iedereen geven. Op sociale media zag dit eruit als miljoenen mensen die op de "Retweet"-knop drukten.
- De Data: Ongeveer 40% van de berichten waren gewoon retweets. De woorden waren bijna identiek, zoals een koor van mensen dat exact dezelfde noot zingt.
De Nieuwe Manier (2024):
Tegen 2024 was het fotokopieerapparaat verdwenen. In plaats daarvan gedroeg de groep zich als een team van ghostwriters. Ze herhaalden niet alleen hetzelfde bericht; ze schreven duizenden nieuwe verhalen die allemaal hetzelfde zeiden, maar met volledig verschillende woorden.
- De Data: Bijna 93% van de berichten waren "originele posts". De "Retweet"-knop werd nauwelijks gebruikt (minder dan 1%). Het leek alsof iedereen zijn eigen unieke essay schreef over hetzelfde onderwerp.
2. De verschuiving van "Overvolle Zaal" naar "Geheime Club"
De Oude Manier (2016):
In 2016 waren de slechte actoren als een drukte in een moshpit. Ze schreeuwden allemaal op exact hetzelfde moment, ongeacht waar ze over schreeuwden. Als één persoon over het weer schreeuwde en een ander over politiek, schreeuwden ze allebei om 14:00 uur precies. Deze "uitbarsting" van lawaai was hun handtekening.
- De Data: Ze coördineerden hun timing perfect over verschillende onderwerpen. Het was overal tegelijk chaotisch en luid.
De Nieuwe Manier (2024):
In 2024 was de moshpit verdwenen. In plaats daarvan vormden ze kleine, geheime clubs. Ze stopten met het schreeuwen op hetzelfde moment over willekeurige dingen. In plaats daarvan wachtten ze tot ze allemaal over dezelfde specifieke story praatten, en dan postten ze allemaal op exact hetzelfde moment.
- De Data: Ze schreeuwden zelden op hetzelfde moment over verschillende onderwerpen. Maar als ze over één specifiek verhaal praatten (zoals een sterren-endorsement), coördineerden ze hun timing perfect binnen die groep.
3. De verschuiving van "Robots" naar "Mensachtige Schrijvers"
De Oude Manier (2016):
De berichten waren zo identiek dat het duidelijk was dat ze nep waren. Het was alsof een robot een script voorlas.
- De Data: De woorden waren 99% identiek. Als je twee posts vergeleek, waren ze praktisch hetzelfde zinnetje.
De Nieuwe Manier (2024):
De berichten waren divers. Iemand zou kunnen zeggen: "Taylor Swift steunt de kandidaat!" terwijl een ander zegt: "De popster heeft net haar gewicht achter de vicepresident gegooid!" Ze bedoelden hetzelfde, maar de woorden waren totaal verschillend.
- De Data: De woorden waren zeer verschillend (lage gelijkenis), maar de betekenis was hetzelfde. Dit is precies waar Generatieve AI goed in is: één idee nemen en het op honderd verschillende manieren herschrijven om natuurlijk te klinken.
De Grote Conclusie
De onderzoekers zeggen niet: "We hebben de AI gepakt." Ze zeggen: "De vingerafdrukken zijn veranderd."
- Voor AI: De slechte jongens gebruikten bots om bestaande inhoud te versterken (herhalen).
- Na AI: De slechte jongens lijken AI te gebruiken om nieuwe inhoud te synthetiseren (creëren) die er uniek uitziet, maar dezelfde agenda doordrukt.
Het artikel suggereert dat de "slechte jongens" hun toolkit hebben geüpgraded. Ze drukken niet meer alleen op "kopieer en plak"; ze gebruiken AI om verse, unieke verhalen te schrijven die perfect gecoördineerd zijn rond specifieke verhalen, waardoor ze veel moeilijker te spotten zijn dan de oude, repetitieve spam.
Belangrijke Opmerking: De auteurs zijn voorzichtig om te zeggen dat ze niet bewezen hebben dat AI dit zeker heeft veroorzaakt. Ze hebben alleen geconstateerd dat de patronen in 2024 er precies uitzien als wat je zou verwachten als iemand AI zou gebruiken, terwijl de patronen uit 2016 leken op oude-school bot-netwerken. Ze bieden een nieuwe "basislijn" voor beveiligingsexperts om in de toekomst naar deze nieuwe patronen te zoeken.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.