An Analysis of Socialbots Activity and Influence in Modern Japanese Social Media

Deze studie analyseert de activiteiten en invloed van sociale bots op Japanse sociale media, waarbij wordt geconcludeerd dat hun impact groter is dan tijdens de Amerikaanse presidentsverkiezingen van 2016 en dat door mensen geretweeteerde bot-accounts niet significant verschillen van menselijke accounts.

De kern

🤖 De Onzichtbare Speelgoedjes in de Japanse Digitale Wereld

Een samenvatting van het onderzoek naar "Socialbots" in Japan

Stel je voor dat het internet, en dan vooral Twitter (nu X), een enorm drukke marktplein is in Tokio. Op dit plein staan duizenden mensen te schreeuwen, te fluisteren en kaarten te wisselen. Maar wat als je ontdekt dat een groot deel van die "mensen" eigenlijk geen mensen zijn, maar slimme robots? En nog belangrijker: wat als de echte mensen die robots niet eens doorhebben en hun berichten gewoon doorgeven alsof het van een vriend komt?

Dat is precies wat Shuhei Ippa en Masaki Hashimoto hebben onderzocht in hun nieuwe studie over Socialbots in Japan.

1. Het Probleem: De "Robot-Revolutie"

In het verleden waren robots op sociale media makkelijk te herkennen. Ze waren als robot-mechanici die non-stop en onmogelijk snel kaarten de markt rondwierpen. Je zag ze aankomen: ze postten honderden berichten per uur, hadden geen foto en geen biografie.

Maar de robots van nu? Die zijn veranderd in slimme spionnen. Ze doen zich voor als normale mensen. Ze hebben een profielfoto, een bio, en ze posten niet 100 keer per uur, maar misschien maar één keer per dag. Ze zijn zo goed vermomd dat zelfs de beste detectives (de onderzoekers) moeite hebben om ze te onderscheiden van echte mensen.

2. De Drie Cases: Waar werden de robots gezien?

De onderzoekers keken naar drie specifieke situaties in Japan waar veel discussie was, om te zien hoeveel robots er meededen:

• De Staatsbegrafenis van Abe: Een heftig onderwerp waar men het oneens over was.
  • Het resultaat: Van alle accounts die hierover tweetten, was 17,4% een robot. En van alle berichten zelf was 30% geschreven door robots.
• De Lokale Verkiezingen (April 2023): Een grote landelijke verkiezing.
  • Het resultaat: Hier was 23,8% van de accounts een robot. Robots schreven 37,4% van alle berichten.
• De PASCO-Case (De Krekel-Mythe): Een verhaal dat beweerde dat een bakkerij (PASCO) krekels verkocht om subsidie te krijgen. Dit bleek nepnieuws te zijn.
  • Het resultaat: Dit was het ergste. 28,9% van de accounts waren robots, en ze schreven 37,1% van alle berichten.

De grote verrassing: In al deze Japanse gevallen was het percentage robots hoger dan tijdens de beroemde Amerikaanse presidentsverkiezingen van 2016 (waar robots ook een grote rol speelden). In Japan is de robot-invasie dus nog groter dan in het land waar de meeste onderzoek naar gedaan is.

3. De Menselijke "Meevolgers": Waarom werkt het?

Het meest interessante deel van het onderzoek is hoe de robots hun doel bereiken.

Stel je voor dat een robot een nepbericht schrijft. Normaal gesproken zou je denken: "Oh, dit komt van een bot, ik ignoreer het." Maar dat gebeurt niet.
De onderzoekers ontdekten dat echte mensen de berichten van deze robots gewoon doorsturen (retweeten).

• De Vergelijking: Het is alsof je een nepbriefje van een onbekende krijgt, maar omdat de brief zo netjes is geschreven en een mooi briefhoofd heeft, stuur je hem door naar al je vrienden.
• De Bevinding: De robots die door mensen werden doorstuurde, leken niet op die oude, stomme robots. Ze hadden net zo'n goede profielfoto, net zo'n goede bio en net zo veel volgers als een echt mens. De mensen konden ze niet onderscheiden.

4. De "Valse Alarmen" en de "Midden-Media"

Er was één raar detail bij de lokale verkiezingen: veel robots bleken "verificatie" te hebben (het blauwe vinkje).

• De Uitleg: Dit waren vaak accounts van echte politici of lokale overheden. De software dacht: "Oh, dit is een robot!" omdat ze heel actief waren. Maar het waren waarschijnlijk echte mensen. Dit is een "valse alarm" van de detectie-software.

Bij de Krekel-Mythe (PASCO) zagen ze iets anders: er waren grote "webmedia"-accounts die de nepnieuws verspreidden. Dit noemen ze "Midden-Media".

• De Metafoor: Stel je voor dat een robot een nepbericht schrijft. In plaats dat de robot het direct naar jou stuurt, geeft hij het aan een populaire krant (de midden-media). Die krant deelt het, en jij leest het in die krant en denkt: "Oh, dat moet waar zijn." De robots gebruiken dus vaak echte, populaire media als tussenpersoon om geloofwaardigheid te krijgen.

5. Wat betekent dit voor ons?

De conclusie is simpel maar zorgwekkend:

1. Japan is een broeinest: Er zijn meer robots actief in Japanse sociale media dan in de bekende Amerikaanse voorbeelden.
2. Ze zijn onzichtbaar: Omdat ze eruitzien als echte mensen, worden hun berichten door echte mensen gedeeld. We helpen de robots onbewust om nepnieuws te verspreiden.
3. Het is een gevaar: Omdat robots zo goed vermomd zijn, is het moeilijk om nepnieuws te stoppen. Ze verspreiden het sneller en dieper dan we denken.

Kortom: De volgende keer dat je op Twitter een heel populair bericht ziet over een controversieel onderwerp, onthoud dan: het kan zijn dat de "menigte" die je ziet niet uit mensen bestaat, maar uit een leger van slimme spionnen die zich voor doen als je buren. En wij, de echte mensen, zijn de onwetende boodschappers die hen helpen.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het paper "An Analysis of Socialbots Activities and Influence in Modern Japanese Social Media" in het Nederlands.

Probleemstelling

In de huidige Japanse samenleving neemt de tijd die mensen online doorbrengen toe, met name op sociale mediaplatforms zoals Twitter (nu X), LINE en Instagram. Deze groei gaat gepaard met een toename van desinformatie, die sneller en verder verspreidt dan via traditionele media. Een belangrijke drijvende kracht achter deze verspreiding zijn socialbots: geautomatiseerde accounts die tweets en retweets genereren. Hoewel sommige bots nuttige informatie verspreiden (bijv. over aardbevingen), worden ze ook gebruikt om de publieke opinie te manipuleren.

Het bestaande onderzoek richt zich voornamelijk op Engelstalige landen (zoals de VS-verkiezingen van 2016), waar socialbots een aanzienlijke rol spelen. Er is echter een gebrek aan diepgaande, kwantitatieve analyses over de activiteit en invloed van socialbots in de Japanse context, waar de taal en het mediaklimaat anders zijn.

Methodologie

De auteurs hebben een empirische studie uitgevoerd door Twitter-gegevens te analyseren rondom drie specifieke casestudies in Japan, gekozen vanwege hun politieke of desinformatie-gerelateerde aard:

1. De staatsbegrafenis van voormalig premier Abe (juli-september 2022): Een politiek gevoelig onderwerp met sterke polarisatie.
2. De landelijke lokale verkiezingen (maart-april 2023): Een grote nationale politieke gebeurtenis.
3. De PASCO-gevalstudie (februari-maart 2023): Een geval van desinformatie waarbij het bedrijf Shikishima Baking Company ten onrechte werd beschuldigd van het promoten van sprinkhanen voor subsidies (een complottheorie).

Dataverzameling en Analyse:

• Data: Via de Twitter API zijn miljoenen tweets verzameld (bijv. ~21 miljoen tweets voor de begrafenis, ~440.000 voor de verkiezingen).
• Detectie-tool: De auteurs gebruikten Botometer v4, een tool ontwikkeld door de Indiana University. Botometer analyseert meer dan 1.200 kenmerken (zoals accountleeftijd, aantal volgers, profielfoto's, taalgebruik) om een "bot-score" (0 tot 1) te genereren.
• Drempelwaarde: Een score van 0,5 of hoger werd gebruikt als drempel om een account als socialbot te classificeren. Voor niet-Engelse accounts (zoals Japans) werd de "Universal Score" van Botometer gebruikt, die taalonafhankelijk is.
• Vergelijking: De auteurs vergeleken de geïdentificeerde bot-accounts met menselijke accounts op basis van 10 specifieke profielkenmerken (bijv. profielfoto, bio, verificatie, aantal volgers/volgende) om te zien of mensen bots onderscheiden van mensen bij het retweeten.

Belangrijkste Bijdragen

1. Eerste grootschalige analyse in Japan: Dit is een van de eerste studies die systematisch de prevalentie en invloed van socialbots in Japanse sociale media meet met een gestandaardiseerde tool (Botometer).
2. Vergelijking met internationale benchmarks: De studie plaatst Japanse data direct naast bekende internationale casussen (zoals de VS-verkiezingen van 2016).
3. Inzicht in menselijk gedrag: De studie onderzoekt specifiek of en hoe menselijke gebruikers socialbots retweeten en of ze deze kunnen onderscheiden van echte accounts.

Resultaten

De analyse leverde de volgende cruciale bevindingen op:

• Hogere prevalentie dan in de VS: In alle drie onderzochte Japanse casussen was het percentage socialbots hoger dan in de 2016 Amerikaanse presidentsverkiezingen (een referentiecijfer van ongeveer 15-20% in de VS).
  • Staatsbegrafenis: 17,4% van de accounts waren bots; 30,1% van de tweets.
  • Lokale verkiezingen: 23,8% van de accounts waren bots; 37,4% van de tweets.
  • PASCO-geval: 28,9% van de accounts waren bots; 37,1% van de tweets.
• Menselijke verspreiding: Mensen retweeten socialbot-tweets aanzienlijk. In alle gevallen werd bevestigd dat menselijke accounts actief socialbot-berichten verspreiden.
• Moeilijk te onderscheiden: Er is geen significant verschil gevonden tussen de profielen van socialbots en menselijke accounts die door mensen worden geretweet.
  • Socialbots hadden vaak profielfoto's, zelfintroducties en achtergrondafbeeldingen (net als mensen).
  • Ze postten niet meer dan één tweet per dag (in tegenstelling tot vroege bots die massaal postten), wat hen minder opvallend maakt.
  • In het geval van de lokale verkiezingen bleken zelfs 10,6% van de geïdentificeerde bots "geverifieerde" accounts te zijn (vaak gerelateerd aan lokale overheden of media), wat suggereert dat Botometer hier mogelijk vals-positieven genereert, maar ook dat bots zich zeer goed kunnen vermommen.
• Invloed van "Middle Media": In het PASCO-geval bleken accounts met veel volgers (webmedia) betrokken te zijn bij de verspreiding, wat wijst op een rol van tussenliggende media in de desinformatieketen.

Betekenis en Conclusie

De studie concludeert dat socialbots in Japan een grotere invloed hebben op de verspreiding van informatie (en desinformatie) dan in de bekende Amerikaanse voorbeelden. Een cruciale bevinding is dat de moderne socialbots in Japan niet langer herkenbaar zijn als "bots" door hun gedrag (ze posten niet massaal) of hun profiel (ze lijken op mensen).

Dit betekent dat:

1. Menselijke gebruikers onbewust socialbots versterken door hun berichten te retweeten.
2. Bestaande detectiemethoden (zoals het tellen van hoge postfrequenties) verouderd zijn.
3. Er een urgentie is voor nieuwe strategieën om desinformatie te bestrijden, omdat de bots zich perfect hebben aangepast aan het menselijke gedrag op het platform.

De auteurs pleiten voor verder onderzoek naar de definitie van "invloed" in informatiediffusie en de noodzaak om ook buitenlandse casussen te analyseren om een volledig beeld te krijgen van de globale dreiging van socialbots.