Warning Message Content Increases Help Seeking in a Large-Scale Dark Web CSAM Intervention
Dieses groß angelegte Feldeperiment auf der Tor-Suchmaschine Ahmia.fi zeigt, dass Warnmeldungen mit schadensfokussierten Inhalten die Klickraten zu anonymen Hilfsangeboten bei Nutzern, die nach Material über sexuellen Missbrauch von Kindern suchen, signifikant erhöhen und dabei neutrale Nachrichten sowie andere thematische Rahmungen übertreffen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich das Internet als eine riesige, belebte Stadt vor. Die meisten Menschen gehen auf den Hauptstraßen („Clear Web“), aber es gibt auch verborgene, neblige Gassen („Dark Web“), in denen Menschen ihre Identität verbergen können. In diesen Gassen suchen manche Menschen nach illegalem und schädlichem Material, das Kinder betrifft.
Dieses Papier beschreibt ein massives Experiment, das in einer dieser verborgenen Gassen durchgeführt wurde, speziell auf einer Suchmaschine namens Ahmia.fi. Die Forscher wollten eine einfache Frage beantworten: Wenn wir jemanden stoppen, der nach diesem schlechten Zeug sucht, und ihm ein Warnschild zeigen, was sollte auf diesem Schild stehen, um ihn dazu zu bewegen, um Hilfe zu bitten?
Hier ist die Geschichte dessen, was sie getan haben und was sie herausgefunden haben, unterteilt in einfache Abschnitte.
Der Aufbau: Ein riesiges „Stopp und Denk nach“-Schild
Über 140 Tage lang beobachteten die Forscher fast 20 Millionen Suchanfragen. Etwa 3 Millionen dieser Suchanfragen bezogen sich auf Begriffe im Zusammenhang mit Material über Kindesmissbrauch. Wenn jemand eines dieser verbotenen Wörter eingab, zeigte die Suchmaschine nicht einfach nur „Keine Ergebnisse gefunden“ an. Stattdessen erschien eine Warnmeldung.
Stellen Sie sich das wie einen Türsteher vor einem Club vor. Anstatt Sie einfach nur rauszuwerfen, hält der Türsteher Sie an und sagt: „Hey, du scheinst in Schwierigkeiten zu sein. Hier ist eine Karte zu einem sicheren Ort, an dem du Hilfe bekommen kannst.“
Die Forscher testeten neun verschiedene Versionen dieser „Türsteher-Rede“, um zu sehen, welche am besten funktionierte:
- Das neutrale Schild: Sagte nur: „Wir haben ein Hilfsprogramm.“ (Dies war die Kontrollgruppe).
- Die „Es ist illegal“-Schilder: Warnten vor Verhaftung oder dem Verlust des Arbeitsplatzes.
- Die „Es verletzt Kinder“-Schilder: Konzentrierten sich auf den Schmerz, den Kinder dadurch erleiden.
- Die „Du kannst es kontrollieren“-Schilder: Sagten den Menschen, dass sie die Macht haben, sich zu ändern.
- Die „Du leidest“-Schilder: Fragten, ob die Suche sie Schuldgefühle oder Angst einflößen würde.
Jedes dieser Themen wurde auf zwei Arten getestet:
- Negative Rahmung: „Wenn du das tust, werden schlechte Dinge passieren.“
- Positive Rahmung: „Wenn du Hilfe bekommst, werden gute Dinge passieren.“
Das Experiment: Der „Zufallstag“-Test
Um sicherzustellen, dass die Ergebnisse fair waren, hatten die Forscher sieben spezielle Tage, an denen die Warnmeldung für jeden Nutzer völlig zufällig ausgewählt wurde. Das ist so, als würde man einen Würfel werfen, um zu entscheiden, welches Schild eine Person sieht. Dies stellte sicher, dass die Ergebnisse nicht einfach auf den Wochentag oder andere äußere Faktoren zurückzuführen waren.
Die Ergebnisse: Was hat funktioniert?
Die Forscher maßen den Erfolg an einer Sache: Hat die Person auf den Link geklickt, um Hilfe zu suchen?
- Jedes Schild ist besser als kein Schild: Jede einzelne Warnmeldung (selbst die, die nicht die „beste“ war) bewirkte mehr Klicks für Hilfe als das langweilige, neutrale Schild.
- Die „Schaden“-Botschaft gewann: Die Nachricht, die am besten funktionierte, war diejenige, die sich auf den Schaden an Kindern konzentrierte.
- Die Version, die sagte: „Diese Bildsprache verursacht Schaden bei Kindern“, und dann erklärte, wie das Einholen von Hilfe diesen Kreislauf stoppt, war am effektivsten.
- Interessanterweise funktionierte die Version, die sich auf die negativen Folgen (Angst-basiert) konzentrierte, etwas besser als die Version, die auf das positive Ergebnis (Hoffnung-basiert) setzte, obwohl beide sehr gut waren.
- Der große Sprung: Vor diesem Experiment klickten etwa 8,7 % der Leute für Hilfe. Während des Experiments mit den neuen, besseren Schildern stieg diese Zahl auf 15,7 %. Das ist fast die doppelte Anzahl der Menschen, die um Hilfe bitten.
Was hat sich nicht geändert?
Die Forscher fragten sich auch, ob diese Schilder die Menschen davon abhalten würden, die Suche nach dem schlechten Zeug ganz einzustellen. Sie prüften, ob die Anzahl der Suchanfragen nach diesen Begriffen zurückging.
- Das Ergebnis: Die Anzahl der Suchanfragen blieb etwa gleich. Die Schilder haben die Leute nicht davon abgehalten, die Wörter einzutippen, aber sie haben erfolgreich mehr dieser Menschen davon überzeugt, statt ihrer Suche auf den „Hilfe“-Button zu klicken.
Das Fazit
Stellen Sie sich das Internet wie eine Autobahn vor. Manchmal fahren Menschen in eine gefährliche Sackgasse. Diese Studie zeigt, dass es darauf ankommt, was auf dem Schild steht, wenn man an dieser Sackgasse ein Schild aufstellt.
- Ein Schild, das nur sagt „Hilfe ist hier“, funktioniert okay.
- Ein Schild, das sagt „Dies verletzt Kinder, und du kannst den Schmerz stoppen“, funktioniert viel besser.
Die Studie beweist, dass in diesen Hochrisiko-Bereichen, die anonym sind, die Änderung der Worte auf einem Warnbildschirm die Anzahl der Menschen, die sich entscheiden, um Hilfe zu bitten, erheblich steigern kann. Sie legt nahe, dass wir uns nicht nur auf eine einzige „perfekte“ Botschaft verlassen sollten, sondern unsere Schilder ständig testen und verfeinern sollten, um sicherzustellen, dass sie die Menschen in ihrem verletzlichsten Moment erreichen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.