CHASM: Unveiling Covert Advertisements on Chinese Social Media
Dieser Beitrag stellt CHASM vor, einen neuartigen Datensatz mit fast 5.000 realen verdeckten Werbeanzeigen von der chinesischen Social-Media-Plattform Rednote, um zu zeigen, dass aktuelle multimodale große Sprachmodelle Schwierigkeiten haben, diese täuschenden Beiträge zu erkennen, und um die Notwendigkeit verbesserter Feinabstimmung und Abwehrmechanismen gegen diese aufkommende Bedrohung hervorzuheben.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
🕵️♀️ Die große Verkleidung: Wenn Werbung sich als Freund ausgibt
Stell dir vor, du bist auf einer Party (dem sozialen Netzwerk). Plötzlich kommt jemand zu dir, der so tut, als wäre er ein alter Freund. Er erzählt dir eine lustige Geschichte über einen neuen Schuh, den er trägt, und sagt: „Oh, der ist super bequem!" Du denkst: „Cool, danke für den Tipp!"
Aber dann merkst du: Der Typ ist gar kein Freund. Er ist ein Verkäufer, der dir den Schuh verkaufen will, ohne dass du merkst, dass er bezahlt wurde. Er hat sich einfach in die Menge gemischt.
Das ist genau das Problem, das die Forscher mit CHASM untersucht haben. Auf chinesischen Social-Media-Plattformen (wie „Rednote", ähnlich wie Instagram oder TikTok) gibt es immer mehr dieser versteckten Werbung. Sie nennen es „Covert Advertisement".
🧩 Das Problem: Warum Computer das nicht sehen
Bisher haben die KI-Modelle (die „Gehirne" der Computer) gelernt, offensichtliche Werbung zu erkennen. Das ist wie ein Schild mit „Werbung" darauf. Aber diese versteckte Werbung ist wie ein Tarnanzug.
- Normale Werbung: „KAUF JETZT DIESE SEIFE! 50% RABATT!" (Ein riesiges, leuchtendes Neon-Schild).
- Versteckte Werbung: „Mein Tag war so stressig, aber diese Seife hat meine Haut beruhigt. Ich liebe sie!" (Sieht aus wie ein normaler Beitrag, ist aber inszeniert).
Die Forscher haben herausgefunden, dass die aktuellsten und klügsten KIs (wie GPT-4o oder Gemini) bei dieser Tarnung völlig versagen. Sie werden getäuscht, genau wie wir Menschen es auch tun könnten. Sie denken oft, es sei ein normaler Beitrag, oder sie sehen in jedem normalen Beitrag eine Werbung.
🛠️ Die Lösung: Ein neuer Trainings-Parcours (CHASM)
Um die KIs besser zu machen, haben die Forscher etwas Neues gebaut: CHASM.
Stell dir CHASM vor wie einen Spion-Ausbildungsparcours.
- Die Daten: Sie haben fast 5.000 echte Beiträge von der Plattform gesammelt.
- Die Tarnung: Darin waren viele Beiträge, die wirklich wie normale Tipps aussahen, aber versteckte Werbung waren. Und viele, die wie Werbung aussahen, aber nur echte Tipps waren.
- Die Anonymisierung: Wie bei einem Spion, der eine Maske trägt, haben sie alle Namen und Gesichter in den Bildern unkenntlich gemacht, damit niemanden die Privatsphäre verletzt wird.
🏋️♂️ Das Training: Von Anfänger zum Profi
Die Forscher haben verschiedene KIs auf diesem Parcours getestet:
- Ohne Training (Zero-Shot): Die KIs kamen rein, ohne je so etwas gesehen zu haben. Ergebnis: Katastrophe. Sie konnten die versteckte Werbung kaum finden. Es war, als würde man einem Anfänger einen Spionagefilm zeigen und erwarten, dass er sofort die versteckten Codes versteht.
- Mit Training (Fine-Tuning): Dann haben sie die KIs mit CHASM „trainiert". Sie haben ihnen gezeigt: „Schau mal, hier ist ein versteckter Link in den Kommentaren" oder „Hier wird nur eine einzige Marke gelobt, das ist verdächtig."
- Ergebnis: Die KIs wurden deutlich besser! Eine KI (Qwen2.5) konnte nach dem Training fast so gut werden wie ein erfahrener menschlicher Moderator. Sie lernten, auf die kleinen Details zu achten, die den Betrug verraten.
🔍 Was haben wir gelernt? (Die Fehleranalyse)
Auch nach dem Training machen die KIs noch Fehler. Die Forscher haben herausgefunden, wo es hakt:
- Die versteckten Hinweise: Oft steht der Kauf-Link nicht im Text, sondern in den Kommentaren oder ist in einem Bild versteckt. Die KIs übersehen diese kleinen Hinweise oft.
- Die Struktur: Eine echte Werbung konzentriert sich oft nur auf ein Produkt. Ein echter Nutzer spricht oft über mehrere Dinge. Die KIs verstehen diesen „Rhythmus" noch nicht perfekt.
- Die Sprache: Versteckte Werbung nutzt oft übertriebene Wörter („Das Beste aller Zeiten!"), während echte Nutzer auch mal sagen: „Der ist okay, aber nicht perfekt."
🚀 Fazit: Warum ist das wichtig?
Diese Forschung ist wie ein Weckruf für die Plattformen und die KI-Entwickler.
- Für uns Nutzer: Es zeigt, dass wir vorsichtig sein müssen. Nicht jeder „Freund", der uns ein Produkt empfiehlt, ist ein echter Freund.
- Für die Plattformen: Sie müssen ihre KI-Systeme mit speziellen Daten wie CHASM trainieren, um diese Betrüger zu entlarven.
- Für die Zukunft: Es ist ein Wettlauf. Die Werbetreibenden werden immer schlauer in ihrer Tarnung, und die KIs müssen genauso schlau werden, um sie zu enttarnen.
Kurz gesagt: CHASM ist der erste große Schritt, um die KI zu lehren, den „Wolf im Schafspelz" auf Social Media zu erkennen, bevor er uns das Geld aus der Tasche zieht.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.