Who Decides What Is Harmful? Content Moderation Policy Through A Multi-Agent Personalised Inference Framework
Dieser Artikel schlägt ein auf LLMs basierendes Multi-Agenten-Framework vor, das die Inhaltsmoderation durch die Simulation individueller Nutzempfindlichkeiten mittels spezialisierter Agenten personalisiert, eine Genauigkeitsverbesserung von 32 % gegenüber traditionellen zentralisierten Systemen erzielt und gleichzeitig einen skalierbaren Ansatz zur Ausgewogenheit zwischen Plattformregulierung und Nutzerautonomie bietet.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich das Internet als einen riesigen, chaotischen Stadtplatz vor, auf dem Millionen Menschen gleichzeitig schreien, Geschichten teilen, streiten und Memes posten. Derzeit verwenden die „Wachleute" (Inhaltsmoderationssysteme), die versuchen, diesen Platz sicher zu halten, ein einziges, riesiges Regelbuch für alle. Sie entscheiden, was „schädlich" ist, basierend auf einer Liste, die für alle gleich ist. Wenn ein Beitrag eine Regel bricht, wird er entfernt. Wenn nicht, bleibt er.
Das Problem, wie die Autoren dieses Papers hervorheben, ist, dass Menschen unterschiedlich sind. Was für die eine Person lustig ist, findet eine andere zutiefst verletzend. Was die eine als mutige politische Meinung sieht, betrachtet eine andere als persönlichen Angriff. Das aktuelle System ignoriert diese individuellen Gefühle und lässt Menschen oft von Inhalten überwältigt zurück, die sie als toxisch empfinden, oder entfernt im Gegenteil Dinge, die sie tatsächlich mögen.
Dieses Paper schlägt eine neue Art vor, die Wachmannschaft zu führen. Anstelle eines starren Regelbuchs schlagen sie einen personalisierten, teambasierten Ansatz namens PRISM vor.
Die Kernidee: Ein personalisiertes Sicherheitsteam
Stellen Sie sich das PRISM-System nicht als einzelnen Roboter vor, sondern als ein maßgeschneidertes Sicherheitsteam, das jedem einzelnen Nutzer zugewiesen ist. So funktioniert dieses Team, unter Verwendung einfacher Analogien:
1. Das „Sensitivitätsprofil" (Ihr persönliches Regelbuch)
Anstatt mit einem leeren Blatt zu beginnen, lernt das System Ihre spezifischen „Schmerzpunkte".
- Die Analogie: Stellen Sie sich vor, Sie sind sehr empfindlich gegenüber lauten Geräuschen, aber es stört Sie nicht, wenn Räume unordentlich sind. Ihr Nachbar hingegen hasst Unordnung, liebt aber laute Musik. Das PRISM-System lernt Ihre spezifischen Schwellenwerte. Es erstellt ein Profil, das besagt: „Dieser Nutzer wird leicht durch Beleidigungen verärgert, ist aber mit starken politischen Argumenten einverstanden."
- Wie es funktioniert: Während Sie mit dem System interagieren (indem Sie ihm sagen: „Diesen Beitrag mag ich nicht" oder „Das ist in Ordnung"), aktualisiert es Ihr Profil. Es lernt genau, was Sie als schädlich empfinden, nicht was ein generischer Algorithmus denkt, dass Sie als schädlich empfinden sollten.
2. Der „Manager-Agent" (Der Teamleiter)
Wenn ein neuer Beitrag eintrifft, betrachtet ein zentraler „Manager" diesen und Ihr Profil.
- Die Analogie: Der Manager ist wie ein Dirigent in einem Orchester. Er betrachtet den Beitrag und sagt: „Dieser Beitrag enthält einige aggressive Sprache und erwähnt eine bestimmte Gruppe. Wir brauchen nicht das ganze Orchester; rufen wir einfach den Soziologen (der Gruppendynamiken kennt) und den Psychologen (der emotionale Auswirkungen kennt)."
- Die Wendung: Der Manager flüstert den Experten auch Ihre spezifischen Präferenzen zu. Sie sagen dem Psychologen: „Denken Sie daran, dieser Nutzer ist extrem empfindlich gegenüber entmenschlichender Sprache, also suchen Sie speziell danach."
3. Die „Experten-Agenten" (Die Spezialisten)
Das System verwendet verschiedene KI-„Experten", um den Inhalt aus unterschiedlichen Blickwinkeln zu analysieren.
- Der Soziologe: Sucht nach Diskriminierung oder ungerechter Behandlung von Gruppen.
- Der Linguist: Sucht nach unhöflichen Worten, Beleidigungen oder aggressivem Tonfall.
- Der Psychologe: Sucht nach Drohungen oder Dingen, die emotionale Not verursachen könnten.
- Der „Ghost"-Agent: Dies ist ein spezieller Agent, der genau wie Sie agiert. Wenn die Experten uneinig sind, greift der Ghost-Agent ein und sagt: „Basierend auf dem, was dieser Nutzer uns zuvor mitgeteilt hat, würde er dies als schädlich empfinden."
4. Der „Synthese-Agent" (Der Entscheidungsträger)
Schließlich sammelt ein Synthese-Agent alle Meinungen der Experten und des Ghosts. Er wägt ihre Argumente gegen Ihr persönliches Profil ab und trifft die endgültige Entscheidung: „Diesen Nutzer anzeigen" oder „Diesen ausblenden".
Was haben sie herausgefunden?
Die Forscher testeten dieses System gegen die alten „Einheitslösungen" und einige der intelligentesten Standard-KI-Modelle, die derzeit eingesetzt werden.
- Bessere Genauigkeit: Ihr personalisiertes Team war 32 % genauer darin vorherzusagen, was ein spezifischer Nutzer als schädlich empfinden würde, verglichen mit den Standard-, generischen Systemen.
- Weniger Fehler: Das Multi-Agenten-Team machte weniger Fehler als eine einzelne KI, die versucht, alles allein zu erledigen. Indem sie das Problem in kleinere Aufgaben aufteilten (wie einen Spezialisten für Beleidigungen und einen Spezialisten für Drohungen), vermieden sie, die beiden zu verwechseln.
- Schnelles Lernen: Das System brauchte keine Jahre zum Lernen. Selbst nachdem ein Nutzer nur wenige Rückmeldungen gegeben hatte, funktionierte das System viel besser als die generische Version. Es dauerte nicht lange, bis Ihr „Geschmack" herausgefunden war.
Das große Ganze: Wer entscheidet?
Das Paper stellt eine große Frage: „Wer entscheidet, was schädlich ist?"
Derzeit lautet die Antwort: „Die Plattform." Sie entscheidet für alle.
Das PRISM-System schlägt vor, dass die Antwort lauten sollte: „Der Nutzer, mit Hilfe eines intelligenten Teams."
Die Autoren argumentieren, dass Plattformen zwar weiterhin die Grundlagen sicher halten müssen (wie die Verhinderung von Gewalt), aber die täglichen Entscheidungen darüber, was für eine spezifische Person „zu viel" ist, dieser Person überlassen werden sollten. Dieses System ermöglicht es Nutzern, einen „Filter" zu haben, der zu ihrem einzigartigen psychischen Wohlbefinden passt, anstatt alle unter denselben starren Regeln leben zu lassen.
Kurz gesagt: Anstatt dass ein Wachmann der ganzen Menge zu schreit „Das darf niemand sagen!", gibt PRISM jeder Person einen persönlichen Leibwächter, der genau weiß, was sie verkraften können und was nicht, und sorgt dafür, dass sich jeder auf seine eigene Weise sicher fühlt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.