Learning Sexism Detection Using Multi-Agent Perspectivist Preference Optimization
Dieses Paper stellt das Multi-Agent Perspectivist Preference Optimization (MAP-PO) Framework vor, welches die Uneinigkeit von Annotatoren bei der Erkennung von Sexismus adressiert, indem es Labeling-Verhaltensweisen clustert und spezialisierte Sprachmodell-Agenten feinabstimmt, die durch Preference Optimization koordiniert werden, um vielfältige Perspektiven zu bewahren und gleichzeitig die Übereinstimmung mit Mehrheitslabels aufrechterhalten.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, einem Roboter beizubringen, einen gemeinen Witz zu erkennen. Sie bitten zehn verschiedene Personen, einen Witz zu lesen und zu entscheiden, ob er sexistisch ist. Einige sagen: „Ja, das ist schrecklich“, während andere sagen: „Nein, das ist nur ein Witz.“ In den alten Tagen der Informatik, wenn die Mehrheit mit „Ja“ stimmte, ignorierte der Computer einfach die „Nein“-Stimmen und bezeichnete es als Tatsache. Aber was, wenn diese „Nein“-Stimmen keine Fehler sind? Was, wenn sie einfach Menschen sind, die die Welt durch unterschiedliche Linsen sehen? Dies ist das Herzstück eines Feldes, das man „perspektivistische“ Wissenschaft nennt. Sie argumentiert, dass Diskrepanzen, wenn Menschen uneinig sind, kein Rauschen sind, das gelöscht werden muss; sie sind ein Signal, das untersucht werden muss. Die große Frage lautet: Wie baut man einen Computer, der nicht einfach nur einen Gewinner auswählt, sondern tatsächlich versteht, warum verschiedene Menschen die Dinge unterschiedlich sehen?
Dieses Paper stellt ein cleveres neues System namens MAP-PO (Multi-Agent Perspectivist Preference Optimization) vor, um genau dieses Problem zu lösen. Anstatt zu versuchen, einen einzelnen Roboter zum „perfekten“ Richter zu machen, bauten die Forscher ein Team aus drei spezialisierten Roboter-Agenten. So haben sie es gemacht: Zuerlich betrachteten sie die Menschen, die die Daten etikettierten (die Menschen), und gruppierten sie nicht nach Alter oder Geschlecht. Stattdessen gruppierten sie sie danach, wie sie abstimmten. Einige Menschen waren sehr streng und sagten oft „Ja“; andere waren nachsichtiger. Die Forscher fanden heraus, dass diese „Abstimmungsstile“ der wahre Schlüssel zum Verständnis der Daten waren, nicht der Hintergrund der Menschen.
Als Nächstes trainierten sie einen Roboter-Agenten, um jeweils einen dieser drei Abstimmungsstile nachzuahmen. Aber hier war der knifflige Teil: Wenn sie jedem Roboter einfach gesagt hätten: „Höre nur auf deine eigene Gruppe“, drehten die Roboter durch. Sie wurden zu extremen Karikaturen, wobei ein Roboter zu allem „Ja“ sagte und ein anderer zu allem „Nein“ sagte, wodurch sie den Bezug zu den echten Menschen verloren, die sie eigentlich repräsentieren sollten. Das Paper fand heraus, dass die Roboter, um dies zu beheben, ein „Team-Signal“ benötigten. Sie mussten nicht nur dafür belohnt werden, ihrem eigenen Stil treu zu bleiben, sondern auch dafür, zusammenzuarbeiten, um die richtige Gesamtantwort zu erhalten. Als sie diese Team-Belohnung hinzufügten, blieben die Roboter ausgewogen. Sie lernten, distinkte Persönlichkeiten zu sein, ohne den Verstand zu verlieren. Am Ende war dieses Team aus drei Robotern besser darin, Sexismus zu erkennen, als jeder einzelne Roboter oder jedes altmodische Computerprogramm, was bewies, dass das Erhalten verschiedener Perspektiven ein intelligenteres, ehrlicheres System schafft.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.