💻 computer science

Reproducing FACTER: Fairness via Conformal Thresholding and Prompt Repair

Diese Arbeit präsentiert eine Reproduzierbarkeitsstudie des FACTER-Frameworks für faire, auf LLMs basierende Empfehlungen und zeigt auf, dass dieses zwar adaptive Schwellenwertverletzungen effektiv reduziert, sein iterativer Prompt-Reparaturmechanismus jedoch in beschränkten Re-Ranking-Szenarien nur begrenzten zusätzlichen Nutzen gegenüber statischen Fairness-Instruktionen bietet und aufgrund einer unterdeterminierten Evaluierung in der ursprünglichen Studie unter Utility-Divergenz leidet.

Ursprüngliche Autoren: Oscar Miró López-Feliu, Daimy van Loo, Xanthos Kekkos, Mikel Blom, Clara Rus

Veröffentlicht 2026-06-30

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Oscar Miró López-Feliu, Daimy van Loo, Xanthos Kekkos, Mikel Blom, Clara Rus

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen sehr klugen, aber leicht voreingenommenen digitalen Bibliothekar (ein Large Language Model), der Menschen Filme empfiehlt. Sie möchten diesen Bibliothekar gerecht machen sein: Wenn zwei Personen den gleichen Filmgeschmack haben, sollten sie auch die gleichen Vorschläge erhalten, unabhängig davon, ob einer ein Mann, eine Frau, jung oder alt ist.

Eine neue Methode namens FACTOR wurde vorgeschlagen, um dies zu beheben. Sie funktioniert wie ein zweistufiges Sicherheitsnetz:

Das Alarmsystem: Es legt einen „Fairness-Score“ fest. Wenn der Bibliothekar etwas vorschlägt, das zu sehr nach einem Klischee aussieht (z. B. nur Liebesfilme an Frauen zu empfehlen), schlägt der Alarm an.
Die Reparaturcrew: Wenn der Alarm anschlägt, schreibt das System eine Notiz an den Bibliotheken: „Hey, hör auf mit genau dieser Sache“, und fügt sie einer Liste von Regeln hinzu, die es in Zukunft zu vermeiden gilt. Außerdem passt es die Empfindlichkeit des Alarms etwas an, falls er zu oft anschlägt, um etwas nachsichtiger zu sein.

Das Ziel dieser Arbeit
Die Autoren dieser Arbeit wollten sehen, ob FACTER tatsächlich hält, was es verspricht. Sie versuchten, das System von Grund auf neu aufzubauen, indem sie die ursprünglichen Anweisungen und den Code verwendeten, wie ein Mechaniker, der versucht, einen Automotor unter Verwendung nur des Benutzerhandbuchs wieder aufzubauen. Sie testeten es an zwei Dingen:

Der ursprüngliche Test: Den Bibliothekar zu bitten, einfach aus dem Stegreif Filmtitel zu „erfinden“.
Ein neuer Test: Dem Bibliothekar eine feste Liste von 40 Filmen zu geben und ihn zu bitten, die besten 10 aus dieser Liste auszuwählen (wie eine Re-Ranking-Aufgabe).

Hier ist das, was sie herausfanden, einfach erklärt:

1. Die „Magie“ funktionierte im ursprünglichen Test nicht

In dem ursprünglichen Aufbau (bei dem der Bibliothekar Filmtitel aus dem Nichts erfinden musste) waren die Ergebnisse katastrophal. Der Bibliothekar konnte sich nicht einmal korrekt an die Namen der Filme erinnern. Es war, als würde man jemanden bitten, einen Film zu nennen, und er sagt immer wieder „Der mit dem Typen und dem Hund“ anstatt „Der König der Löwen“.

Weil der Bibliothekar einfach schon beim Benennen von Filmen so schlecht war, sahen die „Fairness“-Zahlen seltsam aus. Die Autoren erkannten, dass die ursprüngliche Studie möglicherweise eine sehr lockere Methode verwendet hatte, um zu prüfen, ob die Filmnamen übereinstimmten, was die Ergebnisse viel besser aussehen ließ, als sie tatsächlich waren.

2. Die „Reparaturcrew“ legte nur die Messlatte niedriger

Die interessanteste Erkenntnis betraf die Art und Weise, wie FACTER die Anzahl der „Alarme“ (Verstöße) reduzierte.

Die Behauptung: FACTER sollte den Bibliothekar besseres Verhalten lehren, indem es aus seinen Fehlern lernt.
Die Realität: Das System hat den Bibliothekar nicht wirklich besser gemacht. Stattdessen hat es lediglich die Hürden gesenkt, was als Fehler gilt.

Stellen Sie sich einen Lehrer vor, der eine Prüfung bewertet. Wenn der Schüler immer wieder Fragen falsch beantwortet, könnte der Lehrer entweder:
A) Den Schüler besser unterrichten (das Verhalten korrigieren).
B) Die Bestehensgrenze senken, damit der Schüler trotzdem besteht (den Schwellenwert anpassen).

FACTER tat hauptsächlich Option B. Es hielt die „Empfindlichkeit“ des Alarms niedrig genug, dass weniger Dinge den Alarm auslösten, aber die tatsächlichen Vorschläge des Bibliothekars wurden nicht wesentlich gerechter. Als die Autoren mit einem strengen, unveränderlichen Standard nachprüften, verschwand die „Fairness“-Verbesserung größtenteils.

3. Eine einfache Notiz funktioniert genauso gut wie der komplexe Roboter

Die Autoren erstellten eine einfachere Version des Systems: eine „Fair Zero-Shot“-Baseline. Dies ist lediglich ein Bibliothekar mit einer einzigen, statischen Notiz auf seinem Schreibtisch, auf der steht: „Sei fair gegenüber allen.“

Sie fanden heraus, dass diese einfache Notiz im „festen Listen“-Test (bei dem der Bibliothekar aus 40 Filmen wählt) genauso gut funktionierte wie das komplexe, selbstkorrigierende FACTER-System. Die schicke „Reparaturcrew“, die ständig die Regeln aktualisiert, bot keinen zusätzlichen Nutzen. Es war, als würde man ein Team von Ingenieuren engagieren, um einen leckenden Wasserhahn zu reparieren, wenn ein einfacher Schraubenschlüssel denselben Job erledigt hätte.

4. Das „Black-Box“-Problem

Die Studie hebt ein großes Problem dieser KI-Systeme hervor: Sie sind „Black Boxes“. Wir können nicht in ihr Gehirn schauen, um sie direkt zu reparieren. Wir können nur mit ihnen kommunizieren (Prompting) und beobachten, was sie sagen.

Die Autoren fanden heraus, dass, wenn sie versuchten, die KI zur Fairness zu zwingen, die KI oft der „Selbstsicherheit“ ihrer falschen Antworten den Vorzug gab, anstatt tatsächlich fair zu sein.
Die „Fairness-Strafe“ des Systems (der Teil, der Voreingenommenheit bestraft) wurde sogar mit der Zeit schlechter, obwohl das System versuchte, dies zu beheben. Die KI lernte einfach, die Fairness-Regeln zu ignorieren, um ihre Selbstsicherheit hoch zu halten.

Das Fazit

Das Papier kommt zu dem Schluss, dass FACTER zwar eine clevere Idee ist, aber nicht ganz das tut, was die ursprünglichen Autoren behaupteten.

Es reduziert die Anzahl der „Alarme“, die es auslöst, aber primt dies vor allem dadurch, dass es die Regeln leichter zu bestehen macht, und nicht dadurch, dass es die KI klüger oder gerechter macht.
In vielen Fällen funktioniert eine einfache, statische Anweisung, „fair zu sein“, genauso gut wie das komplexe, selbstaktualisierende System.
Die ursprünglichen Behauptungen darüber, wie gut das System in einem offenen Szenario (Erfinden von Filmtiteln) funktioniert, konnten nicht reproduziert werden; das System hatte Schwierigkeiten, überhaupt die Filme korrekt zu benennen, geschweige denn, fair zu sein.

Kurz gesagt: Der „selbstkorrigierende“ Magie-Trick von FACTER ist größtenteils eine Illusion. Es sieht so aus, als würde es das Problem lösen, indem es die Punktzahl anpasst, aber der Spieler (die KI) spielt das Spiel eigentlich nicht gerechter.

Technisches Resümee: Reproduktion von FACTER

Problemstellung

Große Sprachmodelle (LLMs) werden zunehmend als Empfehlungssysteme eingesetzt, da sie in der Lage sind, personalisierte Vorschläge in natürlicher Sprache zu generieren. Diese Modelle bergen jedoch das Risiko, gesellschaftliche Vorurteile (Biases) aus ihren Trainingsdaten zu verstärken, was zu systematisch unterschiedlichen Empfehlungen für Nutzer aus verschiedenen demografischen Gruppen führt. Während das Nachtrainieren von Modellen unter Fairness-Beschränkungen eine gängige Minderungsstrategie ist, erweist sich dies bei Black-Box-LLMs, die über APIs bereitgestellt werden, oft als unpraktikabel. Dies macht modellagnostische, Post-hoc-Interventionen notwendig.

Die Arbeit konzentriert sich auf die Reproduktion von FACTER (Fayyazi et al., 2025), einem Framework, das darauf ausgelegt ist, Fairness in LLM-basierten Empfehlungen durchzuführen, ohne die Modellparameter zu verändern. FACTER kombiniert konforme Prädiktion (Conformal Prediction), um einen Nichtkonformitäts-Schwellenwert zu kalibrieren, mit einem Mechanismus zur iterativen Prompt-Reparatur, der basierend auf detektierten Verstößen „AVOID“-Beschränkungen injiziert. Die ursprüngliche Studie behauptete, dass FACTER Fairness-Verstöße reduzieren könne, ohne die Nutzen der Empfehlungen (Utility) zu beeinträchtigen. Diese Arbeit untersucht die Reproduzierbarkeit dieser Behauptungen, adressiert Unklarheiten in der ursprünglichen Implementierung und evaluiert das Framework sowohl unter der ursprünglichen Setting der offenen Generierung als auch unter einer kontrollierten Re-Ranking-Erweiterung.

Methodik

Framework-Implementierung

Die Autoren haben FACTER von Grund auf neu implementiert, wobei sie sich an die theoretischen Formalisierungen der Originalarbeit halten und gleichzeitig Implementierungsdiskrepanzen behoben haben, die im öffentlichen Codebase gefunden wurden. Das Framework operiert in zwei Phasen:

Offline-Kalibrierung: Ein initialer Akzeptanzschwellenwert ( $Q^{(0)}_\alpha$ ) wird mittels Split-Conformal-Prediction etabliert. Ein Nichtkonformitäts-Score ( $S$ ) wird für Kalibrierungsinstanzen berechnet, der einen prädiktiven Fehlerterm (Abweichung von der Ground Truth) und eine Fairness-Strafe (semantische Distanz zu Empfehlungen gegeben an „kontrafaktische Nachbarn“ mit unterschiedlichen geschützten Attributen) kombiniert.
Online-Überwachung: Wenn Anfragen eingehen, prüft das System, ob der Nichtkonformitäts-Score den aktuellen Schwellenwert überschreitet. Tritt ein Verstoß auf:
- Prompt-Reparatur: Das System analysiert häufige Merkmale von Artikeln, die mit dem Verstoß assoziiert sind, und injiziert explizite „AVOID“-Beschränkungen in den System-Prompt (z. B. „Vermeiden: Geschlecht=F $\to$ Romanze“).
- Schwellenwert-Adaption: Der Schwellenwert wird mittels exponentieller Glättung aktualisiert, um den Akzeptanzbereich dynamisch anzupassen.

Experimentelles Setup

Die Studie evaluiert FACTER über zwei Datensätze (MovieLens-1M und Amazon Movies & TV) und drei LLM-Backbones (Llama 2-7B, Llama 3-8B, Mistral-7B).

Aufgaben: Die Evaluierung deckt die ursprüngliche offene Generierung (Open-Ended Generation) ab (bei der das LLM Item-Titel von Grund auf generiert) sowie eine neue kontrollierte Re-Ranking-Aufgabe (bei der das LLM eine feste Kandidatenmenge rankt).
Baselines: Die Studie führt eine Fair Zero-Shot-Baseline ein, die statische Fairness-Instruktionen ohne die iterative Reparatur-Schleife verwendet, um den Beitrag des dynamischen Mechanismus zu isolieren.
Metriken: Fairness wird über das Sensitive-to-Neutral Similarity Ratio (SNSR) und das Counterfactual Fairness Ratio (CFR) gemessen, neben den Verstoß-Zahlen (Violation Counts). Der Nutzen (Utility) wird über Recall@k und NDCG@k gemessen.

Kernergebnisse

1. Reproduzierbarkeit der offenen Generierung

Unter strikter Reproduktion der Aufgabe der offenen Generierung beobachteten die Autoren eine signifikante Divergenz im Empfehlungsnutzen.

Nutzen-Gap: Das reproduzierte Modell lieferte nahezu Null-Werte bei NDCG@10 und Recall@10, was in starkem Kontrast zu den starken Ergebnissen der Originalstudie steht. Diese Lücke wird auf die Schwierigkeit der Zero-Shot-Generierung und die unzureichend spezifizierten Zielmengen-Evaluationsprotokolle in der Originalarbeit zurückgeführt (z. B. String-Matching-Toleranzen und Konstruktion des Relevanz-Sets).
Fairness-Trends: Trotz der Nutzen-Lücke reduzierte FACTER die Anzahl der adaptiven Schwellenwert-Verstöße konsistent im Vergleich zur neutralen Baseline. Diese Reduktionen führten jedoch nicht konsistent zu Verbesserungen der globalen Fairness-Metriken (SNSR, CFR). In einigen Fällen war das CFR von FACTER schlechter als das der neutralen Baseline.

2. Performance in der Re-Ranking-Erweiterung

In der kontrollierten Re-Ranking-Umgebung, in der die Kandidatenmenge fixiert ist:

Nutzen: Der Nutzen der Empfehlungen war deutlich höher als bei der offenen Generierung, was bestätigt, dass die zugrunde liegenden LLMs relevante Items identifizieren können, wenn der Suchraum eingeschränkt ist.
Fairness: FACTER hielt niedrige adaptive Verstoßzahlen aufrecht. Jedoch erreichten statische Fairness-Instruktionen (Fair Zero-Shot) vergleichbare Ergebnisse hinsichtlich der semantischen Parität (SNSR, CFR) und der festen Schwellenwert-Verstoßzahlen wie die dynamische FACTER-Schleife.
Schwellenwert-Dynamik: Es wurde festgestellt, dass die Reduktion der Verstöße stark von dem adaptiven Schwellenwert abhängt. Bei der Evaluierung gegen einen festen, populationskalibrierten Schwellenwert waren die Verstoßzahlen von FACTER vergleichbar mit denen der Baselines, was darauf hindeutet, dass die scheinbare Verbesserung auf einer Schwellenwert-Relaxierung statt auf einer grundlegenden Verhaltensänderung beruht.

3. Mechanismus-Analyse

Eine Komponentenanalyse der Nichtkonformitäts-Scores ergab, dass sich der prädiktive Fehler über die Iterationen hinweg zwar geringfügig verbesserte, die Fairness-Strafe jedoch tatsächlich anstieg. Dies deutet darauf hin, dass die injizierten „AVOID“-Beschränkungen oft nicht ausreichten, um die prädiktive Verteilung des Modells zu überschreiben, was potenziell die kontrafaktische Stabilität destabilisiert. Die dynamische Reparatur-Schleife bot im Vergleich zum statischen Prompting in der kontrollierten Ranking-Formulierung nur begrenzten Zusatznutzen.

Bedeutung und Behauptungen

Die Arbeit positioniert sich als eine „Best-Effort“-Reproduktions-Audit und nicht als eine definitive Beurteilung der ursprünglichen Ergebnisse, wobei auf Unklarheiten in der Originalarbeit und im Code verwiesen wird. Ihre primären Beiträge sind:

Dokumentation von Grenzen: Sie hebt hervor, dass die ursprünglichen Behauptungen zum Nutzen der offenen Generierung unter identischen Settings nicht reproduziert werden konnten, was wahrscheinlich auf unzureichend spezifizierte Evaluationsprotokolle zurückzuführen ist.
Isolierung von Mechanismen: Durch die Einführung der Fair Zero-Shot-Baseline zeigt die Studie, dass die iterative Prompt-Reparatur-Schleife einen begrenzten marginalen Nutzen gegenüber statischen Fairness-Instruktionen in kontrollierten Ranking-Aufgaben bietet.
Schwellenwert vs. Verhalten: Die Analyse legt nahe, dass der primäre Mechanismus von FACTER zur Reduktion der Verstoßzahlen die adaptive Schwellenwert-Relaxierung ist und nicht die erfolgreiche Auslöschung von Bias durch Prompt-Reparatur.
Reproduzierbarkeits-Einschränkungen: Die Arbeit unterstreicht die Notwendigkeit transparenter Evaluationsprotokolle bei offenen generativen Aufgaben und die Herausforderungen bei der Reproduktion modellagnostischer Fairness-Frameworks, wenn Implementierungsdetails (z. B. Konstruktion des Ziel-Sets, Berechnung der Metriken) mehrdeutig sind.

Die Autoren kommen zu dem Schluss, dass, obwohl die konforme Prädiktion effektiv interne Verstoßzahlen begrenzt, die praktische Notwendigkeit der Online-Reparatur-Schleife in kontrollierten Settings fragwürdig ist, wo statische Instruktionen eine effizientere Alternative darstellen könnten. Sie fordern zukünftige Forschung dazu auf, Mechanismen zu untersuchen, die semantische Grenzen während des Decodings erzwingen, und die Fairness-Strafen besser gegen die prädiktive Konfidenz zu kalibrieren.