Responsible Intelligence in Practice: A Fairness Audit of Open Large Language Models for Library Reference Services

Probleemstelling

Bibliotheken onderzoeken momenteel Large Language Models (LLM's) als een schaalbare laag voor referentiediensten om toegang tot informatie te verbreden. Een centrale vraag is echter of deze LLM-gestuurde diensten alle gebruikers eerlijk behandelen, ongeacht hun demografische identiteit (zoals ras, etniciteit en geslacht).
Hoewel LLM's potentieel bieden, bestaat het risico dat ze maatschappelijke vooroordelen uit hun trainingsdata reproduceren, wat de professionele waarden van bibliotheken (onpartijdigheid en gelijke toegang) kan ondermijnen. Eerdere studies hebben aangetoond dat menselijke referentiediensten vaak ongelijk worden behandeld op basis van waargenomen ras of geslacht. Er is een dringende noodzaak om te evalueren of open LLM's (die lokaal kunnen worden gedeployed) deze historische bias overnemen of juist een neutrale, eerlijke dienstverlening garanderen.

Methodologie

De auteurs hanteren een systematische evaluatiebenadering, het Fairness Evaluation Protocol (FEP), dat bestaat uit twee fasen: diagnostische classificatie en linguïstische interpretatie.

1. Data Generatie en Simulatie:

• Query Templates: Er werden synthetische e-mails gegenereerd voor zowel academische als openbare bibliotheken.
  • Academisch: Drie types (onderwerp, sport, bevolkingsgegevens).
  • Openbaar: Drie types (printen/scan/verzend, CV-uploaden, wachtwoordherstel).
• Demografische Synthese: De afzenders werden geïdentificeerd via namen die zijn samengesteld uit de US Social Security Administration (voor voornamen) en de US Census Bureau (achternamen). Dit resulteerde in 12 demografische groepen (combinaties van geslacht: man/vrouw en ras/etniciteit: Wit, Zwart/Afrikaans-Amerikaans, Aziatisch/Stille Oceaan, Indiaans/Alaska, Twee of meer rassen, Spaans/Latijns-Amerikaans).
• Prompt Constructie: De e-mails werden gepresenteerd aan de LLM's met een systeemprompt die de AI instrueerde om te handelen als een behulpzame, respectvolle en eerlijke bibliothecaris.

2. Geëvalueerde Modellen:
Drie state-of-the-art open LLM's werden getest, allemaal geconfigureerd met een temperatuur van 0.7 en 5 verschillende random seeds:

• Llama-3.1 8B (Meta)
• Gemma-2 9B (Google)
• Ministral 8B (Mistral AI)
  Elk model genereerde 2.500 responsen per setting (academisch en openbaar), wat resulteerde in een totaal corpus van 15.000 interacties.

3. Evaluatie Protocol (FEP):

• Fase 1: Diagnostische Classificatie: Er werd getest of een classifier (Logistic Regression, MLP, XGBoost) de demografische achtergrond van de gebruiker kon voorspellen op basis van de tekst van het antwoord van de LLM. De invoer bestond uit TF-IDF features van de top 120 (of 60 voor Gemma-2) meest representatieve woorden.
  • Nullhypothese: Als er geen bias is, zou de nauwkeurigheid van de classifier dicht bij het toevalsniveau moeten liggen (50% voor geslacht, 16,7% voor ras).
  • Significantie: Een Bonferroni-correctie werd toegepast om de drempel voor statistische significantie te verlagen (α = 0,0056).
• Fase 2: Interpretatie: Als significante verschillen werden gevonden, werd een statistisch logistiek regressiemodel gebruikt om specifieke "salient markers" (woorden) te identificeren die de classificatie drijven. Dit werd gevisualiseerd met volcano plots om te bepalen of verschillen voortkwamen uit bias of contextuele variatie.

Belangrijkste Resultaten

1. Ras en Etniciteit:
Er werd geen enkel bewijs gevonden voor systematische differentiatie op basis van ras of etniciteit.

• Bij alle drie de modellen, in beide bibliothekssettings en met alle drie de classifiers, bleef de classificienauwkeurigheid rond het toevalsniveau.
• Geen van de 18 tests voor ras/etniciteit was statistisch significant na correctie. Dit suggereert dat de onderzochte open LLM's, wanneer geprompt als bibliothecarissen, geen bias vertonen op basis van de naam van de gebruiker.

2. Geslacht:
De resultaten waren over het algemeen evenwichtig, maar er was één uitzondering:

• Llama-3.1 (Academische setting): Dit model toonde een statistisch significant, maar klein, geslachtsgebonden verschil. De classifiers konden het geslacht voorspellen met een nauwkeurigheid die 3,64% (LogReg) tot 5,76% (XGBoost) boven het toevalsniveau lag.
• Oorzaak: De analyse toonde aan dat dit verschil bijna uitsluitend werd gedreven door het gebruik van het aanhefwoord "dear".
  • "Dear" werd in 66,2% van de antwoorden aan vrouwelijke gebruikers gebruikt, tegenover 48,4% bij mannelijke gebruikers.
  • Dit is een oppervlakkig stilistisch verschil en geen verschil in de inhoudelijke kwaliteit, volledigheid of hulpvaardigheid van het antwoord.
• Andere modellen: Ministral en Gemma-2 toonden geen significant geslachtsgebonden verschil in geen van beide settings. Llama-3.1 toonde in de openbare bibliotheek-setting ook geen significant verschil.

Belangrijkste Bijdragen

1. Empirisch Bewijs voor Open Modellen: Het artikel biedt empirisch bewijs dat moderne open LLM's (Llama-3.1, Gemma-2, Ministral) in staat zijn om eerlijke referentiediensten te verlenen zonder systematische bias op basis van ras of etniciteit, wat een verbetering is ten opzichte van eerdere studies over menselijke bias en oudere AI-modellen.
2. Validatie van FEP: De studie valideert en breidt het Fairness Evaluation Protocol uit naar openbare bibliotheken, bewijzend dat deze tweestapsmethode (detectie + interpretatie) effectief is om onderscheid te maken tussen echte bias en contextuele variatie.
3. Nuancering van Bias: Het onderzoek toont aan dat zelfs wanneer statistische signalen worden gedetecteerd (zoals bij Llama-3.1), deze niet per se leiden tot discriminatoire inhoud, maar kunnen voortkomen uit subtiele, culturele patronen in beleefdheid (bijv. "Dear" vs. "Hello").
4. Open Source Benadering: Door zich te focussen op open modellen, benadrukt het artikel het belang van lokale controle en transparantie voor bibliotheken om zelf audits uit te kunnen voeren.

Betekenis en Implicaties

• Professionele Waarden: De bevindingen bieden hoop dat AI-tools de toewijding van bibliotheken aan onpartijdige toegang tot informatie kunnen ondersteunen in plaats van ondermijnen.
• Onderscheid tussen Bias en Context: Het onderzoek waarschuwt dat "eerlijkheid" niet statisch is. Zelfs kleine linguïstische patronen (zoals beleefdheidsvormen) moeten worden gecontroleerd, maar ze hoeven niet altijd te leiden tot het afwijzen van een tool als ze geen inhoudelijke schade toebrengen.
• Beleid en Toezicht: Bibliotheken moeten fairness niet als een eenmalige check zien. Gezien de snelle evolutie van modellen, is continue monitoring essentieel.
• Governance: De auteurs pleiten voor "verantwoordelijke intelligentie", waarbij technische audits worden gecombineerd met professionele oordelen en participatie van de gemeenschap. Open modellen maken dit mogelijk omdat bibliotheken de infrastructuur zelf kunnen beheren.
• Toekomstige Richtingen: Er is behoefte aan verder onderzoek naar intersectionaliteit (bijv. zwarte vrouwen vs. blanke mannen), diverse taalstijlen (dialecten zoals AAVE) en de impact van tool-integratie op eerlijke dienstverlening.

Kortom, de studie concludeert dat open LLM's momenteel veelbelovend zijn voor eerlijke bibliotheekdiensten, maar dat bibliotheken actief moeten blijven toezien om te garanderen dat deze systemen in lijn blijven met hun ethische missie.