Bye Bye Perspective API: Lessons for Measurement Infrastructure in NLP, CSS and LLM Evaluation
Dit artikel bekritiseert de structurele afhankelijkheid van NLP- en LLM-onderzoek van de nu sluitende proprietaire Perspective API, benadrukt hoe de ondoorzichtige updates en de eenzijdige operationalisering van toxiciteit tot niet-reproduceerbare resultaten hebben geleid, en pleit voor de totstandkoming van een onafhankelijke, valide en reproduceerbare meetinfrastructuur om vergelijkbare epistemische risico's in de toekomst te voorkomen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je het internet voor als een enorm, chaotisch stadsplein waar elke seconde miljoenen mensen schreeuwen, ruziën en verhalen delen. Om te voorkomen dat dit plein in totale chaos verzandt, hadden onderzoekers een manier nodig om automatisch de kwade, hatelijke of giftige schreeuwen op te sporen.
Bijna een decennium lang vertrouwde het hele plein op één gratis hulpmiddel, de Perspective API, om deze taak uit te voeren. Het was als een universele "Giftigheidsmeter" in handen van een technologiebedrijf (Jigsaw van Google). Iedereen gebruikte het om te meten hoe onbeleefd mensen waren, om te beoordelen hoe "veilig" nieuwe AI-chatbots waren, en om online gedrag te bestuderen.
Nu draaien de eigenaren van de meter het einde van 2026 uit. Dit artikel betoogt dat het verlies van het hulpmiddel verdrietig is, maar dat het echte probleem is dat de hele onderzoeksgemeenschap zijn huis bouwde op een fundament dat ze niet bezaten, niet begrepen en niet konden repareren.
Hier is de uiteenzetting van het argument van het artikel, met behulp van eenvoudige analogieën:
1. De "Black Box"-meter
Stel je voor dat je een weegschaal koopt om je boodschappen te wegen. Je vertrouwt het omdat het gratis is en iedereen het gebruikt. Maar je realiseert je:
- De eigenaren veranderen de gewichten: Elke paar maanden wisselt het bedrijf in het geheim de interne veren van de weegschaal zonder het je te vertellen. Op een dag weegt een zak appels van 5 pond 5 pond; de volgende dag weegt het 6 pond, maar de weegschaal zegt nog steeds "5".
- De instructies zijn vaag: Het bedrijf zegt: "Dit meet 'slechtheid'." Maar ze leggen nooit uit wat slechtheid is. Is het een luid stemgeluid? Een onbeleefd woord? Een specifiek type belediging? Ze geven je gewoon een getal tussen 0 en 1 en zeggen: "Jij bepaalt wat te hoog is."
- De context ontbreekt: De weegschaal weegt alleen de appel in isolatie. Het weet niet of de appel naar iemand werd gegooid (giftig) of of iemand grapte over een appel (niet giftig). Het behandelt elke zin alsof het in een vacuüm zweeft.
2. De "Circulaire" valstrik
Omdat de meter zo makkelijk te gebruiken was, begonnen onderzoekers hem te gebruiken om andere computers te trainen tot haat-detectiemachines.
- De lus: Ze gebruikten de Perspective API om data te labelen (bijvoorbeeld: "Deze zin is giftig"). Vervolgens trainden ze nieuwe AI-modellen op die data. Tot slot testten ze die nieuwe modellen door te kijken of ze het eens waren met de Perspective API.
- Het probleem: Het is alsof een student een toets maakt, vervolgens de antwoordensleutel gebruikt om zichzelf te beoordelen, en vervolgens claimt dat hij een genie is omdat hij 100% haalde. Ze maten geen "giftigheid"; ze maten gewoon "hoe goed je het eens bent met de huidige definitie van giftigheid van Google".
3. De verborgen vooroordelen
Omdat de meter de context of cultuur niet begreep, maakte het consistente fouten die de onderzoekers niet konden zien of oplossen:
- Straffen van de slachtoffers: Het merkte vaak woorden op die door gemarginaliseerde groepen werden gebruikt (zoals herwonnen scheldwoorden of LGBTQ+-termen) als "giftig", omdat het niet wist wie ze zei of waarom.
- Het echte haat verzuimen: Het miste subtiele, gecodeerde haatzaaiende taal omdat het alleen naar oppervlakkige onbeleefde woorden keek.
- Taalvooroordeel: Het was veel strenger met Duitse tekst dan met Engelse tekst, niet omdat Duits ruiger is, maar omdat de mensen die het model trainden verschillende culturele vooroordelen hadden.
4. De "Plotselinge Afsluiting"-schok
Toen het bedrijf aankondigde dat ze de API zouden afsluiten, lieten ze geen handleiding, geen back-up of geen versiegeschiedenis achter.
- Het resultaat: Alle onderzoeksartikelen die in het afgelopen decennium zijn geschreven en die op dit hulpmiddel leunden, zijn nu "niet reproduceerbaar". Als je vandaag hetzelfde experiment probeert te runnen, krijg je niet dezelfde resultaten, omdat de "liniaal" waarmee ze maten niet meer bestaat. Het is alsof je probeert de hoogte van een gebouw te meten met een liniaal die is gesmolten.
5. De waarschuwing: Vervang de meter niet zomaar
De auteurs waarschuwen dat de makkelijkste oplossing – gewoon een nieuw, gesloten hulpmiddel van een ander groot technologiebedrijf (zoals OpenAI) te gebruiken – een valstrik is.
- Het risico: Deze nieuwe hulpmiddelen zijn ook "black boxes". Ze kunnen nog minder transparant zijn, getraind op data verzameld van uitgebuite werknemers, en bijgewerkt zonder waarschuwing. Als we gewoon één black box vervangen door een andere, herhalen we gewoon dezelfde fouten.
De oplossing: Bouw onze eigen liniaal
Het artikel roept de onderzoeksgemeenschap op om te stoppen met het behandelen van meten als een "dienst" die iemand anders verleent. In plaats daarvan moeten ze hun eigen infrastructuur bouwen. Dit nieuwe systeem moet het volgende hebben:
- Open Source: Iedereen kan zien hoe het werkt en de wiskunde controleren.
- Contextbewustzijn: Het moet weten wie er spreekt, met wie ze praten en de geschiedenis van het gesprek.
- Inbreng van de gemeenschap: De definitie van "giftigheid" mag niet door één bedrijf worden bepaald; het moet de gemeenschappen betreffen die worden gemeten.
- Transparantie: We moeten precies weten hoe de data is gelabeld en wie de labeling heeft gedaan.
Kortom: Het artikel betoogt dat het een fout was om te vertrouwen op één geheim, zakelijk hulpmiddel om menselijk gedrag te meten. De sluiting van dat hulpmiddel is een wake-up call. Onderzoekers moeten stoppen met passieve gebruikers van zakelijke hulpmiddelen te zijn en beginnen met het bouwen van hun eigen open, eerlijke en transparante manieren om te meten wat er toe doet.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.