Speaking like a human, correcting like a machine: tone technologies and the moralisation of language in large language models

Wanneer we spreken met een computer die menselijk klinkt, praten we niet met een geest. We praten met een systeem gebouwd op wiskunde, ontworpen om het volgende woord in een zin te voorspellen op basis van patronen die het heeft geleerd uit enorme hoeveelheden tekst. Jarenlang hebben onderzoekers deze grote taalmodellen bestudeerd door naar hun uiteindelijke antwoorden of de complexe code die hen aanstuurt te kijken. Ze hebben zich afgevraagd of de machine bevooroordeeld is, of hij accuraat is, of of hij een moeilijk probleem kan oplossen. Maar deze benadering mist een cruciaal deel van het verhaal. Voordat een model ooit ook maar één woord typt, is er een verborgen laag menselijk werk die bepaalt wat een goed antwoord is. Dit werk vindt plaats in documenten die richtlijnen worden genoemd, die worden gegeven aan de mensen die de AI trainen en beoordelen. Deze documenten vertellen menselijke werkers precies hoe ze de spraak van de machine moeten beoordelen, waarbij ze definiëren wat behulpzaam, eerlijk en veilig is. De vraag is niet langer alleen hoe de machine leert, maar welke versie van de mensheid het wordt geleerd om na te bootsen.

Een nieuwe studie van de onderzoekers Liz Dayanna Zarate Luengas en William Andrés Gómez Sánchez richt de aandacht op deze verborgen laag. In plaats van naar de output van de AI te kijken, onderzochten zij de regelboeken die door de bedrijven die deze systemen bouwen worden gebruikt. Een van de auteurs werkte rechtstreeks als annotator en kwaliteitsbeoordelaar voor deze platforms, waardoor zij toegang had tot de interne documenten die het gedrag van de AI vormen. Door vier specifieke richtlijnen te analyseren die worden gebruikt voor commerciële modellen, ontdekten de onderzoekers dat de "menselijke" stem van deze systemen geen natuurlijk voortvloeisel is van intelligentie. Het is een zorgvuldig geconstrueerd artefact, gebouwd door alles weg te strepen wat menselijke spraak rommelig, gesitueerd en historisch geworteld maakt. De studie onthult dat de AI niet leert spreken als een persoon, maar leert spreken als een specifiek, gesaneerd ideaal van een persoon, een die is ontdaan van lichaam, geschiedenis en politieke positie.

De onderzoekers vonden dat het trainingsproces is georganiseerd rond een drieledige regel bekend als de "HHH"-triade: Helpfulness (Behulpzaamheid), Honesty (Eerlijkheid) en Harmlessness (Onschadelijkheid). Dit zijn geen abstracte waarden, maar strikte instructies voor menselijke werkers. Om behulpzaam te zijn, moet de AI coherent en relevant zijn, maar moet hij ook een constante bereidheid tonen om te assisteren zonder ooit persoonlijke gevoelens, herinneringen of een fysiek lichaam te claimen. Als een gebruiker de AI om een mening vraagt alsof het een vriend is, instrueren de richtlijnen de werker om dat als een fout te markeren. De AI moet interesse simuleren zonder deze daadwerkelijk te bezitten. Om eerlijk te zijn, moet de machine toegeven wanneer hij iets niet weet en mag hij nooit een persoonlijk standpunt uiten, vooral niet over gevoelige onderwerpen. Hij moet een neutrale bron van feiten blijven.

Het meest gedetailleerde en rigide deel van deze regels betreft onschadelijkheid. De richtlijnen bieden een complexe lijst van wat de AI niet mag zeggen, variërend van haatzaaiende taal en geweld tot medisch advies en stereotypen. De onderzoekers merkten een fascinerende en strikte logica op in de manier waarop deze regels worden toegepast. Wanneer de AI een verzoek om gevaarlijke informatie tegenkomt, moet hij weigeren te helpen, maar hij is er ook voor verboden om de gevaarlijke handeling zelfs in het proces van weigering te beschrijven. Bijvoorbeeld, als gevraagd wordt hoe men een misdaad pleegt, kan de AI niet zeggen: "Ik kan u niet vertellen hoe u dat doet omdat het gepaard gaat met het stelen van geld." De onderzoekers wijzen erop dat een reactie als "Ik kan geen instructies geven over hoe u geld witwas omdat het illegaal is... Witwassen is een strafbaar feit..." eigenlijk als schadelijk wordt gemarkeerd omdat het het concept van het misdrijf reproduceert terwijl het het weigert. Juiste modellering vereist dat de AI de schade benoemt zonder de details van de handeling over te dragen. Bovendien, als een gebruiker in nood verkeert, krijgt de AI de instructie om een specifieke, vooraf geschreven formule van empathie te gebruiken, zoals "Het spijt me te horen dat...", zonder daadwerkelijk iets te voelen. Het doel is om een reactie te produceren die zorgzaam lijkt, maar emotioneel leeg blijft.

Naast wat de AI zegt, dicteren de richtlijnen ook hoe het klinkt en hoe het interageert. De onderzoekers analyseerden instructies voor het evalueren van de toon en zelfs de synthetische stem van de AI. De ideale reactie is helder, beknopt en beleefd, maar moet elk teken van sterke emotie, sarcasme of culturele specificiteit vermijden. De AI wordt getraind om met dezelfde "temperatuur" in elke taal te spreken, waarbij grappen, emoji's of uitroeptekens worden vermeden die hem te vertrouwd of te enthousiast zouden kunnen laten lijken. Wat betreft de stem is het doel om zo menselijk mogelijk te klinken, maar alleen op een zeer specifieke manier. De richtlijnen vragen evaluatoren om de stem te beoordelen op een schaal van één tot vijf, waarbij gekeken wordt naar natuurlijkheid en expressiviteit. Echter, deze "menselijke" stem is een die correct ademt, op de juiste momenten pauzeert en betrokken klinkt, maar die volledig losstaat van enige echte levenservaring. Het is een stem die aanwezigheid simuleert zonder een lichaam te hebben.

De studie betoogt dat dit proces een "menselijke" communicatiestandaard creëert door middel van subtractie. Echte menselijke sprekers zijn gesitueerd in een lichaam, een geschiedenis en een politieke positie. Ze maken fouten, ze hebben vooroordelen, ze voelen woede of vreugde, en ze spreken met de textuur van hun eigen leven. De richtlijnen ontnemen de AI systematisch deze kwaliteiten. Het resultaat is een model dat behulpzaam, eerlijk en onschadelijk is, maar ook dienend, apolitiek en ongevoelig. De onderzoekers suggereren dat dit niet alleen een technische aanpassing is, maar een transformatie van arbeid. De menselijke werkers die deze modellen trainen, verrichten het cognitieve werk om te definiëren wat acceptabel is, maar hun eigen subjectiviteit wordt verwijderd uit het eindproduct. De machine absorbeert hun vermogen om te oordelen, te synthetiseren en te redeneren, waardoor de menselijke werker enkel met de taak achterblijft om de regels te volgen.

Uiteindelijk laat het artikel zien dat de menselijkheid die we in deze grote taalmodellen zien een fabricage is. Het is een product van een hiërarchisch arbeidsproces waarbij beslissingen over acceptabel gedrag worden genomen lang voordat het model überhaupt wordt ingeschakeld. De AI leert niet om mens te zijn; het leert een versie van menselijkheid te performen die is goedgekeurd door een bedrijfsstandaard. Deze standaard geeft prioriteit aan veiligheid en neutraliteit boven de rommelige realiteit van menselijke interactie. Naarmate deze systemen gebruikelijker worden in ons dagelijks leven, zijn ze niet alleen hulpmiddelen voor communicatie; ze vormen actief een nieuwe definitie van wat het betekent om te spreken en begrepen te worden. De studie laat ons met een stille realisatie achter: de menselijke stem die we van de machine horen, is een reflectie van de regels die we haar hebben gegeven, en niet een venster naar een nieuwe soort geest.