Detection != Reliable Control: Decodable Empathy Directions Yield at Most Partial Shifts in Automated Empathy Scores
Dit artikel toont aan dat hoewel decodeerbare empathierichtingen in instructie-afgestemde LLM's betrouwbaar geautomatiseerde empathiescores kunnen detecteren en gedeeltelijk kunnen verschuiven, ze geen betrouwbare causale hefbomen vormen voor uitgebreide controle, met name omdat ze er niet in slagen meetbare door mensen waargenomen veranderingen of consistente effecten over verschillende empathiefacetten en modellen te produceren.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de snel evoluerende wereld van kunstmatige intelligentie zijn onderzoekers steeds meer geïnteresseerd in de vraag of machines werkelijk menselijke emoties kunnen begrijpen. Een populair idee suggereert dat als we een specifiek patroon in het "brein" van een computer kunnen vinden dat overeenkomt met een gevoel zoals empathie, we een draaiknop zouden moeten kunnen gebruiken om de machine meer van dat gevoel te laten uiten. Dit concept rust op de overtuiging dat als een computer "gelezen" kan worden om aan te tonen dat hij een bepaald kenmerk bezit, hij ook "gestuurd" kan worden om dat kenmerk naar believen te veranderen. Dit is bijzonder belangrijk nu deze systemen worden ingezet om emotionele steun te bieden aan mensen in nood, waarbij het verschil tussen een helpende reactie en een kille reactie aanzienlijk kan zijn. De aanname dat het detecteren van een gevoel in een machine hetzelfde is als het in staat zijn om het betrouwbaar te controleren, is echter nog nooit grondig getest in de complexe, echte wereld van empathie.
Een nieuwe studie van de University of Southern California daagt deze aanname uit door drie verschillende grote taalmodellen te onderzoeken, wat de krachtige AI-systemen zijn achter veel moderne chatbots. De onderzoekers concentreerden zich op twee verschillende delen van empathie die psychologen al lang herkennen: het vermogen om het perspectief van een ander te begrijpen, bekend als cognitieve empathie, en het vermogen om hun gevoelens te delen of mee te voelen, bekend als affectieve empathie. Het team bevestigde eerst dat ze inderdaad signalen voor beide eigenschappen konden detecteren binnen de interne werking van de AI-modellen. Ze vonden specifieke richtingen in de computergegevens die reacties met een hoge mate van empathie duidelijk scheidden van reacties met een lage mate van empathie. Deze detectie werkte goed, wat suggereert dat de modellen inderdaad interne representaties van deze concepten bezitten.
De cruciale test was echter of het toevoegen van een kleine duw in de richting van deze gedetecteerde signalen de actie van de AI op een betekenisvolle manier zou veranderen. De onderzoekers pasten deze duwtjes toe, waarbij ze effectief probeerden de modellen meer empathisch te sturen, en maten vervolgens de resultaten met behulp van meerdere geautomatiseerde beoordelaars en een gespecialiseerde classifier. De resultaten toonden een scherpe tweedeling tussen de twee soorten empathie. Wanneer het team probeerde de affectieve, of emotionele, resonantie te vergroten, zagen ze een meetbare verandering, maar deze was slechts gedeeltelijk. In het best presterende model verhoogde de interventie de empathiescore met ongeveer een kwart van het natuurlijke gat tussen een neutrale reactie en een volledig empathische reactie. De AI werd niet volledig empathisch; het verschoof slechts licht in die richting. In de andere geteste modellen was het effect zelfs kleiner, soms nauwelijks merkbaar.
Het verhaal was anders voor cognitieve empathie, het vermogen om de situatie van een ander te begrijpen en te verwoorden. Hier ontdekten de onderzoekers dat, ongeacht hoe ze de modellen probeerden te sturen, de geautomatiseerde scores niet veranderden. De studie biedt echter een cruciale nuance: dit gebrek aan verandering was niet noodzakelijkerwijs het bewijs dat de AI niet empathischer gemaakt kon worden. De instrumenten die werden gebruikt om cognitieve empathie te meten, blekenen te bot om de subtiele verschillen te detecteren die de interventie mogelijk had gecreëerd. De meetinstrumenten konden het verschil zien tussen een volledig neutrale boodschap en een zeer emotionele boodschap, maar ze konden niet betrouwbaar twee verschillende niveaus van begrip binnen het domein van emotionele ondersteuning onderscheiden. Omdat het meetinstrument zelf niet gevoelig genoeg was, concludeerden de onderzoekers dat het effect van de sturing onmeetbaar was in plaats van bewezen nul te zijn.
Misschien wel het meest significant was de bevinding van de studie dat, zelfs wanneer de geautomatiseerde scores verschoven, er geen bewijs was dat menselijke lezers de verandering zouden waarnemen. Een panel van menselijke vrijwilligers kreeg de opdracht om de gestuurde reacties te beoordelen, maar zij slaagden er niet in om consistent te identificeren welke reacties empathischer waren. Dit suggereert dat de veranderingen die de AI maakte niet de soort verschuivingen waren die een mens zou opmerken of waarderen. De onderzoekers testten ook of het volledig verwijderen van deze empathiesignalen de AI minder empathisch zou maken. In één specifiek model leidde het verwijderen van het signaal voor cognitief begrip weliswaar tot lagere scores, maar dit effect was gekoppeld aan het feit dat de AI kortere reacties schreef, wat het meetinstrument toevallig afrekende. Wanneer de onderzoekers rekening hielden met de lengte van de tekst, bleef het effect op de cognitieve score bestaan, maar het was nog steeds geen zuivere, betrouwbare schakelaar die gebruikt kon worden om het gedrag van de AI te controleren.
Uiteindelijk demonstreert de studie dat het vinden van een signaal voor empathie in een AI niet hetzelfde is als het hebben van een betrouwbare controle om het te produceren. Hoewel de modellen een zetje kunnen krijgen om iets meer emotionele resonantie te tonen, is het effect beperkt en vertaalt het zich niet in een door mensen waargenomen verbetering. Het vermogen om een kenmerk te detecteren garandeert niet het vermogen om het te sturen, vooral wanneer de instrumenten die het resultaat meten niet fijngevoelig genoeg zijn om de veranderingen te zien. Deze bevinding dient als een waarschuwing voor degenen die hopen AI voor emotionele ondersteuning in te zetten, aangevend dat het simpelweg opendraaien van een "draaiknop" voor empathie niet de genuante, menselijke verbinding zal opleveren die nodig is. Het onderzoek benadrukt de kloof tussen wat een machine kan laten zeggen en wat een mens daadwerkelijk ervaart als empathie, en roept op tot een meer zorgvuldige aanpak bij het meten en controleren van deze complexe gedragingen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.