LLM-enabled Social Agents
Dit artikel betoogt dat grote taalmodellen om te functioneren als sociaal begrijpelijke agenten verankerd moeten zijn in roldefinities die worden geoperationaliseerd via personagebeschrijvingen, en schetst het toekomstige onderzoeksrichtingen op het gebied van representatie, hybride controle en evaluatie om dit te bereiken.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Probleem: Vloeiende Sprekers versus Sociale Wezens
Stel je een robot voor die perfect Engels spreekt. Het kan elk vraag beantwoorden, een grapje vertellen en een gedicht schrijven. Maar als je het vraagt om te fungeren als een "leraar" in een klaslokaal, zou het zomaar kunnen kletsen zonder ooit daadwerkelijk les te geven, de klas te managen of te begrijpen dat het geduld moet hebben met een student die moeite heeft.
De auteurs van dit paper betogen dat het feit dat een AI goed spreekt, niet betekent dat het weet hoe het sociaal moet "handelen".
Momenteel zijn de meeste AI-systemen ontworpen als super-efficiënte rekenmachines: ze richten zich erop de taak snel te voltooien. Maar in de echte wereld gaat sociaal zijn niet alleen om efficiëntie; het gaat om het weten van je plek, je regels en je relaties. Het paper stelt dat we moeten stoppen met het behandelen van "sociaal gedrag" als een extra functie die we later toevoegen, en moeten beginnen met het inbouwen in het brein van de AI vanaf het allerbegin.
De Oplossing: De "Persona"-Blueprint
Het paper stelt een nieuwe manier voor om deze AI-agenten te bouwen. In plaats van ze alleen een functietitel te geven (zoals "Assistent" of "Dokter"), moeten we ze een Persona-beschrijving geven.
Denk aan een Functietitel als een naamplaatje. Het vertelt je wat de persoon doet, maar niet hoe ze het doen.
Denk aan een Persona als een volledig personageblad voor een acteur. Het bevat:
- Wie ze zijn: Hun persoonlijkheid, waarden en eigenaardigheden.
- Waar ze om geven: Hun doelen en prioriteiten.
- De regels die ze volgen: Hun grenzen en verplichtingen.
- Wie ze kennen: Hun relaties met anderen.
De Analogie:
Stel je voor dat je een toneelstuk regisseert.
- De Oude Manier: Je zegt tegen de acteur: "Jij bent de Held." De acteur kan rondrennen en schreeuwen, maar ze weten misschien niet waarom ze de held zijn of hoe ze zich heroïsch moeten gedragen in een specifieke scène.
- De Manier van het Paper: Je geeft de acteur een Personagebijbel. Daarin staat: "Jij bent een Held die moed waardeert maar bang is om onschuldigen te kwetsen. Je bent momenteel een dorp aan het beschermen, dus je moet veiligheid boven snelheid prioriteren. Je hebt een belofte aan de Koning te houden." Nu, wanneer de scène verandert, weet de acteur precies hoe te reageren omdat ze hun rol begrijpen, niet alleen hun label.
Hoe Het Werkt: Het "Hybride" Brein
Het paper stelt voor dat de AI niet alleen moet vertrouwen op haar taalmodel (het deel dat praat) om alles te onthouden. In plaats daarvan heeft het een Hybride Architectuur nodig.
Stel je een Dirigent en een Orkest voor:
- Het LLM (Taalmodel) is de Dirigent. Het luistert naar de muziek (het gesprek), interpreteert de stemming en beslist welke noet als volgende gespeeld moet worden. Het is flexibel en creatief.
- De Persona en het Geheugen zijn de Bladmuziek en de Partituur. Ze bevatten de stabiele regels, de langetermijnbeloften en de geschiedenis van het personage.
Als de Dirigent (LLM) probeert alles te improviseren zonder naar de Partituur (Persona) te kijken, wordt de muziek chaotisch. Het paper betoogt dat de Dirigent de Partituur nodig heeft om in karakter te blijven. De AI heeft een systeem buiten haar "brein" nodig om haar langetermijnherinneringen, toezeggingen en sociale regels op te slaan, en deze aan het LLM aan te leveren wanneer nodig.
De Drie Stappen Voorwaarts
Het paper schetst drie belangrijke dingen die onderzoekers als volgende moeten doen:
- Betere Blueprints (Representatie): Stop met het gebruik van simpele prompts zoals "Doen alsof je een leraar bent". Begin met het bouwen van gestructureerde "Personagebijbels" die waarden, relaties en regels definiëren op een manier die de computer daadwerkelijk kan gebruiken om beslissingen te nemen.
- Betere Controle (Hybride Deliberatie): Laat de AI niet zomaar een probleem "wegkletsen". Bouw systemen waarbij de AI haar langetermijndoelen en regels (de Partituur) controleert voordat ze spreekt, zodat ze consistent blijft in de tijd.
- Betere Testen (Evaluatie): We moeten stoppen met het testen van AI alleen op basis van of het een taak voltooit. We moeten testen of het in karakter blijft. Gedraagt de "leraar" zich na 50 interacties nog steeds als een leraar? Onthoudt het zijn beloften? Het paper stelt dat we gedeelde "oefendatasets" nodig hebben (zoals gestandaardiseerde scripts) om deze vaardigheden eerlijk te testen.
De Conclusie
Het paper concludeert dat we, om AI echt sociaal te maken, niet alleen kunnen vertrouwen op het feit dat het goed is in praten. We moeten het een stabiele identiteit geven (een Persona) die zijn rol, waarden en regels definieert. Deze identiteit fungeert als de fundering die een vloeiende spreker omzet in een sociaal intelligent agent dat zinvol kan deelnemen aan onze wereld.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.