Architecture-Dependent Causal Transfer of Activation States Across Large Language Models
Dit artikel toont aan dat hoewel interne activatietoestanden tussen verschillende architecturen van grote taalmodellen geprojecteerd kunnen worden met een meetbare representationele uitlijning, een succesvolle end-to-end causale transfer van deze toestanden tijdens de generatie strikt architectuurafhankelijk is, waarbij het alleen betrouwbaar werkt voor specifieke decoder-only paren in plaats van te dienen als een universeel mechanisme.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je twee mensen voor die proberen met elkaar te praten, maar die gedwongen zijn om via een vertaler te spreken die een derde taal spreekt. De eerste persoon fluistert een gedachte, de vertaler schrijft het op, de tweede persoon leest het, en dan schrijft de vertaler een antwoord. Dit proces kost tijd, kost geld en brengt het risico met zich mee dat de oorspronkelijke betekenis verloren gaat in de vertaling. Vandaag de dag communiceren kunstmatige intelligentiesystemen precies op deze manier. Wanneer een computerprogramma informatie naar een ander programma moet sturen, zet het zijn interne gedachten om in voor mensen leesbare tekst, stuurt die tekst op, en het ontvangende programma leest die tekst en zet het weer om in zijn eigen interne gedachten. Deze tussenlaag van tekst is de enige manier waarop ze momenteel weten te communiceren. Maar wat als ze de tekst volledig zouden kunnen overslaan? Wat als één machine simpelweg zijn interne staat direct aan een andere machine zou kunnen overhandigen, zoals het doorgeven van een briefje zonder het ooit op te schrijven? Dit is de vraag waar onderzoekers een antwoord op wilden vinden: kunnen verschillende soorten kunstmatige intelligentie, gebouwd door verschillende bedrijven en getraind op verschillende gegevens, elkaars interne signalen begrijpen zonder eerst naar woorden te hoeven vertalen?
Om het experiment te begrijpen, helpt het om te weten dat deze programma's, bekend als grote taalmodellen, niet in woorden denken zoals mensen dat doen. In plaats daarvan verwerken ze informatie als enorme, verschuivende patronen van getallen, genaamd activatietoestanden. Je kunt deze patronen zien als de specifieke elektrische ontladingen van een brein op een enkel moment. Wanneer een model een vraag leest, licht er binnenin een uniek patroon van activiteit op. De onderzoeker wilde weten of het patroon voor een specifieke gedachte in één model vergelijkbaar genoeg was met het patroon voor dezelfde gedachte in een ander model, zodat er een brug tussen hen gebouwd kon worden. Als de patronen vergelijkbaar genoeg waren, zou een computer kunnen leren om het interne signaal van het eerste model direct om te zetten naar het interne signaal van het tweede model, waardoor de noodzaak voor tekst volledig wordt omzeild.
Een onderzoeker zette zich scharpe om dit idee te testen met behulp van vier verschillende kunstmatige intelligentiemodellen. Deze modellen werden zorgvuldig gekozen om verschillende families van technologie en verschillende trainingsgeschiedenissen te vertegenwoordigen. Drie van hen werden gebouwd om tekst één woord tegelijk te genereren, terwijl de vierde werd gebouwd om tekst vanuit beide richtingen tegelijk te begrijpen. De onderzoeker controleerde eerst of de interne patronen van deze modellen wel vergelijkbaar genoeg waren om vergeleken te kunnen worden. Ze keken naar hoe de modellen reageerden op paren van gerelateerde concepten, zoals woorden die synoniemen zijn of woorden die vaak samen voorkomen in boeken. Ze ontdekten dat voor de drie modellen die op dezelfde manier waren gebouwd, de interne patronen inderdaad vergelijkbaar waren. Echter, het model dat anders was gebouwd, vertoonde dergelijke gelijkenis niet. Dit suggereerde dat de manier waarop een model is gebouwd belangrijker is dan wie het heeft gebouwd of op welke gegevens het is getraind.
Vervolgens probeerde de onderzoeker een brug te bouwen. Ze trainden een klein, eenvoudig computerprogramma om als vertaler te fungeren, waarbij het leerde hoe het het interne signaal van het ene model om te zetten in het interne signaal van het andere model. Ze testten deze brug door een vraag te tonen, de reactie van het eerste model op die vraag om te zetten, en te zien of het tweede model het als het juiste antwoord kon herkennen uit een lijst van twintig mogelijkheden. Voor de drie modellen die op een vergelijkbare manier waren gebouwd, werkte deze brug verrassend goed. Het tweede model identificeerde de bron van het signaal over de vraag ongeveer de helft van de tijd correct, wat veel beter is dan willekeurig gokken. Maar voor het model dat anders was gebouwd, faalde de brug volledig; het tweede model kon het signaal helemaal niet herkennen. Dit bevestigde dat hoewel een vertaalingslaag mogelijk is, dit alleen werkt tussen modellen die een specifieke architecturale familie delen.
De laatste en moeilijkste test was om te zien of deze vertaling het gedrag van het ontvangende model in realtime daadwerkelijk kon veranderen. De onderzoeker nam het vertaalde signaal van het eerste model en injecteerde het direct in het tweede model terwijl dat model midden in het schrijven van een nieuw antwoord zat. Ze wilden zien of deze injectie de output van het tweede model zou sturen richting het onderwerp van de oorspronkelijke vraag. De resultaten waren gemengd en onthulden een cruciale beperking. Wanneer ze dit tussen twee specifieke modellen probeerden, werkte de injectie. De output van het tweede model verschoof merkbaar naar het onderwerp van de vraag van het eerste model, wat bewees dat het signaal was ontvangen en een causaal effect had. Echter, toen ze dezelfde truc met een derde model probeerden, faalde het volledig. Ondanks dat de interne patronen op papier vergelijkbaar leken, veranderde de injectie van het signaal de output helemaal niet.
De onderzoeker concludeerde dat het weliswaar mogelijk is om de fysieke drager van een gedachte — het specifieke patroon van elektrische activiteit — van de ene machine naar de andere over te dragen, maar dat dit niet betekent dat de machines een diep begrip of een gemeenschappelijke betekenis delen. In de succesvolle gevallen gaf het tweede model niet noodzakelijkerwijs het juiste antwoord op de oorspronkelijke vraag. In plaats daarvan produceerde het tekst die thematisch gerelateerd was, zoals praten over driehoeken wanneer de oorspronkelijke vraag over vierkanten ging. Het signaal was overgedragen, maar de betekenis werd niet perfect bewaard. De studie laat zien dat directe communicatie tussen kunstmatige intelligenties technisch mogelijk is, maar dat het geen universele taal is. Het hangt volledig af van het specifieke ontwerp van de betrokken machines. Als de ontwerpen niet overeenkomen, kan het signaal niet worden begrepen en faalt de overdracht. Dit betekent dat als we in de toekomst willen dat verschillende AI-systemen rechtstreeks met elkaar praten, we niet kunnen aannemen dat ze gewoon zullen werken; we moeten ervoor zorgen dat ze op compatibele manieren zijn gebouwd, of we zullen voor elk paar systemen dat we willen verbinden een specifieke vertaler moeten bouwen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.