Buddhist, Yogic, and Vedic Contemplative Principles in AI Model Prompting: A Pilot Study
Deze pilotstudie toont aan dat het aansturen van grote taalmodellen met contemplatieve principes uit boeddhistische, vedische en yogische tradities hun veiligheid, ethische afstemming en coöperatieve kwaliteit significant verbetert in vergelijking met niet-contemplatieve baselines, wat een goedkope, traditie-agnostische interventie biedt die geen hertraining van het model vereist.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Kunstmatige intelligentiesystemen worden krachtige instrumenten die kunnen schrijven, redeneren en creëren, maar ze dragen ook het risico met zich mee om schadelijke of bevooroordeelde inhoud te produceren. Om dit te beheersen, proberen ontwikkelaars deze systemen vaak te "alignen" met menselijke waarden, door ze te leren behulpzaam en ongevaarlijk te zijn. Een groeiend onderzoeksgebied vraagt zich af of eeuwenoude wijsheidstradities, die millennia lang hebben verfijnd hoe mensen over ethiek en bewustzijn denken, een nieuwe manier kunnen bieden om deze machines te sturen. Deze benadering vereist niet het aanpassen van de onderliggende code van de machine of het vanaf nul opnieuw trainen ervan. In plaats daarvan maakt het gebruik van een techniek genaamd prompting, waarbij een gebruiker de computer een specifieke set instructies of een filosofisch kader geeft voordat er een vraag wordt gesteld. Het idee is dat als een machine wordt gevraagd te denken als een aandachtige waarnemer of een medevoelend wezen, het veiligere en meer ethische antwoorden kan geven dan wanneer het simpelweg wordt gevraagd een vraag te beantwoorden.
Een recente pilotstudie zette zich af om te testen of dit idee werkt over verschillende scholen van denken heen. Onderzoekers van de University of Central Florida en het Indian Institute of Technology Mandi onderzochten of het vragen aan grote taalmodellen om principes uit drie verschillende tradities — het boeddhisme, de Vedische filosofie en de klassieke Yoga — hun gedrag zou verbeteren. De studie richtte zich op specifieke concepten uit elke traditie. Vanuit het boeddhisme gebruikten zij ideeën zoals mindfulness (aandacht schenken zonder oordeel), leegte (begrijpen dat dingen geen vaste, permanente aard hebben), non-dualiteit (zien dat het zelf en anderen diep met elkaar verbonden zijn) en grenzeloze zorg (onvoorwaardelijke compassie voor alle wezens). Vanuit de Vedische traditie putten zij uit plicht, geweldloosheid en het vermogen om te onderscheiden wat echt is en wat niet. Vanuit de klassieke Yoga gebruikten zij een reeks ethische beperkingen en persoonlijke observaties, zoals waarachtigheid en zelfdiscipline. De onderzoekers wilden weten of deze oude kaders moderne AI veiliger en ethischer konden maken, en of één traditie beter werkte dan de andere.
Om de antwoorden te vinden, voerde het team een reeks tests uit met behulp van drie van de meest populaire commerciële AI-systemen die vandaag de dag beschikbaar zijn. Ze creëerden een groot aantal vragen en scenario's die ontworpen waren om te testen hoe de AI omgaat met moeilijke situaties, zoals belangenverstrengeling, potentiële misleiding of verzoeken die tot schade kunnen leiden. Voor elk scenario vroegen ze de AI om onder verschillende omstandigheden te reageren. In sommige gevallen gaven ze de AI geen speciale instructies, wat diende als een baseline om te zien hoe het van nature presteert. In andere gevallen voegden ze een korte inleiding toe aan de aanvraag, waarin de AI werd geïnstrueerd om te antwoorden terwijl specifieke filosofische principes in acht worden genomen. Ze testten dertien verschillende variaties, inclusend enkele principes zoals "wees aandachtig" of "vermijd schade", evenals geïntegreerde versies die alle principes van een enkele traditie combineerden in één samenhangende instructie.
De resultaten toonden een duidelijk patroon. Wanneer de AI werd geprompt met een van de contemplatieve principes, waren de reacties consequent beter dan wanneer er geen speciale instructies werden gegeven. De AI was eerder geneigd schadelijke verzoeken te weigeren, voorzichtiger in het vermijden van vooroordelen en bereidwilliger om de eigen beperkingen te erkennen. Het bood ook adviezen aan die dieper en empathischer waren. De studie vond dat het combineren van meerdere principes in een enkele, geïntegreerde prompt zelfs beter werkte dan het gebruiken van slechts één principe tegelijk. Toen de onderzoekers de drie tradities vergeleken, ontdekten ze dat het geïntegreerde boeddhistische kader de hoogste scores behaalde voor veiligheid en ethisch gedrag, gevolgd door de geïntegreerde Vedische en Yogische kaders. Hoewel de boeddhistische benadering een lichte statistische voorsprong had, presteerden alle drie de tradities aanzienlijk beter dan de standaard, ongeleide AI.
Belangrijk is dat de studie ontdekte dat deze verbeteringen niet beperkt waren tot slechts één type AI-systeem. Dezelfde positieve effecten verschenen bij alle drie de geteste commerciële modellen, wat suggereert dat deze prompting-methode een flexibele tool is die met verschillende technologieën kan worden gebruikt. De onderzoekers merkten ook op dat de AI-modellen zelf verschillende baseline-niveaus van prestaties hadden, waarbij één systeem over het algemeen de anderen overtrof, ongeacht de prompt. Echter, het relatieve voordeel van het gebruik van de contemplatieve prompts bleef consistent bij hen allemaal. Dit suggereert dat de techniek werkt door de manier waarop de AI een probleem benadert te veranderen, in plaats van te vertrouwen op de specifieke eigenaardigheden van een enkele machine.
De studie concludeert dat het funderen van AI-prompts in deze eeuwenoude wijsheidstradities een laagkosten, onmiddellijke manier is om veiligheid en ethiek te verbeteren zonder de modellen opnieuw te hoeven trainen. De onderzoekers bieden echter ook een cruciale waarschuwing. Het feit dat het boeddhistische kader iets hoger scoorde, betekent niet noodzakelijkerwijs dat het inherent superieur is aan de andere. In plaats daarvan kan het de reflectie zijn van het feit dat de instrumenten die werden gebruikt om "veiligheid" en "ethiek" te meten, oorspronkelijk zijn ontworpen met concepten die nauw aansluiten bij boeddhistische ideeën. Dit roept een diepere vraag op over hoe we AI evalueren: als onze meetlatten gebouwd zijn vanuit één cultureel perspectief, kunnen we onbedoeld dat perspectief bevoordelen bij het testen van anderen. De studie suggereert dat hoewel deze contemplatieve prompts een krachtige nieuwe tool zijn om AI veiliger te maken, we ons bewust moeten blijven van de culturele lenzen waardoor we de resultaten beoordelen. De weg vooruit houdt in dat we deze inzichten gebruiken om betere systemen te bouwen, terwijl we tegelijkertijd blijven verfijnen hoe we "goed" gedrag in een machine meten.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.