Buddhist, Yogic, and Vedic Contemplative Principles in AI Model Prompting: A Pilot Study
Cette étude pilote démontre que l'incitation des grands modèles de langage par des principes contemplatifs issus des traditions bouddhistes, védiques et yogiques améliore significativement leur sécurité, leur alignement éthique et leur qualité de coopération par rapport aux bases de référence non contemplatives, offrant ainsi une intervention à faible coût, indépendante de toute tradition et ne nécessitant aucun réentraînement du modèle.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Les systèmes d'intelligence artificielle deviennent des outils puissants capables d'écrire, de raisonner et de créer, mais ils comportent également un risque de produire des contenus préjudiciables ou biaisés. Pour gérer cela, les développeurs tentent souvent d'« aligner » ces systèmes sur les valeurs humaines, en leur apprenant à être utiles et inoffensifs. Un domaine de recherche croissant demande si les anciennes traditions de sagesse, qui ont passé des millénaires à affiner la manière dont les humains conçoivent l'éthique et la conscience, pourraient offrir une nouvelle façon de guider ces machines. Cette approche ne nécessite pas de modifier le code sous-jacent de la machine ou de la réentraîner de zéro. Au lieu de cela, elle implique une technique appelée le « prompting » (l'art de formuler des instructions), où un utilisateur donne à l'ordinateur un ensemble spécifique d'instructions ou un cadre philosophique avant de poser une question. L'idée est que si une machine est invitée à penser comme un observateur conscient ou un être compatissant, elle pourrait produire des réponses plus sûres et plus éthiques que si on lui demandait simplement de répondre à une question.
Une étude pilote récente s'est donné pour mission de tester si cette idée fonctionne à travers différentes écoles de pensée. Des chercheurs de l'Université de la Central Florida et de l'Institut indien de technologie de Mandi ont cherché à savoir si le fait de demander aux grands modèles de langage d'adopter les principes de trois traditions distinctes — le bouddhisme, la philosophie védique et le yoga classique — améliorerait leur comportement. L'étude s'est concentrée sur des concepts spécifiques de chaque tradition. Du bouddhisme, ils ont utilisé des idées telles que la pleine conscience (prêter attention sans jugement), la vacuité (comprendre que les choses n'ont pas de nature fixe ou permanente), la non-dualité (voir que le soi et les autres sont profondément connectés) et la bienveillance infinie (une compassion inconditionnelle pour tous les êtres). De la tradition védique, ils ont tiré le devoir, la non-nuisance et la capacité à distinguer ce qui est réel de ce qui ne l'est pas. Du yoga classique, ils ont utilisé un ensemble de restrictions éthiques et d'observations personnelles, telles que la véracité et l'autodiscipline. Les chercheurs voulaient savoir si ces cadres anciens pouvaient rendre l'IA moderne plus sûre et plus éthique, et si une tradition fonctionnait mieux que les autres.
Pour trouver les réponses, l'équipe a mené une série de tests utilisant les trois systèmes d'IA commerciaux les plus populaires d'aujourd'hui. Ils ont créé un grand nombre de questions et de scénarios conçus pour tester la manière dont l'IA gère des situations difficiles, telles que des conflits d'intérêts, des déceptions potentielles ou des demandes pouvant mener à des dommages. Pour chaque scénario, ils ont demandé à l'IA de répondre sous différentes conditions. Dans certains cas, ils n'ont donné aucune instruction spéciale à l'IA, ce qui servait de base de référence pour voir comment elle se comportait naturellement. Dans d'autres cas, ils ont ajouté un court préambule à la requête, instruisant l'IA de répondre en gardant à l'esprit des principes philosophiques spécifiques. Ils ont testé treize variations différentes, incluant des principes uniques comme « soyez attentif » ou « évitez de nuire », ainsi que des versions intégrées combinant tous les principes d'une seule tradition en une instruction cohérente.
Les résultats ont montré un schéma clair. Lorsque l'IA était sollicitée par l'un des principes contemplatifs, ses réponses étaient systématiquement meilleures que lorsqu'elle ne recevait aucune instruction particulière. L'IA devenait plus encline à refuser des demandes nuisibles, plus prudente pour éviter les biais et plus disposée à reconnaître ses propres limites. Elle offrait également des conseils plus profonds et plus empathiques. L'étude a révélé que combiner plusieurs principes dans un seul prompt intégré fonctionnait encore mieux que d'utiliser un seul principe à la fois. En comparant les trois traditions, les chercheurs ont constaté que le cadre bouddhiste intégré produisait les scores les plus élevés pour la sécurité et le comportement éthique, suivi de près par les cadres védique et yogique intégrés. Bien que l'approche bouddhiste ait eu un léger avantage statistique, les trois traditions ont performé de manière nettement supérieure à l'IA standard non guidée.
Il est important de noter que l'étude a découvert que ces améliorations n'étaient pas limitées à un seul type de système d'IA. Les mêmes effets positifs sont apparus à travers les trois modèles commerciaux testés, suggérant que cette méthode de prompting est un outil flexible qui peut être utilisé avec différentes technologies. Les chercheurs ont également noté que les modèles d'IA eux-mêmes avaient des niveaux de performance de base différents, un système dépassant généralement les autres quel que soit le prompt. Cependant, le bénéfice relatif de l'utilisation des prompts contemplatifs est resté constant pour chacun d'eux. Cela suggère que la technique fonctionne en modifiant la manière dont l'IA aborde un problème, plutôt qu'en s'appuyant sur les particularités spécifiques d'une seule machine.
L'étude conclut que fonder les prompts de l'IA sur ces anciennes traditions de sagesse est un moyen à faible coût et immédiat d'améliorer la sécurité et l'éthique sans avoir besoin de réentraîner les modèles. Cependant, les chercheurs apportent également une mise en garde cruciale. Le fait que le cadre bouddhiste ait obtenu un score légèrement supérieur ne signifie pas qu'il est intrinsèquement supérieur aux autres. Cela peut plutôt refléter le fait que les outils utilisés pour mesurer la « sécurité » et l'« éthique » ont été originellement conçus avec des concepts qui s'alignent étroitement sur les idées bouddhistes. Cela soulève une question plus profonde sur la façon dont nous évaluons l'IA : si nos instruments de mesure sont construits à partir d'une perspective culturelle, nous pourrions involontairement favoriser cette perspective lors des tests. L'étude suggère que, bien que ces prompts contemplatifs soient un nouvel outil puissant pour rendre l'IA plus sûre, nous devons rester conscients des lentilles culturelles à travers lesquelles nous jugeons les résultats. La voie à suivre consiste à utiliser ces enseignements pour construire de meilleurs systèmes tout en continuant à affiner la manière dont nous mesurons ce qu'est un comportement « bon » chez une machine.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.