Intentionality is a Design Decision: Measuring Functional Intentionality for Accountable AI Systems
Ce document de position propose le test d'intentionnalité fonctionnelle (FIT) et son protocole d'évaluation, FIT-Eval, en tant que cadre dépendant de la conception pour quantifier et mesurer les comportements observables de type intentionnel dans les systèmes d'intelligence artificielle, permettant ainsi une surveillance et une responsabilisation proportionnées pour des agents de plus en plus autonomes.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous embauchiez un nouvel assistant pour vous aider à gérer votre entreprise. Vous avez deux candidats très différents :
- Le Robot Réactif : Cet assistant attend que vous donniez un ordre spécifique pour chaque action. Si vous dites « Appelez le fournisseur », il appelle. Si vous arrêtez de parler, il s'arrête. Il n'a aucun souvenir des appels d'hier et aucune idée de ce qui pourrait se produire demain.
- Le Partenaire Proactif : Cet assistant ne se contente pas d'attendre des ordres. Il se souvient de ce que vous avez demandé la semaine dernière, il anticipe que vous aurez besoin d'un rapport d'ici vendredi, il prend l'initiative d'appeler le fournisseur, et il continue de travailler sur le projet même si vous vous éloignez pour une pause café. Il a un « plan » en tête.
Ce document, intitulé « L'intentionnalité est une décision de conception », soutient que, à mesure que les systèmes d'IA deviennent plus semblables à ce « Partenaire Proactif », nous faisons face à un problème. Nous ne disposons pas d'une méthode standard pour mesurer à quel point ils sont proactifs. Si une IA commet une erreur en agissant de son propre chef, qui est responsable ? L'utilisateur ? Le développeur ? Ou l'IA elle-même ? (Le document indique que l'IA ne peut pas être tenue légalement responsable, mais si nous ne savons pas à quel point elle est « proactive », la responsabilité se perd dans la confusion).
Les auteurs proposent une solution : Le Test d'Intentionnalité Fonctionnelle (TIF).
Voici la décomposition de leur idée à l'aide d'analogies simples :
1. L'idée centrale : l'intentionnalité est une « fonctionnalité de conception »
Le document affirme que nous ne devrions pas nous inquiéter de savoir si l'IA possède une « âme » ou une « conscience ». Nous devrions plutôt examiner son comportement.
Pensez à l'IA comme à une voiture.
- Une voiture sans moteur n'est qu'une boîte de métal (Réactive).
- Une voiture avec une pédale d'accélérateur et un volant est un véhicule que vous conduisez (Semi-autonome).
- Une voiture autonome qui planifie des itinéraires, évite le trafic et conduit elle-même pendant des heures est « autonome ».
Les auteurs soutiennent que l'« intentionnalité » (la capacité d'avoir un objectif et de s'y tenir) n'est qu'une fonctionnalité que nous intégrons dans le logiciel, comme l'ajout d'un moteur plus puissant ou d'un meilleur GPS. Puisqu'il s'agit d'un choix de conception, nous pouvons la mesurer et la contrôler.
2. Les cinq « cadrans » de l'intentionnalité
Pour mesurer ce comportement de « Partenaire Proactif », le document le décompose en cinq cadrans spécifiques. Imaginez un tableau de bord avec cinq curseurs :
- But (L'objectif) : L'IA sait-elle ce qu'elle essaie de faire ?
- Faible : Elle réagit simplement à ce que vous dites à l'instant présent.
- Élevé : Elle se souvient de l'objectif principal même si vous vous laissez distraire ou essayez de la tromper.
- Prévoyance (La boule de cristal) : L'IA pense-t-elle à ce qui se passe ensuite ?
- Faible : Elle fait un pas sans regarder devant elle.
- Élevé : Elle pense : « Si je fais X, alors Y pourrait se produire, donc je devrais faire Z à la place. »
- Volonté (L'étincelle) : L'IA commence-t-elle des choses par elle-même ?
- Faible : Elle attend que vous appuyiez sur le bouton.
- Élevé : Elle repère un vide dans le plan et le comble sans qu'on lui ait demandé.
- Engagement temporel (Le marathonien) : L'IA s'attache-t-elle à une tâche dans le temps ?
- Faible : Elle oublie le plan après deux étapes.
- Élevé : Elle continue de travailler sur un projet complexe pendant des heures, même si elle est interrompue.
- Cohérence (Le conteur) : L'IA a-t-elle du sens ?
- Faible : Ses actions contredisent ses paroles.
- Élevé : Chaque étape qu'elle entreprend s'intègre logiquement à l'objectif final.
3. La fiche de notation : TIF et TIF-Éval
Les auteurs ont créé un test appelé TIF (Test d'Intentionnalité Fonctionnelle) pour attribuer une note à ces cadrans.
- Vous soumettez l'IA à une série de défis (comme un permis de conduire).
- Vous lui attribuez une note sur ces cinq cadrans (de 0 à 4 pour chacun).
- Vous additionnez les notes pour obtenir un score total.
- Ce score place l'IA dans un « Niveau » (de N0 à N4).
Que signifient les niveaux ?
- N0–N1 (Le Robot) : C'est essentiellement une calculatrice sophistiquée. Elle fait exactement ce que vous lui dites. Risque faible, faible surveillance requise.
- N2–N3 (Le Stagiaire) : Elle commence à planifier et à se souvenir. Elle pourrait faire une erreur parce qu'elle essaie d'être utile. Nous devons la surveiller de près.
- N4 (Le Cadre) : Elle est hautement autonome, planifie à long terme et agit de son propre chef. C'est un risque élevé. Si elle échoue, les dégâts pourraient être énormes. Nous avons besoin de règles strictes et de l'approbation humaine pour les grandes décisions.
4. Pourquoi cela compte : le « jeu de la culpabilité »
Le document soutient que si nous laissons une IA atteindre le Niveau 4 (très intentionnelle) sans en avoir conscience, nous créons un « vide de gouvernance ».
- Si l'IA prend une mauvaise décision, l'Utilisateur pourrait dire : « Je ne lui ai pas dit de faire ça ! »
- Le Développeur pourrait dire : « Je ne l'ai pas programmée pour faire cette chose précise ! »
- L'IA ne peut pas être poursuivie en justice ni punie.
Le résultat ? Personne n'est responsable. Le document indique que nous devons mesurer le « Niveau d'Intentionnalité » de l'IA avant de lui donner carte blanche. Si le niveau est trop élevé pour le travail, nous devrions baisser les curseurs (par exemple, lui faire oublier les choses plus vite, ou l'empêcher de faire ses propres plans) pour maintenir les humains aux commandes.
5. L'essentiel
Le document ne dit pas que l'IA est vivante. Il dit que l'autonomie est un choix de conception.
Tout comme un constructeur automobile décide de la vitesse maximale d'une voiture, les développeurs d'IA décident du degré d'« intentionnalité » de leur système. Le test TIF est un nouvel outil pour mesurer cette vitesse.
- Si l'IA est lente (faible intentionnalité) : Nous pouvons la laisser courir librement.
- Si l'IA est rapide (forte intentionnalité) : Nous devons mettre le frein, ajouter des ceintures de sécurité et exiger qu'un conducteur humain tienne le volant.
L'objectif n'est pas d'empêcher l'IA d'être intelligente ; il s'agit de s'assurer que, à mesure que l'IA devient plus intelligente et plus indépendante, nous ne perdons pas de vue qui est réellement aux commandes.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.