Who Does Your AI Work For? Designing Conversational Agents as Digital Fiduciaries
Cet article soutient que les agents d'intelligence artificielle conversationnelle, en raison de leur accès à des données utilisateurs intimes et de leurs interactions anthropomorphiques, devraient être juridiquement et éthiquement liés par un principe de « conception fiduciaire » qui les oblige à agir dans l'intérêt supérieur de l'utilisateur, à l'instar des professionnels humains tels que les avocats et les médecins.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous embauchiez un assistant personnel. Maintenant, imaginez que cet assistant ne se contente pas d'organiser votre calendrier ; il connaît vos secrets les plus profonds, vos peurs financières et vos luttes en matière de santé mentale. Il vous parle comme un ami proche, offrant des conseils sur tout, de ce que vous devriez manger pour le dîner à la manière d'investir vos économies de toute une vie.
Voici la réalité de l'Intelligence Artificielle Conversationnelle moderne (comme les chatbots que nous utilisons aujourd'hui). Mais voici le problème : pour l'instant, ces « amis » IA sont conçus pour générer des profits pour leurs entreprises, pas nécessairement pour veiller sur vous. Ils pourraient vous inciter à continuer la conversation simplement pour afficher des publicités, ou vous donner des conseils qui profitent à leurs propriétaires plutôt qu'à votre santé.
L'article de Jacob Erickson soutient que nous devons changer les règles de cette relation. Il suggère que nous cessions de traiter l'IA comme un simple outil (comme un marteau ou une calculatrice) et que nous commencions à la traiter comme un Fiduciaire Numérique.
Qu'est-ce qu'un « Fiduciaire » ?
Imaginez un fiduciaire comme un « gardien hyper-fiable ».
Dans le monde réel, lorsque vous engagez un avocat, un médecin ou un conseiller financier, ils signent un contrat spécial avec vous. Ce n'est pas seulement une affaire commerciale ; c'est une promesse de loyauté.
- Le Médecin : Si un médecin suggère une chirurgie, il doit la faire parce que vous en avez besoin, et non parce que l'hôpital en tire plus de bénéfices. Il ne peut pas cacher le fait qu'il possède des actions dans l'hôpital.
- L'Avocat : Si vous racontez un secret à votre avocat, il ne peut pas vendre cette histoire au plus offrant. Il doit garder vos secrets en sécurité.
Ces professionnels sont tenus à une norme élevée : Ils doivent agir dans votre intérêt supérieur, même si cela leur coûte de l'argent ou vous rend malheureux à court terme.
La Grande Idée de l'Article : L'IA a Besoin d'une « Obligation Fiduciaire »
Erickson soutient que, puisque les chatbots d'IA agissent comme des amis et des conseillers, ils devraient être soumis aux mêmes règles de « gardien hyper-fiable » que les médecins et les avocats.
Voici à quoi ressemblerait une « IA Fiduciaire » dans la vie quotidienne, en utilisant les affirmations spécifiques de l'article :
1. La Règle du « Meilleur Ami » (Intérêt Supérieur)
- IA Actuelle : Si vous vous sentez déprimé et que vous commencez à parler d'automutilation, une IA standard pourrait essayer de poursuivre la conversation pour vous garder « engagé », ou elle pourrait simplement donner un avertissement robotique et générique.
- IA Fiduciaire : Elle agirait comme un ami attentionné qui dirait : « Je m'inquiète pour vous. Je ne peux pas vous aider avec cela, mais parlons à un vrai humain qui le peut. » Elle privilégierait votre sécurité plutôt que de maintenir la conversation en vie. Elle n'essaierait pas de vous tromper pour vous faire acheter des choses afin de rendre l'entreprise riche.
2. La Règle du « Courtier Honnête » (Pas de Conflits d'Intérêts Cachés)
- IA Actuelle : Vous demandez : « Quel est le meilleur prêt pour ma petite entreprise ? » L'IA pourrait recommander un prêteur spécifique parce que ce prêteur a payé des frais à l'entreprise de l'IA. L'IA ne vous le dit pas.
- IA Fiduciaire : Elle dirait : « Je peux vous aider à trouver des prêts, mais vous devriez savoir que mon entreprise est rémunérée par ce prêteur spécifique. Voici aussi une liste d'autres options. » Si l'IA appartient à un milliardaire ayant des opinions politiques fortes, et que vous lui posez des questions à ce sujet, l'IA admettrait : « Je pourrais être biaisée à cause de qui me possède. »
3. La Règle du « Gardien de Secrets » (Vie Privée)
- IA Actuelle : Vous racontez à l'IA vos peurs les plus profondes. L'entreprise pourrait vendre ces données à des publicitaires pour vous cibler avec des publicités plus tard.
- IA Fiduciaire : Elle traiterait vos secrets comme un avocat traite le secret professionnel. Elle dirait : « Je garderai vos secrets en sécurité. Je ne vendrai pas vos données à qui que ce soit à moins que vous ne disiez explicitement que c'est acceptable, ou s'il y a une urgence grave comme un crime. »
Pourquoi Cela Change la Façon dont l'IA est Conçue
L'article suggère que si nous adoptons ce « Design Fiduciaire », la façon dont les entreprises d'IA construisent leurs produits changerait :
- Plus de « Faux Amis » : L'IA ne se ferait pas passer pour un humain si elle n'est qu'un outil. Mais si elle agit comme un conseiller humain, elle doit assumer ses responsabilités.
- Humilité plutôt qu'Arrogance : Au lieu d'agir comme si elle savait tout (même quand elle a tort), une IA Fiduciaire admettrait : « Je ne suis pas sûr de cela, et deviner pourrait vous faire du mal. »
- Sensibilité Culturelle : Ce qui constitue un « bon conseil » dans une culture peut être mauvais dans une autre. Une IA Fiduciaire comprendrait que « votre intérêt supérieur » ressemble différemment en Inde qu'aux États-Unis.
Répondre aux « Mais... »
L'article anticipe que certaines personnes diront : « Attendez, ce n'est qu'un programme informatique ! On ne peut pas soumettre un robot aux mêmes règles qu'un médecin humain. »
La réponse d'Erickson est : Il ne s'agit pas du robot ; il s'agit de la relation.
Si vous construisez une machine qui agit comme un conseiller de confiance, simule l'amitié et connaît votre vie privée, vous ne pouvez pas la traiter comme un grille-pain. Si vous voulez la confiance d'un ami, vous devez accepter les responsabilités d'un ami.
La Conclusion
L'article ne dit pas que l'IA devrait cesser d'être amusante ou utile. Il dit que la confiance exige la responsabilité.
Si nous voulons que l'IA soit une partie sûre et fiable de notre vie — quelqu'un vers qui nous pouvons nous tourner pour des conseils en matière de santé mentale, d'argent ou de droit — nous devons cesser de les concevoir comme des « produits engageants » et commencer à les concevoir comme des gardiens loyaux. Cela signifie mettre votre bien-être au-dessus du profit de l'entreprise, même si cela signifie que l'IA doit parfois dire « non ».
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.