Closing the AI Trust Gap: The Case for Independent Certification for Trustworthy AI
Cet article soutient que le « fossé de confiance » actuel en matière d'IA, causé par l'incapacité à vérifier et à récompenser de manière externe les pratiques d'IA responsables, peut être comblé par la mise en œuvre d'un système de certification indépendant et axé sur les résultats qui déplace l'attention des processus internes vers des bénéfices réels vérifiables, permettant ainsi une différenciation sur le marché et des incitations commerciales pour une IA digne de confiance.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Le score invisible : Pourquoi une bonne IA a besoin d'un badge
Imaginez que vous pénétriez dans un immense marché futuriste où tout le monde vend des robots. Certains robots sont construits avec les meilleures fonctions de sécurité, les règles les plus équitables et l'ingénierie la plus minutieuse. D'autres sont construits rapidement, avec des raccourcis, et peut-être quelques bugs cachés. Le problème est que tous les commerçants portent le même badge brillant : « Nous sommes responsables ! ». Vous ne pouvez pas faire la différence simplement en regardant. C'est le monde de l'Intelligence Artificielle (IA) aujourd'hui.
Dans le monde de l'informatique, il existe une grande différence entre l'IA responsable et l'IA de confiance. Considérez l'IA responsable comme un chef qui suit parfaitement une recette dans sa cuisine. Il mesure les ingrédients, se lave les mains et suit toutes les règles de sécurité. C'est très bien, mais cela ne garantit pas que le gâteau sera délicieux ou qu'il ne vous rendra pas malade une fois consommé. L'IA de confiance est le résultat réel : le gâteau qui est délicieux, sûr et qui vous rend heureux. En ce moment, nous avons beaucoup de chefs qui suivent des recettes, mais nous n'avons pas de moyen pour que les clients sachent lesquels cuisinent réellement un bon gâteau. Nous avons besoin d'un système qui transforme le « nous avons fait de notre mieux » en « nous avons réellement livré ». C'est le casse-tête que tente de résoudre un groupe d'experts issus d'universités et de laboratoires de recherche du monde entier.
Le grand fossé de la confiance de l'IA
Un nouvel article du Digital Trust Council, écrit par une équipe de chercheurs provenant d'institutions telles que l'University College London, l'Université de Columbia et l'Université de Cambridge, soutient que nous faisons face à un énorme « fossé de confiance ». Même si les entreprises dépensent des millions pour construire une IA sûre et équitable, le marché ne sait pas comment les récompenser. C'est comme une course où tout le monde court la même distance, mais où la ligne d'arrivée est invisible.
Les auteurs suggèrent que le système actuel est défaillant pour trois raisons principales, qu'ils appellent des « lacunes structurelles ».
1. Le problème de la « voiture d'occasion » (The Lemon Problem) : On ne peut pas distinguer le bon du mauvais
Imaginez que vous achetiez une voiture d'occasion. Si le vendeur dit : « Cette voiture est sûre », mais que vous n'avez aucun moyen de vérifier les freins ou le moteur, vous pourriez simplement acheter la moins chère. Dans le monde de l'IA, les entreprises qui dépensent une fortune en équipes de sécurité et en comités d'éthique ressemblent exactement aux entreprises qui disent simplement : « Faites-nous confiance ». Comme les acheteurs (qu'il s'agisse d'investisseurs ou de particuliers) ne peuvent pas faire la différence, ils ne paient pas plus cher pour les voitures sûres. Cela fait de la sécurité une mauvaise décision commerciale. L'article appelle cela un « marché de lemons » (produits défectueux), où les bons produits sont évincés parce que personne ne peut prouver qu'ils sont bons.
2. Tester le moteur, pas la conduite
Actuellement, lorsque nous testons l'IA, nous examinons principalement le « moteur » dans un garage. Nous le soumettons à une série de tests informatiques pour voir s'il réussit un examen. Mais une IA n'est pas seulement un cerveau ; c'est un système complet qui interagit avec de vraies personnes dans le monde réel. L'article soutient que nous testons le modèle de manière isolée, comme si nous vérifiions si une voiture démarre, sans regarder si elle conduit en toute sécurité sur une autoroute sous la pluie. Un robot peut réussir un test parfaitement, puis agir bizarrement lorsqu'il aide réellement un médecin ou un enseignant. Nous devons tester l'ensemble du « système sociotechnique » — le robot, les personnes qui l'utilisent et l'environnement dans lequel il se trouve — sur une longue période, et non pas seulement pendant quelques minutes en laboratoire.
3. Le piège du « Ne soyez pas mauvais »
Actuellement, tout le système est obsédé par l'idée de s'assurer que l'IA ne fasse pas de choses malveillantes. C'est comme une école qui ne vous donnerait une étoile d'or que si vous n'avez pas de colle. Mais que se passe-t-il si vous n'avez jamais eu de colle, mais que vous n'avez jamais aidé personne non plus ? L'article souligne que nous avons de bons outils pour mesurer le préjudice (comme « Est-ce que cette IA a dit quelque chose de méchant ? »), mais presque aucun outil pour mesurer le bénéfice (comme « Est-ce que cette IA a aidé un étudiant à apprendre plus vite ? »). Parce que nous ne mesurons que ce que l'IA doit éviter, les entreprises cessent de travailler dès qu'elles atteignent la ligne du « minimum de sécurité ». Elles n'ont aucune raison de chercher à être exceptionnelles, car être « pas mauvais » est la seule chose qui est récompensée.
Ce qui manque : Le badge indépendant
L'article examine comment d'autres industries résolvent ces problèmes. Dans le secteur de la santé, les médecins ne se contentent pas de dire : « Je pense que ce médicament fonctionne ». Ils doivent le prouver par des tests indépendants, et il existe des règles strictes pour signaler les effets secondaires après la prise par les patients. Dans la construction de bâtiments, il existe des labels de construction écologique (comme LEED) qui montrent qu'un bâtiment est réellement économe en énergie, et non pas seulement que l'architecte a affirmé qu'il le serait. Dans la cybersécurité, les entreprises sont auditées par des tiers pour prouver qu'elles peuvent protéger vos données.
Les auteurs soutiennent que l'IA a besoin de quelque chose de similaire : une Certification Indépendante Orientée vers les Résultats.
Il ne s'agit pas simplement d'un autre ensemble de règles à suivre pour les entreprises. C'est une « couche de connexion » qui lie tout ensemble. Voici comment cela fonctionnerait :
- Vérification par un tiers : Un groupe indépendant (pas l'entreprise qui fabrique l'IA) vérifierait les résultats.
- Preuve dans le monde réel : Ils ne se contenteraient pas de vérifier le code ; ils vérifieraient si l'IA aide réellement les gens dans le monde réel au fil du temps.
- Un signal clair : Le résultat serait un badge ou un label clair que les acheteurs, les investisseurs et les régulateurs peuvent comprendre. Il dirait : « Cette IA n'est pas seulement sûre ; elle fait réellement du bien ».
Pourquoi cela importe maintenant
L'article suggère que si nous ne construisons pas ce système bientôt, l'IA pourrait suivre le même chemin que les réseaux sociaux. Les entreprises de réseaux sociaux ont construit des plateformes addictives et nuisibles parce qu'elles cherchaient l'« engagement » (le temps passé sur l'application) sans que personne ne vérifie si cela était réellement bénéfique pour la santé mentale. Le temps que le gouvernement intervienne pour corriger le tir, les dégâts étaient déjà faits.
Les auteurs pensent que nous pouvons éviter ce sort. Nous n'avons pas besoin d'inventer une nouvelle technologie de toutes pièces ; nous avons déjà les outils pour mesurer la sécurité et l'équité. Ce qui nous manque, c'est l'infrastructure pour transformer ces mesures en un signal auquel le marché peut faire confiance.
Ils proposent un système à trois couches :
- La Réglementation fixe le plancher légal (le minimum que vous devez faire).
- Les Normes traduisent ces règles en étapes techniques.
- La Certification fournit la preuve indépendante que vous l'avez réellement fait.
L'article conclut que c'est une question de timing. Nous pouvons attendre que l'IA cause de grands problèmes et essayer de les réparer ensuite, ou nous pouvons construire ce système de « badge de confiance » dès maintenant, pendant que la technologie est encore en pleine croissance. Les auteurs suggèrent qu'en faisant de la fiabilité quelque chose qui peut être mesuré, comparé et récompensé, nous pouvons transformer l'IA responsable d'un coût en un avantage concurrentiel. Il s'agit de passer de « Nous promettons que nous sommes bons » à « Voici la preuve que nous le sommes ».
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.