Upholding Epistemic Agency: A Brouwerian Assertibility Constraint for Responsible AI

Cet article propose une contrainte d'assertibilité inspirée de Brouwer pour les systèmes d'IA responsables, exigeant que les affirmations dans les domaines à haut risque soient accompagnées d'un certificat contestable ou marquées comme « indéterminées », afin de préserver l'agence épistémique démocratique en séparant l'entitlement interne de la portée publique.

L'essentiel

Imaginez que vous demandez à un robot très intelligent de vous donner un verdict sur une question importante : « Le ministre est-il corrompu ? » ou « Ce médicament est-il sûr ? ».

Dans le monde actuel, l'IA répond souvent avec une grande confiance, comme un juge qui frappe son marteau : « Oui, c'est vrai » ou « Non, c'est faux ». Mais le problème, c'est que cette IA est comme un ** perroquet très poli** : elle répète des motifs statistiques appris dans ses données, mais elle ne sait pas vraiment si ce qu'elle dit est vrai. Elle peut inventer des faits avec une telle fluidité que nous finissons par les croire, perdant notre propre capacité à juger.

C'est là que l'auteur de ce papier, Michael Jülich, propose une idée révolutionnaire, inspirée par un mathématicien nommé L.E.J. Brouwer.

Voici l'explication simple, avec quelques analogies pour mieux comprendre.

1. Le Problème : Le "Perroquet Confiant"

Actuellement, l'IA agit comme un orateur qui ne s'arrête jamais. Même s'il ne connaît pas la réponse, il continue de parler avec assurance.

• L'analogie : Imaginez un enfant qui joue au jeu de la vérité. S'il ne connaît pas la réponse, il dit n'importe quoi pour ne pas perdre. En politique ou en justice, c'est dangereux. Si l'IA dit « Le ministre est coupable » sans preuve solide, elle vole aux citoyens leur droit de décider par eux-mêmes.

2. La Solution : La Règle du "Passe-Partout" (La Contrainte Brouwerienne)

L'auteur propose une nouvelle règle pour l'IA dans les situations graves (santé, justice, politique). Cette règle s'appelle la contrainte d'assertibilité.

La règle est simple :

« Tu as le droit de dire "OUI" ou "NON" SEULEMENT si tu peux montrer un passe-partout (un certificat) que n'importe qui peut vérifier. Sinon, tu dois dire : "Je ne sais pas encore" (Indéterminé). »

• L'analogie du passe-partout : Imaginez que l'IA est un gardien de musée. Pour entrer dans la salle des "Vérités Officielles", elle doit montrer un billet valide.
  • Si elle a le billet (une preuve vérifiable, un calcul certifié, un document officiel), elle peut dire : « Entrez, c'est vrai. »
  • Si elle n'a pas le billet, elle ne peut pas dire « C'est faux » ou « C'est vrai ». Elle doit simplement dire : « Je n'ai pas mon billet, je ne peux pas vous laisser entrer. »

3. Les Trois Visages de l'IA

Au lieu de deux réponses (Vrai/Faux), cette nouvelle IA en a trois :

1. AFFIRMÉ (A) : « Je dis OUI. » (Mais seulement si elle a un certificat solide).
2. NIÉ (D) : « Je dis NON. » (Mais seulement si elle a un certificat solide).
3. INDÉTERMINÉ (U) : « Je ne sais pas. » (C'est la réponse par défaut si elle n'a pas de preuve).

Pourquoi "Indéterminé" est une bonne chose ?
Dans le langage courant, dire "Je ne sais pas" semble faible. Ici, c'est une force. C'est comme un garde du corps qui dit : « Je ne peux pas vous laisser passer parce que je n'ai pas vérifié votre identité. » Cela protège la démocratie en empêchant l'IA de prendre des décisions hâtives.

4. Comment ça marche en pratique ? (L'histoire du Ministre)

Imaginons un chatbot appelé "Tooth Social" qui suit cette règle.

• Scénario 1 (Le début du scandale) : Un journaliste accuse un ministre de corruption. Les preuves sont floues, des rumeurs circulent.

  • L'IA classique : « Il est probablement coupable à 73% ! » (Elle donne un verdict flou mais qui semble sûr).
  • L'IA Brouwerienne : Elle regarde ses preuves. Elle voit que les chiffres sont entre 42% et 81%. Comme cela traverse la ligne de la "certitude", elle ne peut pas trancher.
  • Réponse : « Je ne suis pas autorisé à affirmer qu'il est coupable, ni à dire qu'il est innocent. Les preuves actuelles ne sont pas assez solides pour un verdict. Voici pourquoi... »

• Scénario 2 (La preuve arrive) : Plus tard, un rapport officiel du Congrès sort avec des documents signés.

  • L'IA reçoit ce nouveau "passe-partout". Les preuves sont maintenant claires (entre 76% et 84%).
  • Réponse : « Maintenant que le rapport officiel est là, j'ai le certificat nécessaire. Je peux affirmer : Le ministre est coupable. »

5. Pourquoi c'est important pour nous ?

Ce système change la relation entre l'humain et la machine.

• Avant : L'IA nous dit quoi penser. Nous devenons passifs.
• Maintenant : L'IA nous dit ce qu'elle peut prouver. Si elle ne peut pas prouver, elle nous laisse le temps de réfléchir, de chercher plus de preuves, de débattre.

C'est comme si l'IA devenait un élève sérieux qui ne lève la main que s'il est sûr de sa réponse, plutôt qu'un prof qui donne des réponses toutes faites.

En résumé

Ce papier nous dit : Ne faites pas confiance à la confiance.
Dans un monde où l'IA peut tout dire avec assurance, la vraie responsabilité est de savoir quand se taire.

L'objectif n'est pas d'empêcher l'IA de parler, mais de s'assurer qu'elle ne parle que lorsqu'elle a un passe-partout (une preuve vérifiable) à montrer. Si elle n'a pas de passe-partout, elle doit dire « Indéterminé ». Cela nous permet, nous les humains, de rester les maîtres de notre propre jugement et de notre démocratie.

C'est une façon de dire à la technologie : « Tu es un outil puissant, mais tu dois respecter nos règles de vérité avant de prendre la parole. »

Résumé technique

Voici un résumé technique détaillé de l'article "Upholding Epistemic Agency: A Brouwerian Assertibility Constraint for Responsible AI" de Michael Jülich.

1. Le Problème : L'Érosion de l'Agence Épistémique par l'IA Générative

L'article identifie une crise fondamentale dans les domaines à haut risque (santé, justice, démocratie, libertés) où les systèmes d'IA générative convertissent l'incertitude en verdicts autoritaires.

• Le mécanisme du problème : Les modèles de langage (LLM) et autres systèmes génératifs produisent des réponses fluides et confiantes basées sur des motifs statistiques (probabilités), masquant l'absence de fondement factuel vérifiable. Cela déplace le travail de justification des citoyens vers la machine, érodant leur capacité à évaluer, contester et agir sur la connaissance (l'agence épistémique).
• La limite des approches actuelles : Les méthodes existantes de quantification de l'incertitude (prédiction conforme, entropie sémantique) fournissent des intervalles de confiance ou des ensembles de prédiction, mais elles ne constituent pas une norme normative distinguant une assertion justifiée d'une "fluency" (fluidité) non justifiée. Elles tendent à présenter des probabilités comme des faits catégoriques.
• L'enjeu : Comment concevoir des systèmes d'IA qui respectent les standards épistémiques de la démocratie, en évitant de simuler une autorité qu'ils ne possèdent pas, tout en restant utiles dans des contextes critiques.

2. Méthodologie : L'Intuitionisme Brouwerien comme Contrainte de Conception

L'auteur propose une refonte normative de l'interface des systèmes d'IA, inspirée par l'intuitionisme mathématique de L.E.J. Brouwer. Au lieu de traiter la vérité comme une propriété binaire préexistante (classique), l'approche considère la vérité comme le résultat d'une construction vérifiable.

A. Le Principe de Contrainte Brouwerienne

La contrainte centrale est formulée ainsi : "Pas de certificat, pas d'acte de langage catégorique."
Dans les domaines à haut risque, un système d'IA ne peut affirmer (Assert) ou nier (Deny) une proposition $\phi$ que s'il peut produire un certificat de droit à l'assertion (certificate of entitlement) publiquement inspectable et contestable. Sinon, il doit retourner le statut Indéterminé (Undetermined - U).

B. Architecture à Deux Dimensions de l'Entitlement

L'article distingue deux sphères de justification liées par un objet frontière (le certificat) :

1. Entitlement Interne ($E^R_{t_{int}}$) : Basé sur des témoins computationnels vérifiables (bornes d'intervalles, marges de séparation, preuves formelles) générés par le modèle sous un régime interne $\langle R, t_{int} \rangle$.
2. Entitlement Public ($W^{S,\tau}_t$) : Basé sur des preuves documentaires, des normes institutionnelles, la provenance et la contestabilité, évalués selon un régime public $\langle S, \tau, t \rangle$ (standards, seuils, temps du registre public).

C. Sémantique à Trois États

L'interface de sortie n'est pas binaire (Vrai/Faux) mais ternaire :

• A (Asserted) : Le système est autorisé à affirmer $\phi$ car un certificat force la décision (ex: la borne inférieure d'un intervalle dépasse le seuil $\tau$).
• D (Denied) : Le système est autorisé à nier $\phi$ car un certificat force la négation (ex: la borne supérieure est strictement inférieure à $\tau$).
• U (Undetermined) : Aucun certificat ne force la décision. Le système doit s'abstenir de verdict catégorique. Ce n'est pas une option de rejet statistique, mais une obligation épistémique.

3. Contributions Clés

1. La Contrainte d'Assertibilité Brouwerienne : Une règle normative transformant l'incertitude en une obligation d'abstention. Elle remplace la confiance (confidence) par la justification (warrant).
2. Sémantique d'Interface et Contrat de Sortie : Définition formelle d'un contrat de déploiement $C$ qui lie les bornes internes aux standards publics. L'article introduit des codes de raisons explicites pour le statut U (ex: U-EVIDENCE pour manque de preuves publiques, U-MODEL pour bornes non forcantes, U-SCOPE pour hors-champ).
3. Lemme de Conception (Design Lemma) : Une preuve formelle démontrant qu'une interface binaire totale (A/D uniquement) et "sound" (vérifiable) implique nécessairement la décidabilité du prédicat déployé sur son domaine. Par conséquent, si aucun témoin ne force la décision, le statut U est obligatoire. Forcer un verdict binaire sans certificat est une représentation épistémique fausse (un "bullshit" algorithmique).
4. Objet Frontière (Boundary Object) : Le certificat $\kappa$ sert de pont entre la culture de l'ingénierie (bornes mathématiques) et la culture normative (débats publics), permettant une vérification sans nécessiter un consensus sémantique profond.
5. Architecture Hybride Proposée : Une architecture pratique où un noyau classique (LLM) génère des propositions fluides, mais où une "couche de contrôle constructive" (wrapper) filtre ces propositions via des vérificateurs (ex: Interval Bound Propagation) avant de les rendre publiques.

4. Résultats et Illustrations

• Cas d'étude "Tooth Social" : L'auteur simule un assistant politique face à un scandale de corruption.
  • Phase 1 : Les preuves sont floues (intervalles [0.42, 0.81] autour d'un seuil de 0.7). Un système classique donnerait une réponse probabiliste ("probablement oui"). Le système Brouwerien retourne U avec une explication : "Aucune enquête officielle ne force le seuil".
  • Phase 2 : Un rapport du Congrès arrive, modifiant le registre public. Les bornes certifiées deviennent [0.76, 0.84]. La borne inférieure dépasse le seuil. Le système retourne A avec un certificat attaché.
  • Résultat : Le statut U reste stable lors des raffinements internes tant que les preuves publiques ne changent pas, évitant les verdicts prématurés.
• Preuve de Décidabilité : Le lemme montre que l'absence de statut U obligerait le système à inventer une justification pour des cas non décidables, violant ainsi l'intégrité épistémique.
• Gestion des Arithmétiques à Précision Finie : L'article montre comment traiter les nombres flottants comme des réels constructifs (intervalles) pour garantir que les artefacts matériels (arrondis) ne génèrent pas de verdicts sociaux injustifiés.

5. Signification et Implications

• Philosophique : L'article réconcilie l'IA avec la philosophie politique (Cavell, Landemore) en traitant la vérité comme un idéal régulateur de la justification publique plutôt que comme une donnée statique. Il transforme l'IA d'un "oracle" en un participant responsable au débat public.
• Technique : Il propose un changement de paradigme : l'IA ne doit plus viser l'optimisation de la précision sur tous les cas, mais l'optimisation de la fiabilité des verdicts. L'abstention (U) devient une fonctionnalité de sécurité, pas un échec.
• Sociétal : En forçant les systèmes à s'abstenir lorsqu'ils manquent de preuves, on préserve l'agence épistémique des citoyens. Les utilisateurs sont incités à examiner les raisons du refus (les "U-classes") plutôt que d'accepter passivement un verdict. Cela agit comme un contrepoids à la "désinformation fluide".
• Limites et Réponses : L'auteur reconnaît le coût computationnel élevé de la vérification constructive. Il propose une approche hybride et sélective, réservant cette rigueur aux domaines à haut risque (politique, santé, justice) où le coût de l'erreur épistémique dépasse le coût de la latence.

En conclusion, ce papier ne propose pas seulement une nouvelle technique de vérification, mais une éthique algorithmique où la capacité de dire "Je ne sais pas" (ou "Je ne suis pas autorisé à le dire") est la condition sine qua non de la légitimité de l'IA dans la sphère publique.