Probabilities beyond Belnap-Dunn logic: dealing with gaps, gluts and reliability

La logique et la probabilité sont depuis longtemps considérées comme deux langages différents pour décrire le monde. La logique est l'étude du raisonnement, déterminant ce qui doit être vrai si d'autres choses sont vraies. La probabilité est l'étude de l'incertitude, mesurant la probabilité qu'un événement se produise. Pendant des siècles, ces domaines ont fonctionné sous une hypothèse stricte : que chaque énoncé est soit vrai, soit faux, et que notre connaissance du monde est assez complète pour attribuer un nombre unique à la probabilité de n'importe quel événement. Cela fonctionne bien pour les lancers de pièces ou les prévisions météorologiques, où le résultat est clair. Mais cela échoue lorsque nous sommes confrontés à des informations contradictoires, incomplètes ou simplement peu fiables. Si un témoin dit qu'une voiture était rouge et qu'un autre dit qu'elle était bleue, la logique classique s'effondre car la voiture ne peut pas être les deux à la fois. Si personne n'a vu la voiture du tout, la logique classique n'a aucun moyen de représenter ce manque total d'information sans forcer une supposition.

Pour gérer ces réalités confuses, des chercheurs ont développé des systèmes qui permettent des « lacunes » (où nous ne savons rien) et des « glut » (où nous avons des informations contradictoires). Ces systèmes, connus sous le nom de logiques non classiques, traitent la vérité comme un spectre plutôt que comme un interrupteur. Cependant, un défi majeur subsistait : comment attribuer des probabilités à des énoncés dans ces systèmes flexibles ? Si un énoncé peut être à la fois vrai et faux, ou ni l'un ni l'autre, comment calculer la chance qu'il se produise ? Cette question est cruciale pour l'intelligence artificielle, le raisonnement juridique et tout domaine où les machines ou les humains doivent prendre des décisions basées sur des données imparfaites, conflictuelles ou peu fiables. Sans une manière robuste de mesurer l'incertitude dans ces scénarios complexes, nos outils de raisonnement restent bloqués dans un monde trop simple pour être réel.

Une équipe de chercheurs a désormais comblé ce fossé en introduisant un nouveau cadre de probabilité basé sur un système de logique sophistiqué à six valeurs. Leurs travaux, publiés dans une étude récente, dépassent les systèmes traditionnels à quatre valeurs qui ne rendent compte que du vrai, du faux, du « les deux » ou du « ni l'un ni l'autre ». En ajoutant une cinquième et une sixième dimension cruciale — représentant la fiabilité ou la « classicalité » de l'information elle-même — ils ont créé une méthode pour mesurer non seulement si une affirmation est vraie, mais aussi si nous pouvons faire confiance à la source de cette vérité. Cela permet une analyse beaucoup plus fine de la croyance, distinguant une conviction ferme, une supposition fragile, une contradiction et un manque total de preuves.

Les chercheurs ont construit leur système sur une logique appelée LET+K, qui s'appuie sur des modèles antérieurs en introduisant un opérateur qui agit comme un « test de fiabilité ». Dans le langage courant, cet opérateur permet à un système de dire : « J'ai des preuves pour cette affirmation, et ces preuves sont solides », ou « J'ai des preuves pour cette affirmation, mais la source est peu fiable ». Cette distinction est vitale. Dans un système standard, si vous avez une contradiction, vous pourriez être forcé de la traiter comme un échec total du raisonnement. Dans ce nouveau système, vous pouvez reconnaître la contradiction tout en notant simultanément que l'information qui la cause est peu fiable, permettant ainsi au processus de raisonnement de se poursuivre sans s'effondrer. L'équipe a défini des fonctions de probabilité qui fonctionnent à travers six régions distinctes de possibilité : croyance fiable, croyance peu fiable, conflit, incrédulité peu fiable, incrédulité fiable et incertitude totale.

Pour rendre ces concepts abstraits opérationnels, les auteurs ont développé une nouvelle façon de visualiser ces probabilités en utilisant ce qu'ils appellent des « structures de torsion » (twist structures). Imaginez une carte où chaque état possible du monde est divisé en six zones spécifiques, plutôt que deux. Lorsqu'une information arrive, elle ne se contente pas de tomber sur « vrai » ou « faux » ; elle illumine des parties spécifiques de cette carte en six parties. Les chercheurs ont prouvé que leurs nouvelles fonctions de probabilité sont mathématiquement saines et complètes, ce qui signifie qu'elles suivent des règles logiques strictes qui empêchent les contradictions et garantissent que les nombres s'additionnent correctement. Ils ont montré que ces fonctions peuvent être définies de trois manières différentes — unidimensionnelle, tridimensionnelle et six-dimensionnelle — et que ces trois approches sont parfaitement équivalentes, regardant simplement les mêmes données sous des angles différents.

Une réalisation clé de l'article est l'extension de la « mise à jour de Jeffrey » (Jeffrey's update), une méthode célèbre pour changer les croyances lorsqu'une nouvelle preuve arrive. Dans le monde classique, si vous apprenez un nouveau fait, vous mettez à jour vos probabilités en se basant sur le fait que ce fait est certain. Mais dans le monde réel, les nouvelles preuves sont souvent incertaines. Les chercheurs ont adapté cette règle de mise à jour à leur système à six valeurs. Ils ont démontré comment ajuster les probabilités lorsqu'on apprend qu'une affirmation est « quelque peu fiable » ou « quelque peu contradictoire », plutôt que simplement vraie ou fausse. Ils ont fourni à la fois une définition mathématique et une preuve logique que ces deux méthodes de mise à jour sont identiques, garantissant que le système est cohérent, que l'on regarde les choses du point de vue des chiffres bruts ou des règles logiques.

L'étude a également exploré la façon dont ce système gère la classique « mise à jour bayésienne », utilisée lorsque l'évidence est certaine. Ils ont montré que leur nouveau système inclut naturellement les anciennes méthodes classiques comme des cas particuliers. Si l'information est parfaitement fiable et que la contradiction est impossible, le système se comporte exactement comme la logique classique à laquelle nous sommes habitués. Mais quand l'information est confuse, le système s'adapte pour accommoder la complexité. Cela signifie que le nouveau cadre ne remplace pas nos outils existants ; il les généralise, offrant une boîte à outils plus puissante pour les situations où le monde refuse d'être simple.

Les implications de ce travail sont significatives pour tout domaine traitant de données incertaines. En fournissant un moyen rigoureux de mesurer la fiabilité de l'information parallèlement à sa valeur de vérité, les chercheurs nous ont donné un moyen de raisonner sur les contradictions sans perdre la tête. Ils ont montré qu'il est possible d'avoir une théorie mathématique de la probabilité qui respecte le fait que certaines informations sont conflictuelles, certaines sont manquantes et d'autres sont simplement peu fiables. Il ne s'agit pas seulement d'un exercice théorique ; c'est une étape nécessaire vers la construction d'une intelligence artificielle capable de naviguer dans la nature confuse, contradictoire et peu fiable de la connaissance humaine. L'article conclut en soulignant comment ce cadre pourrait être utilisé pour améliorer les systèmes de révision des croyances, permettant aux agents de mettre à jour leurs vues de manière sensible à la qualité des preuves qu'ils reçoivent.

En fin de compte, cette recherche offre une manière plus honnête de penser l'incertitude. Elle reconnaît que le monde n'est pas toujours noir ou blanc, et que notre connaissance est souvent un assemblage de convictions fortes, de suppositions fragiles et de contradictions flagrantes. En créant un langage mathématique capable de décrire tous ces états simultanément, les auteurs ont fourni un fondement pour une logique de l'évidence plus robuste et plus flexible. Leur travail prouve que nous pouvons mesurer la fiabilité de nos croyances aussi précisément que nous mesurons leur probabilité, ouvrant la porte à une nouvelle ère de raisonnement dans un monde imparfait.