Uncountably many conditionally inaccessible decisions exist in every finite probability space
Ce papier démontre que dans tout espace de probabilité fini, il existe une infinité non dénombrable de paires de mesures de probabilité objectives et de fonctions d'utilité qui rendent les décisions inaccessibles conditionnellement, démontrant ainsi que la probabilité subjective d'un agent peut systématiquement l'empêcher de prendre des décisions objectivement optimales.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
La Vue d'Ensemble : Le « Point Aveugle » de la Rationalité
Imaginez que vous êtes un capitaine dirigeant un navire (l'Agent). Vous avez une carte dans votre tête représentant ce que vous pensez être vrai concernant les courants océaniques et la météo (votre Probabilité Subjective, ou ). Vous possédez également une « vue de Dieu » de l'océan qui représente les lois physiques réelles de l'eau (la Probabilité Objective, ou ).
Dans un monde parfait, si vous observez la météo réelle, mettez à jour votre carte, puis prenez une décision, vous ferez toujours le meilleur choix possible. Ce document soutient que ce n'est pas toujours vrai.
Les auteurs prouvent qu'il existe d'innombrables situations où, peu importe la quantité d'informations partielles que vous rassemblez sur le monde réel, votre carte mise à jour ne vous conduira jamais vers la décision objectivement optimale. En fait, vos mises à jour rationnelles pourraient activement vous éloigner de la vérité.
Les Concepts Fondamentaux
1. Le Contexte de Décision (Le Menu)
Imaginez que vous choisissez entre deux actions, comme prendre la Route A ou la Route B.
- La Vérité Objective () : Les données réelles sur le trafic. Sur cette base, la Route A est clairement plus rapide.
- Votre Croyance () : Votre hypothèse actuelle concernant le trafic.
- La Décision : Vous choisissez la route qui semble la plus rapide selon votre croyance.
2. La Stratégie de Mise à Jour (Conditionnement de Jeffrey)
Vous ne connaissez pas le rapport complet sur le trafic. À la place, vous recevez des « preuves partielles ».
- Exemple : Vous entendez une rumeur disant qu'« il y a un accident du côté nord », mais vous ne connaissez pas l'emplacement exact.
- Le Processus : Vous prenez votre croyance actuelle () et la mettez à jour en fonction de cette rumeur partielle. Cela crée une nouvelle croyance « améliorée » ().
- L'Objectif : Vous voulez que cette croyance améliorée vous indique de prendre la Route A (le choix objectivement bon).
3. Le Problème : Décisions « Conditionnellement Inaccessibles »
Le document définit une décision comme « conditionnellement inaccessible » si, peu importe la preuve partielle que vous obtenez, votre croyance améliorée ne vous indique jamais de prendre l'itinéraire objectivement optimal.
C'est comme avoir une boussole magnétiquement déformée. Peu importe la direction vers laquelle vous regardez (quelle preuve partielle vous rassemblez), l'aiguille ne pointe jamais vers le Nord. Elle pourrait pointer vers l'Est, l'Ouest ou le Sud, mais jamais vers le Nord.
La Découverte Principale : C'est Partout, Pas Rare
Dans un document précédent, les auteurs avaient trouvé quelques exemples où cette « boussole cassée » se produisait. Ils avaient émis l'hypothèse que cela pourrait arriver souvent dans des situations complexes.
Ce document prouve qu'ils avaient tort d'être prudents. Ils montrent que :
- Cela se produit dans presque toutes les situations : Si vous avez une décision avec au moins 3 options (comme 3 itinéraires), ce problème existe.
- C'est infini : Pour n'importe la façon dont vous pensez actuellement (), il existe un nombre infini non dénombrable de scénarios réels () où vos mises à jour rationnelles échoueront à trouver la meilleure décision.
- C'est robuste : Ce n'est pas un hasard. Il existe des paires infinies de choix (Route A contre Route B) où cet échec se produit.
La Métaphore :
Imaginez que vous essayez de trouver une clé spécifique dans une grande pièce sombre. Vous avez une lampe de poche (votre preuve partielle). Le document prouve que pour presque chaque position possible de la clé, il existe une façon dont votre lampe de poche est cassée telle que, peu importe comment vous balayez le faisceau, vous n'éclairerez jamais la clé. Vous pourriez penser être rationnel en balayant le sol, mais la physique de votre lampe de poche garantit que vous manquerez la cible.
L'Explication du « Point Aveugle »
Les auteurs utilisent un concept mathématique appelé le « Point Aveugle Bayésien ».
- Pensez à votre croyance actuelle () comme à une paire de lunettes.
- Le « Point Aveugle » est l'ensemble de toutes les réalités possibles () que vous ne pouvez pas atteindre simplement en regardant à travers ces lunettes et en les ajustant sur la base d'indices partiels.
- Le document prouve que ce « Point Aveugle » est immense. Il couvre presque tout l'univers des possibilités.
- Si le « monde réel » tombe dans ce point aveugle, vos mises à jour rationnelles échoueront toujours à s'aligner avec la réalité.
Le Degré d'Échec
Le document introduit également une manière de mesurer à quel point la boussole est cassée.
- Degré 0 : Vos mises à jour fonctionnent toujours parfaitement.
- Degré Maximum : Vos mises à jour ne fonctionnent jamais, peu importe la preuve que vous obtenez.
- La Découverte : Les auteurs prouvent que vous pouvez trouver des situations où l'échec se produit pour n'importe quel nombre spécifique de types de preuves que vous pourriez rencontrer. Vous pouvez concevoir un scénario où votre boussole échoue exactement 5 fois sur 10 indices possibles, ou 99 fois sur 100.
Le Résultat « Surprenant » : L'Apprentissage Aggrave-t-il les Choses ?
On pourrait penser : « Si je commence avec une mauvaise hypothèse, mais que j'apprends la vérité, je m'améliore forcément ? »
Le document prouve un fait spécifique et contre-intuitif :
Si vos mises à jour rationnelles (utilisant des preuves partielles) vous conduisent à une décision fausse, cela implique que votre hypothèse initiale (avant toute mise à jour) était également fausse.
- Traduction : Vous ne pouvez pas commencer avec une hypothèse « bonne », apprendre une vérité partielle, et aboutir à une décision « mauvaise ». Si la mise à jour vous égare, vous étiez déjà égaré.
- Cependant : Le point principal du document est qu'il existe tellement de points de départ « mauvais » (croyances subjectives) qui correspondent à des réalités « bonnes », qu'il est statistiquement accablant de se retrouver dans une situation où vos mises à jour rationnelles échouent à trouver la vérité.
Résumé en Une Seule Phrase
Le document prouve que pour toute personne rationnelle possédant un ensemble spécifique de croyances, il existe un vaste océan infini de scénarios réels où, peu importe la quantité d'informations partielles qu'ils rassemblent et traitent, leurs mises à jour rationnelles les empêcheront systématiquement de faire le choix objectivement optimal.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.