CANONIC: Governance Is Compilation
L'article présente CANONIC, un cadre de gouvernance qui applique les principes de la théorie des compilateurs pour créer un registre de preuves auditable pour le contenu généré par IA, soutenant que si l'admission structurelle ne peut pas filtrer algorithmiquement le « slop », elle garantit que chaque affirmation est ancrée à des définitions et des engagements vérifiables pour une reproductibilité de bout en bout.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Le gros problème : Le déluge de « Slop » (déchets textuels)
Imaginez une usine capable d'imprimer des livres plus vite que quiconque ne peut les lire. En 2025, cette usine (l'IA) a commencé à produire tellement de texte qu'elle a créé un nouveau problème : le « Slop ».
Le « Slop » n'est pas seulement une mauvaise écriture ; c'est un texte qui semble parfait, qui a l'air intelligent et qui coule de source, mais qui n'a aucun lien avec la réalité. C'est comme un chef qui peut préparer un repas délicieux en apparence en quelques secondes, mais dont les ingrédients sont faits de plastique. Si vous le mangez, vous tombez malade, mais vous ne pouvez pas dire qu'il est faux simplement en regardant l'assiette.
L'article soutient que nous ne pouvons pas régler ce problème en embauchant plus de personnes pour lire les livres (révision humaine) ou en construisant de meilleurs détecteurs de mensonges (détection par IA). Pourquoi ? Parce que les faux livres ressemblent exactement aux vrais. L'usine est trop rapide, et les faux livres sont trop convaincants.
La solution : La barrière du « Compilateur »
L'auteur, Dexter Hadley, propose un changement radical. Au lieu d'essayer de juger si un livre est vrai (ce qui est difficile), nous devrions juger s'il est structurellement valide (ce qui est facile).
Il appelle cela la Gouvernance par Compilation.
Pensez à un programme informatique. Avant qu'un programme ne s'exécute, un « compilateur » le vérifie. Le compilateur ne demande pas : « Ce programme va-t-il résoudre les problèmes du monde ? » ou « Ce code est-il brillant ? ». Il pose trois questions simples et mécaniques :
- Avez-vous utilisé un mot qui existe dans le dictionnaire ?
- Avez-vous fait référence à un fichier qui existe réellement sur l'ordinateur ?
- Ce fichier est-il bien dans le dossier que vous avez indiqué ?
Si la réponse à l'une de ces questions est « Non », le compilateur affiche « Erreur » et arrête l'exécution du programme. Peu importe que le code soit brillant ; s'il est structurellement brisé, il est rejeté.
CANONIC applique cette même logique à l'écriture par l'IA. Il agit comme un « compilateur » pour le texte. Avant qu'un contenu généré par l'IA ne soit admis dans une bibliothèque publique (le « corpus »), il doit passer par trois portes.
Les Trois Portes (La « Triade »)
Pour qu'un texte passe la porte CANONIC, il doit être construit comme un type spécifique de dossier contenant trois fichiers spécifiques. Si un seul fichier manque, le texte est immédiatement rejeté.
- Le Livre de Règles (CANON.md) : Ce fichier dit : « Voici les règles pour ce sujet spécifique. » C'est la loi.
- Le Dictionnaire (VOCAB.md) : Ce fichier définit chaque mot utilisé dans le Livre de Règles. Vous ne pouvez pas utiliser un mot sophistiqué à moins de l'avoir défini ici. Cela empêche l'IA d'inventer du jargon.
- La Description (README.md) : Ce fichier explique de quoi traite réellement le projet.
L'analogie : Imaginez que vous construisez une maison.
- Le Dictionnaire est la liste des matériaux approuvés (ex : « Brique » signifie brique d'argile rouge, pas plastique rouge).
- Le Livre de Règles dit : « Chaque mur doit être fait de Brique. »
- La Description dit : « Ceci est une maison. »
Si vous essayez de construire un mur avec du « Plastique Rouge » sans définir le « Plastique Rouge » dans votre dictionnaire, l'inspecteur (le compilateur) vous arrête. Vous ne pouvez pas simplement dire : « Faites-moi confiance, c'est un mur. »
Le « Registre de Preuves »
L'article introduit une seconde couche : Le Registre.
Chaque affirmation faite dans le texte doit être liée à un « commit » spécifique (une version enregistrée d'un fichier) dans un enregistrement public et immuable (comme un dépôt Git).
- L'affirmation : « Le patient s'est amélioré. »
- L'ancrage : « Voir le commit #12345 dans le Registre. »
Si l'auteur ne peut pas pointer vers le commit spécifique qui prouve l'affirmation, le texte est rejeté. C'est comme une affaire judiciaire où vous ne pouvez pas simplement dire : « Je l'ai vu se passer. » Vous devez produire la vidéo. Si vous n'avez pas la vidéo, l'affirmation ne peut pas entrer dans le registre.
Ce que fait CANONIC (Et ce qu'il ne fait pas)
C'est la partie la plus importante de l'article. L'auteur est très honnête sur les limites.
Ce qu'il FAIT :
Il garantit la Responsabilité (Accountability).
Si un texte passe la porte, vous savez avec certitude que :
- Chaque mot est défini.
- Chaque affirmation pointe vers une preuve spécifique et immuable.
- Les règles ont été suivies.
Il transforme la « prose invérifiable » en un « enregistrement vérifiable ». Même si le texte est faux, il est désormais traçable. Vous pouvez regarder la preuve, voir où cela a échoué et corriger le tir.
Ce qu'il NE FAIT PAS :
Il ne garantit pas la Vérité.
L'article a mené un test (un benchmark) pour voir si ce système pouvait filtrer le « Slop ». Le résultat a été surprenant : il n'a pas pu.
- Le Test : Ils ont soumis au système des fausses nouvelles, de vraies nouvelles et des mensonges complexes générés par l'IA.
- Le Résultat : La porte du « Compilateur » a laissé passer les fausses nouvelles si celles-ci étaient bien structurées (mots définis, fausses preuves qui semblaient réelles, et une chronologie claire).
- La Leçon : Une machine peut vérifier si une phrase est grammaticalement valide et référencée, mais elle ne peut pas vérifier si la phrase est vraie.
L'analogie :
Imaginez un agent de sécurité dans une banque.
- CANONIC est l'agent qui vérifie votre pièce d'identité. Si votre identité est falsifiée mais qu'elle est parfaite, qu'elle comporte une photo et correspond au format de la base de données, l'agent vous laisse entrer. L'agent s'assure que vous avez une identité valide, pas que vous êtes une bonne personne.
- La Vérité est décidée par le directeur de la banque (l'expert humain). Le directeur regarde l'identité, voit la personne, et décide : « Attendez, cette personne ment sur son solde bancaire. »
L'article soutient que nous avons essayé de faire en sorte que l'algorithme (le garde) décide qui ment. L'article dit : Arrêtez. Le travail du garde est simplement de vérifier l'identité. Le travail du directeur est de décider si l'histoire est vraie.
L'Humain dans la boucle (Human-in-the-loop)
Le système est conçu pour que les Humains écrivent les Règles et que l'IA écrive le Contenu.
- Les humains définissent la « Constitution » (les règles dans le fichier CANON.md).
- L'IA génère le texte.
- Le « Compilateur » vérifie si l'IA a suivi les règles.
- Si l'IA essaie de changer les règles, elle est bloquée. Seuls les humains peuvent modifier la Constitution.
Cela crée un système où l'IA peut être rapide et créative, mais elle ne peut pas enfreindre la loi ou cacher ses traces.
Résumé
L'article conclut que nous ne pouvons pas construire un algorithme qui détecte automatiquement le « Slop » (texte d'IA faux ou non fondé) car le « Slop » peut être fabriqué pour être structurellement parfait.
Au lieu de cela, nous devrions construire un système qui impose la Responsabilité.
- Ancienne méthode : « Faites-moi confiance, cette IA a écrit un article vrai. » (Difficile à vérifier).
- Nouvelle méthode (CANONIC) : « Voici l'article. Voici le dictionnaire des mots utilisés. Voici l'endroit exact où se trouve la preuve. Voici le livre de règles qu'il a suivi. Vous pouvez tout vérifier par vous-même. »
Le système n'arrête pas les mensonges ; il s'assure simplement que si un mensonge est proféré, il laisse une trace de preuve claire et immuable afin que les experts humains puissent le trouver et le dénoncer. Il transforme la « boîte noire » de l'IA en une « boîte de verre » où tout est visible et vérifiable.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.