No Accidental Software Agent First Canonical Code for Human Code Entropy Reduction and 30 to 500 times Lower Frontier Model Requirements
Ce document propose le « code canonique axé sur l'agent » (agent-first canonical code), un substrat porteur de preuve conçu pour éliminer l'entropie accidentelle des référentiels logiciels humains en faisant s'effondrer les codages équivalents en représentants gouvernés, visant ainsi à réduire les exigences d'entraînement des modèles frontières et les coûts de modification vérifiée de 30 à 500 fois, tout en établissant une voie falsifiable vers un « horizon sans accident ».
Article original placé dans le domaine public sous CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Le gros problème : Le « garage en désordre » contre le « plan de construction »
Imaginez que vous essayiez d'apprendre à un robot comment construire une maison. Actuellement, vous nourrissez le robot avec des millions de photos de maisons construites par des humains.
Le problème est que les maisons humaines sont désordonnées. Un constructeur utilise des briques rouges, un autre des briques bleues. L'un place la cuisine à gauche, l'autre à droite. Certaines maisons ont une porte secrète dans le sous-sol qui n'était pas sur le plan d'origine mais qui fonctionne quand même. Certaines ont une installation électrique bizarre qui ne fonctionne que si vous vous tenez sur une chaise spécifique.
Le robot doit passer tout son temps et toute son énergie à essayer de comprendre tous ces détails aléatoires et accidentels juste pour apprendre le concept de base de « comment construire une cuisine ». Il gaspille sa puissance cérébrale sur les « accidents » des habitudes de construction humaines plutôt que sur la science réelle de la construction.
La thèse du papier :
Nous pouvons arrêter d'enseigner au robot les photos désordonnées. À la place, nous pouvons d'abord traduire toutes ces maisons humaines en un plan de construction parfait et standardisé. Dans ce plan :
- La cuisine est toujours au même endroit.
- Le câblage est toujours fait de la même façon.
- Les « portes secrètes » sont soit supprimées, soit clairement étiquetées comme « optionnelles ».
Si nous faisons cela, le robot n'aura pas à deviner. Il pourra apprendre les règles fondamentales de la construction beaucoup plus vite, faire moins d'erreurs et coûter beaucoup moins cher à exploiter.
L'idée centrale : Le « Code Canonique »
Les auteurs appellent cette version standardisée le « Code Canonique Agent-First ».
Voyez cela comme un service de traduction.
- Code Humain Brut : C'est comme une conversation dans une pièce bondée où tout le monde parle des dialectes différents, utilise de l'argot et s'interrompt. C'est plein d'informations précieuses, mais c'est bruyant.
- Code Canonique : C'est la même conversation, mais traduite dans une langue unique et parfaite où chaque mot a une définition stricte et où la grammaire est irréprochable.
Le papier soutient que nous ne devrions pas seulement filtrer le « mauvais » code. Nous devrions reconstruire le code dans ce format parfait avant d'enseigner à l'IA.
Les quatre fois où nous payons pour le désordre
Le papier explique que lorsque nous utilisons du code humain désordonné, nous payons pour la confusion quatre fois :
- Entraînement : Nous devons montrer des millions d'exemples à l'IA juste pour lui enseigner les bases.
- Recherche : Quand l'IA essaie de corriger un bug, elle doit fouiller dans des dossiers désordonnés pour trouver où se trouve le code.
- Raisonnement : L'IA doit deviner quelles sont les règles car elles ne sont pas écrites clairement.
- Révision : Les humains doivent passer des heures à vérifier le travail de l'IA parce que l'IA pourrait avoir mal compris le contexte désordonné.
En utilisant le « Plan Canonique », nous supprimons presque entièrement ces trois premiers coûts. L'IA sait exactement où chercher et quelles sont les règles.
Les « Cellules de Comportement » (L'analogie des Legos)
Imaginez que vous construisez une ville.
- Méthode actuelle : Chaque fois qu'un « caserne de pompiers » est nécessaire, un architecte humain en dessine une nouvelle de toutes pièces. Parfois elle est en bois, parfois en brique. Parfois la porte s'ouvre à gauche, parfois à droite.
- La méthode du papier : Nous créons une « Cellule Caserne de Pompiers ». C'est un bloc Lego préfabriqué et certifié. Il possède une porte, un toit et un raccord pour la lance. Il est garanti de fonctionner.
Quand l'IA a besoin de construire une ville, elle ne dessine pas une caserne de pompiers. Elle vient simplement emboîter la « Cellule Caserne de Pompiers » en place.
- La thèse : Le papier suggère que 70 % à 90 % des logiciels (comme se connecter, payer des factures ou enregistrer des données) ne sont que la « répétition » de ces blocs standards. Si nous pouvons identifier ces blocs, l'IA n'a besoin d'inventer que les choses nouvelles (la « nouveauté »), et non les choses ennuyeuses et répétitives.
L'« Horizon Sans Accident »
Le papier a un objectif ambitieux appelé l'« Horizon Sans Accident ».
Imaginez un monde où les logiciels ont zéro accident.
- Pas de noms de fichiers accidentels.
- Pas de failles de sécurité accidentelles.
- Pas de confusion accidentelle sur la fonction d'un bouton.
Dans ce monde, la seule chose qui reste à faire pour les humains (et l'IA) est de s'occuper des choses créatives et nouvelles. Tout le reste n'est qu'un bloc pré-approuvé, sûr et certifié que l'on assemble.
Le papier admet que nous ne pouvons pas atteindre la perfection à 100 % pour chaque programme futur possible (car certaines choses sont trop nouvelles ou trop étranges). Mais pour les logiciels de routine que nous utilisons quotidiennement (comme les applications bancaires, les sites de commerce électronique et les outils internes), ils pensent que nous pouvons réduire le coût et l'effort de 30 à 500 fois.
Ce que le papier prouve réellement (et ce qu'il ne prouve pas)
Il est important de s'en tenir à ce que le papier dit réellement :
- Ce qu'ils ONT FAIT : Ils ont pris un petit ensemble d'exemples de codage, les ont traduits dans ce format de « plan parfait » et ont appris à un petit modèle d'IA à les comprendre. Le modèle a appris rapidement et n'a pas fait d'erreurs sur les « règles » du plan.
- Ce qu'ils N'ONT PAS ENCORE PROUVÉ : Ils n'ont pas encore prouvé que cela fonctionne pour tout le logiciel du monde. Ils n'ont pas prouvé que cela économisera des milliards de dollars (bien qu'ils aient un plan pour mesurer cela). Ils proposent un programme de recherche pour tester ces idées.
L'essentiel
Le papier dit : « Arrêtez d'apprendre à l'IA à lire l'écriture humaine désordonnée. Apprenez-lui d'abord à lire des plans parfaitement standardisés. »
Si nous faisons cela, l'IA cessera de perdre son temps à deviner comment les humains font habituellement les choses, et commencera à consacrer son temps à résoudre réellement les problèmes difficiles et nouveaux. Le résultat sera un logiciel moins cher à construire, plus sûr à utiliser et beaucoup plus rapide à créer.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.