Practical Principles for AI Cost and Compute Accounting
Cet article propose sept principes pour la conception de normes de comptabilité du coût et de la puissance de calcul de l'IA afin de combler les failles techniques, d'empêcher les stratégies de manipulation et d'assurer une mise en œuvre réglementaire cohérente sans décourager l'atténuation responsable des risques.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
À mesure que les systèmes d'intelligence artificielle deviennent plus puissants, les gouvernements cherchent un moyen fiable de décider quelles machines nécessitent une surveillance stricte et lesquelles n'en ont pas besoin. Le défi réside dans le fait que ces systèmes sont complexes et que leurs rouages internes sont souvent cachés à l'intérieur des serveurs privés des entreprises technologiques. Pour résoudre ce problème, les décideurs politiques se sont tournés vers deux faits mesurables : le montant d'argent nécessaire pour construire un modèle et la puissance de calcul requise pour son apprentissage. Ces chiffres servent de proxy, de substitut à l'intelligence réelle et au danger potentiel du système. La logique est simple : si un projet nécessite un investissement massif de ressources, il possède probablement des capacités avancées qui pourraient poser des risques pour la société. Les lois en Europe et aux États-Unis commencent à utiliser ces seuils pour déclencher des réglementations, supposant que tout projet franchissant une certaine limite de dépenses ou de puissance de calcul doit être surveillé de près. Cependant, un nouvel article de recherche de Stephen Casper, Luke Bailey et Tim Schreier soutient que, sans règles claires sur la manière de comptabiliser ces ressources, le système est truffé de failles que des développeurs habiles pourraient exploiter.
Les chercheurs ont entrepris de corriger les ambiguïtés techniques qui permettent actuellement aux entreprises de dissimuler la véritable ampleur de leur travail. Ils ont identifié que les propositions actuelles échouent souvent à prendre en compte l'intégralité du parcours de création d'un modèle. Par exemple, un développeur pourrait entraîner un modèle plus petit et moins coûteux en lui apprenant à imiter les réponses d'un modèle « enseignant » beaucoup plus grand et plus coûteux. Si les réglementations ne comptent que l'étape finale, le coût massif de l'entraînement du « enseignant » d'origine est ignoré, faisant paraître le nouveau projet trompeusement bon marché. De même, les entreprises pourraient tenter de fractionner leur travail entre différentes entités juridiques ou d'utiliser des outils open-source pour contourner les limites. Pour remédier à ces problèmes, les auteurs proposent sept principes pratiques pour concevoir des normes comptables difficiles à manipuler et faciles à appliquer.
Le premier principe, et le plus critique, est de compter chaque dollar et chaque unité de puissance de calcul dépensés depuis le tout début d'un projet jusqu'au système final. Cela signifie inclure le travail effectué pour préparer les données, l'entraînement des modèles enseignants utilisés pour la distillation, et même les expériences ratées qui ont été écartées en cours de route. Les auteurs soutiennent que limiter le décompte à la seule phase d'entraînement finale crée une « faille de distillation », où le coût réel de l'intelligence d'un modèle est masqué. En exigeant une comptabilité complète du travail en amont, les régulateurs peuvent voir l'investissement réel derrière les capacités d'un système.
Parallèlement, l'article suggère que tout ne devrait pas être comptabilisé. Les développeurs devraient être autorisés à exclure les coûts des ressources qui sont déjà librement disponibles pour tous, telles que les ensembles de données open-source ou les modèles pré-entraînés qui ont été publiés publiquement bien avant le projet actuel. Cela garantit que les règles se concentrent sur l'effort propriétaire qu'une entreprise déploie, plutôt que de la pénaliser pour l'utilisation du socle partagé du domaine. Cependant, les auteurs ajoutent une nuance cruciale : si une entreprise publie un modèle partiellement terminé au public, puis le reprend rapidement pour le terminer, ce travail initial doit tout de même être comptabilisé. Cela empêche une stratégie où une entreprise tenterait de « réinitialiser » sa comptabilité en publiant brièvement un modèle avant de poursuivre son développement en secret.
Le cadre reconnaît également qu'une partie du travail est spécifiquement dédiée à rendre l'IA plus sûre, et non plus intelligente. Les activités telles que le filtrage de contenus nuisibles dans les données d'entraînement ou les tests visant à s'assurer qu'un modèle refuse d'aider à des projets criminels doivent être exemptées du calcul des coûts. L'objectif est de veiller à ce que les entreprises ne soient pas financièrement punies pour faire ce qui est juste et pour réduire les risques pour la société. Pour s'assurer que ces exemptions sont légitimes, les auteurs insistent sur le fait que les entreprises doivent fournir des rapports détaillés et ventilés. Ces rapports agiraient comme un audit financier, forçant les développeurs à expliquer exactement ce qu'ils ont fait, pourquoi ils l'ont fait et comment ils ont calculé leurs chiffres, y compris les estimations utilisées lorsqu'une donnée précise n'était pas disponible.
Enfin, l'article conseille que les réglementations utilisent deux déclencheurs distincts : l'un pour le coût total et l'autre pour la puissance de calcul totale. Parce que ces deux mesures peuvent parfois être manipulées indépendamment — par exemple, en utilisant des données peu coûteuses mais très gourmandes en calcul plutôt que des données humaines coûteuses mais efficaces — le fait d'avoir les deux comme filets de sécurité rend le contournement du système beaucoup plus difficile. Les auteurs soulignent également que ces normes ne peuvent pas être statiques. À mesure que la technologie évolue et devient plus efficace, les seuils et les règles doivent être mis à jour régulièrement, peut-être tous les quelques mois, pour rester efficaces. Sans cette adaptabilité, une règle qui fonctionne aujourd'hui pourrait devenir obsolète demain, permettant à des systèmes dangereux de passer entre les mailles du filet simplement parce que les règles comptables n'ont pas suivi le rythme de l'innovation.
Les chercheurs concluent que, bien qu'aucun système comptable ne puisse être parfait, ces principes fournissent une base solide pour créer des règles qui sont transparentes, cohérentes et alignées sur l'intérêt public. En fermant les failles qui permettent une manipulation stratégique et en encourageant une gestion responsable des risques, ces directives pourraient aider les gouvernements à superviser les intelligences artificielles les plus avancées sans étouffer les plus petits développeurs qui ne présentent pas le même niveau de risque. L'objectif ultime est de créer un environnement réglementaire où l'échelle réelle d'un projet d'IA est visible, garantissant que les systèmes les plus puissants reçoivent l'attention dont ils ont besoin.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.