Le débat sur l'intelligence artificielle donne souvent l'impression d'être bloqué sur une question binaire unique : les cerveaux informatiques les plus puissants doivent-ils être gardés derrière une porte verrouillée, accessibles uniquement via le site web d'une entreprise, ou leurs rouages internes doivent-ils être publiés pour que n'importe qui puisse les télécharger et les étudier ? Ce débat traite de la publication d'un modèle comme d'un simple choix entre « ouvert » et « fermé ». Cependant, la réalité de ces systèmes est bien plus complexe. Une IA conçue pour aider un enfant à apprendre son alphabet est fondamentalement différente d'un système capable de planifier des stratégies militaires complexes ou de manipuler des marchés financiers. Le danger qu'un système présente n'est pas le même que celui que l'autre représente. Si nous appliquons les mêmes règles aux deux, soit nous verrouillons des outils qui pourraient enseigner à des millions de personnes, soit nous distribuons des armes dangereuses à quiconque le souhaite. Le défi fondamental pour la société n'est pas seulement de décider de l'intelligence d'une machine, mais de décider qui peut utiliser cette intelligence et dans quelles conditions.

En septembre 2026, les chercheurs Chai K. Toh et Vasu Raj Jain, de la fondation SAFE AI, ont proposé une nouvelle façon d'aborder ce problème. Ils soutiennent que le débat actuel passe à côté d'une distinction cruciale : la différence entre la capacité d'un système et qui est autorisé à y accéder. Au lieu de demander si un modèle doit être ouvert ou fermé, ils suggèrent de classer l'accès en fonction de ce que la machine va réellement faire et de l'ampleur du mal qu'elle pourrait causer si elle échouait. Ils appellent cela le Modèle d'Accessibilité de l'IA Multi-Niveaux (Multi-Tiered AI Accessibility Model), un système qui organise l'intelligence artificielle en trois niveaux distincts, de la même manière que nous réglementons différents types de véhicules ou de produits chimiques en fonction de leur risque.

Le premier niveau, qu'ils appellent « IA pour l'Apprentissage » (AI for Learning), est conçu pour l'éducation et l'alphabétisation de base. Ce sont des systèmes destinés à enseigner aux étudiants comment utiliser la technologie, comment coder ou comment comprendre le monde. Parce que le potentiel de nuisance est faible, ces modèles devraient être aussi ouverts que possible. N'importe qui devrait pouvoir les télécharger, les étudier et les utiliser sans avoir à prouver son identité. Les chercheurs suggèrent que ces systèmes devraient être délibérément limités en puissance ; ils n'ont pas besoin d'être les ordinateurs les plus puissants existants pour donner une leçon. En maintenant la capacité de ces outils d'apprentissage limitée par conception, la société peut profiter des avantages d'un accès ouvert sans le risque qu'un étudiant ne déclenche accidentellement un système dangereux.

Le deuxième niveau, « IA pour l'Exploration » (AI for Exploration), s'adresse à un groupe différent : les chercheurs, les développeurs et les entreprises qui ont besoin de plus de puissance pour construire de nouvelles applications ou tester des idées scientifiques. Ces systèmes sont plus capables que les outils d'apprentissage, mais ne sont pas encore au sommet de ce qui est possible. L'accès à ce niveau n'est pas totalement ouvert, mais il n'est pas non plus verrouillé. Il fonctionne selon une échelle mobile. Un système moins puissant dans cette catégorie pourrait être disponible pour le public avec certaines règles, tandis qu'un système plus puissant nécessiterait que l'utilisateur enregistre son identité et accepte des conditions d'utilisation spécifiques. L'idée clé ici est la responsabilité. À mesure que la puissance de l'outil augmente, la personne ou l'organisation qui l'utilise doit être identifiable. Si quelque chose tourne mal, il existe un enregistrement de qui utilisait le système, et il y a un moyen de l'empêcher d'utiliser à nouveau le système si nécessaire.

Le troisième et dernier niveau est l'« IA de Frontière à Pleine Échelle » (Full-Scale Frontier AI). Ce sont les systèmes les plus puissants imaginables, capables de raisonnement avancé, de planification autonome et d'opérer dans des domaines à enjeux élevés comme la défense, l'aviation ou les infrastructures critiques. Les chercheurs soutiennent que ces systèmes ne devraient jamais être publiés sous forme de fichiers ouverts que n'importe qui peut télécharger et modifier. Une fois qu'un modèle puissant est publié sous forme de poids — les instructions mathématiques qui le font fonctionner — il est impossible de le reprendre. Si un acteur malveillant le télécharge, il peut supprimer les dispositifs de sécurité, changer son comportement ou l'intégrer dans un robot qui agit de façon autonome. Le créateur original perd tout contrôle. Par conséquent, l'accès à ces systèmes de pointe doit être strictement limité à des organisations dûment vérifiées qui en ont un besoin légitime, avec chaque interaction enregistrée et surveillée. L'objectif n'est pas d'arrêter l'innovation, mais de s'assurer que les outils les plus dangereux sont manipulés uniquement par des parties responsables qui peuvent être tenues pour responsables.

L'article fournit des preuves solides de la nécessité de cette séparation. Les auteurs soulignent que les dispositifs de sécurité ajoutés à une IA sont souvent superficiels et peuvent être supprimés à très bas coût. La recherche montre qu'avec seulement quelques centaines de dollars de puissance de calcul et une petite quantité de données, quelqu'un peut prendre un modèle à poids ouverts sécurisé et supprimer ses garde-fous de sécurité. Cela signifie que même si un développeur teste un modèle et le juge sûr avant de le publier, dès l'instant où il est téléchargé, cette garantie de sécurité disparaît. Le modèle peut être transformé en quelque chose de dangereux, et le développateur original n'a aucun moyen de l'arrêter ou de le réparer. Dans un système fermé, où le modèle est servi via une interface sécurisée, le développeur peut surveiller l'utilisation, détecter quand quelqu'un essaie de transgresser les règles et révoquer l'accès instantanément. Dans un système ouvert, une fois le fichier téléchargé, le développeur perd tous ces leviers de contrôle.

Pour que ce système fonctionne, les chercheurs proposent un ensemble de règles pour décider à quel niveau appartient un IA spécifique. Ils suggèrent d'examiner quatre facteurs principaux : sa capacité, son degré d'autonomie sans aide humaine, l'ampleur des conséquences réelles de ses erreurs et l'usage réel qui en est fait. Un système peut être très intelligent mais n'être utilisé que pour écrire de la poésie, ce qui le maintient dans un niveau inférieur. Mais si un système légèrement moins intelligent est conçu pour contrôler un réseau électrique ou concevoir des agents biologiques, il doit être placé dans un niveau supérieur car les conséquences d'une défaillance sont si graves. La décision du niveau auquel appartient un système ne devrait pas être laissée entièrement aux entreprises qui les construisent. Au contraire, des organismes de réglementation indépendants ou des instituts de sécurité devraient examiner les preuves et attribuer le niveau, garantissant que les règles sont appliquées de manière juste et cohérente.

Cette approche combine deux types de limites de sécurité différentes. La première est une limite sur la puissance qu'un système est autorisé à atteindre, un concept que les auteurs appellent la « Limite de Capacité » (Capability Boundary). Elle fixe un plafond à l'intelligence brute et à l'autonomie de toute IA, garantissant qu'aucun système n'est construit de telle sorte que les humains ne puissent plus le contrôler. La seconde est la « Limite d'Accessibilité » (Accessibility Boundary), qui est la nouvelle idée introduite dans cet article. Elle dicte qu'à mesure qu'un système se rapproche de ce plafond, le nombre de personnes autorisées à l'utiliser diminue, et les règles pour l'utiliser deviennent plus strictes. Si nous n'avons qu'un plafond mais aucune règle sur qui peut grimper, les outils les plus dangereux pourraient finir entre les mains de n'importe qui. Si nous n'avons que des règles sur qui peut les utiliser mais pas de plafond sur leur puissance, nous pourrions permettre un accès contrôlé à des systèmes qui sont trop dangereux pour quiconque.

Les chercheurs reconnaissent que ce système n'est pas une solution parfaite et qu'il repose sur des institutions pour fonctionner. Ils admettent que des individus déterminés pourraient encore trouver des moyens de divulguer des modèles puissants, et que le cadre ne peut pas totalement empêcher la propagation de technologies dangereuses. Cependant, ils soutiennent que cela augmente le coût et la difficulté d'une telle prolifération, rendant beaucoup plus difficile pour les acteurs malveillants de mettre la main sur les outils les plus puissants. En organisant l'accès en niveaux clairs, la société peut conserver les bénéfices de l'IA ouverte pour l'apprentissage et la recherche tout en créant une zone sécurisée pour les systèmes les plus puissants. Le résultat est un monde où les machines les plus capables ne sont pas cachées à tout le monde, ni distribuées à tout le monde, mais sont plutôt adaptées aux personnes et aux organisations les mieux équipées pour les utiliser en toute sécurité.