Perspective on AI and quantum open-source software

La science de l'information quantique est un domaine en pleine croissance qui cherche à exploiter les règles étranges du monde subatomique pour résoudre des problèmes impossibles pour les ordinateurs d'aujourd'hui. Cette science repose largement sur le logiciel pour construire des circuits, exécuter des simulations et contrôler le matériel délicat qui détient les bits quantiques. Pendant des années, ce logiciel a été construit et partagé ouvertement par une communauté mondiale de chercheurs, permettant à quiconque d'inspecter, d'améliorer et de bâtir sur le travail accompli. Récemment, l'intelligence artificielle a commencé à remodeler ce paysage. Ces outils intelligents peuvent écrire du code, suggérer de nouvelles façons de calibrer les machines et même aider à découvrir de nouvelles méthodes pour corriger les erreurs. Cependant, tout comme un nouveau moteur nécessite un nouvel ensemble de contrôles de sécurité, l'introduction de l'intelligence artificielle dans cet environnement à enjeux élevés a soulevé une question critique : comment savoir si le code que ces outils écrivent est réellement correct, et qui est responsable de sa vérification ?

Une équipe de chercheurs de la Unitary Foundation et du Centre for Quantum Technologies a examiné de près cette réalité émergente. Ils ont étudié la manière dont l'intelligence artificielle est actuellement utilisée pour écrire et maintenir les logiciels quantiques, et ils ont analysé la charge que cela impose aux bénévoles humains qui font fonctionner ces projets. En étudiant les dépôts de code publics, les registres de cinq événements de hacking annuels et en interrogeant plus de 1 600 membres de la communauté, les chercheurs ont constaté que, bien que l'intelligence artificielle soit une aide puissante, elle crée également un goulot d'étranglement caché. L'étude révèle que sans de nouvelles règles strictes de vérification, les personnes mêmes qui assurent la sécurité des logiciels quantiques sont submergées par la nécessité de vérifier un travail qu'elles n'ont pas écrit, une situation qui menace de ralentir le progrès scientifique et d'éroder la confiance nécessaire à la collaboration ouverte.

Les chercheurs ont commencé par cartographier précisément l'endroit où l'intelligence artificielle est utilisée dans la pile logicielle quantique. Ils ont découvert que ces outils aident déjà à tout, de l'écriture de code de base et l'optimisation de la compilation des circuits, à la conception d'impulsions de contrôle pour le matériel et même à la découverte de nouvelles manières de corrir les erreurs. Dans certains cas, des agents d'intelligence artificielle travaillent en boucles, proposant des solutions, les testant et affinant leur approche pour atteindre un objectif scientifique. Cette approche de « recherche automatique » est très prometteuse pour accélérer la découverte. Cependant, l'équipe a noté un écart important : alors que les outils deviennent meilleurs pour générer des idées et du code, les méthodes pour vérifier que ces résultats sont scientifiquement valides n'ont pas suivi le même rythme. Pour le logiciel quantique, la vérification est particulièrement difficile car vérifier la réponse nécessite souvent de simuler l'ensemble du système, une tâche qui devient impossible pour les ordinateurs classiques une fois que le système dépasse quelques dizaines de particules.

Pour comprendre l'impact réel de cet écart, l'équipe a examiné les données. Ils ont analysé des milliers de fichiers provenant de dépôts publics et ont constaté que la communauté du logiciel quantique est beaucoup plus petite et moins stable que les communautés logicielles grand public. Alors que les bibliothèques classiques sont téléchargées des millions de fois par mois, les bibliothèques quantiques comptent beaucoup moins de téléchargements, et le code qui les utilise est souvent moins visible. Plus important encore, ils ont découvert que les tests utilisés pour vérifier ce code sont presque toujours exécutés sur des versions minuscules et simplifiées des problèmes. Dans les suites de tests des principaux frameworks quantiques, le nombre médian de particules utilisées pour un test est de seulement deux, et presque tous les tests impliquent vingt particules ou moins. Cela signifie que les filets de sécurité actuellement en place sont conçus pour des problèmes petits et gérables, et pourraient ne pas détecter les erreurs qui n'apparaissent que lorsque le système passe à l'échelle des tailles nécessaires pour un véritable travail scientifique.

L'élément humain de cette histoire est peut-être le plus urgent. Les chercheurs ont interrogé la communauté et ont découvert que lorsque l'intelligence artificielle génère du code, la charge de la vérification repose lourdement sur les mainteneurs de projets. Dans un sondage récent, 79 % des répondants ont déclaré s'appuyer sur une revue manuelle pour vérifier le code écrit par l'intelligence artificielle, tandis que seulement 60 % utilisaient des tests automatisés. Ce recours à l'œil humain crée un changement dans la gestion des événements communautaires. Les organisateurs de hackathons annuels ont rapporté que le temps passé à mentorer de nouveaux contributeurs est remplacé par le temps passé à réviser des soumissions qui pourraient être générées par l'intelligence artificielle. Un mainteneur a décrit l'expérience comme le fait de parler à un outil d'intelligence artificielle via l'interface, plutôt que de guider un apprenant humain. Les données suggèrent que, si l'intelligence artificielle peut accélérer l'exécution des tâches, elle n'aide pas nécessairement les nouveaux contributeurs à acquérir les compétences nécessaires pour devenir les futurs mainteneurs, et elle risque de transformer le processus de révision en un goulot d'étranglement qui ralentit l'ensemble du domaine.

L'article soutient que la solution réside dans l'établissement de nouvelles normes pour la manière dont les contributions sont effectuées et vérifiées. Les chercheurs proposent que quiconque soumet du code, qu'il soit écrit par un humain ou par une intelligence artificielle, doit fournir des preuves reproductibles que ses modifications fonctionnent. Cela signifie qu'au lieu de simplement soumettre une correction, les contributeurs devraient inclure les tests et les données spécifiques qui prouvent que la correction est correcte. Ils suggèrent que les projets utilisent des outils spécialisés capables de vérifier la logique d'un circuit sans avoir besoin de simuler l'ensemble du système, et que ces outils fassent partie du processus de révision standard. L'équipe recommande également que les projets établissent des limites claires pour les agents d'intelligence artificielle, garantissant qu'ils ne puissent pas dépenser d'argent en matériel ou installer des logiciels dangereux sans l'approbation humaine. En faisant de la vérification une routine du flux de travail, la communauté peut s'assurer que les résultats produits par l'intelligence artificielle sont fiables et peuvent être approuvés par d'autres scientifiques.

En fin de compte, ce travail porte sur la préservation de l'intégrité de la découverte scientifique à l'ère de l'assistance automatisée. Les chercheurs maintiennent un dépôt compagnon en open-source pour aider les projets à adopter ces nouvelles pratiques, fournissant des modèles et des outils pour faciliter la vérification. Ils envisagent un avenir où les contributions logicielles seront traitées avec la même rigueur que les articles de revues scientifiques, où la preuve soutenant une affirmation sera aussi importante que l'affirmation elle-même. En combinant la vitesse de l'intelligence artificielle avec la rigueur de la vérification indépendante, la communauté quantique peut continuer à repousser les limites du possible sans perdre la confiance et la collaboration qui font fonctionner la science ouverte. L'étude conclut que, si l'intelligence artificielle est un outil puissant pour l'exploration, c'est l'engagement humain envers la vérification qui déterminera si les découvertes qu'elle aide à réaliser sont réelles.