Perspective on AI and quantum open-source software

Die Quanteninformationswissenschaft ist ein schnell wachsendes Feld, das bestrebt ist, die seltsamen Regeln der subatomaren Welt zu nutzen, um Probleme zu lösen, die für heutige Computer unmöglich sind. Diese Wissenschaft stützt sich stark auf Software, um Schaltkreise zu bauen, Simulationen durchzuführen und die empfindliche Hardware zu steuern, die die Quantenbits hält. Jahrelang wurde diese Software offen von einer weltweiten Gemeinschaft von Forschern entwickelt und geteilt, was es jedem ermöglichte, die Arbeit zu prüfen, zu verbessern und darauf aufzubauen. Vor kurzem hat künstliche Intelligenz begonnen, diese Landschaft neu zu gestalten. Diese intelligenten Werkzeuge können Code schreiben, neue Wege zur Kalibrierung von Maschinen vorschlagen und sogar dabei helfen, neue Methoden zur Fehlerkorrektur zu entdecken. Doch genau wie ein neuer Motor einen neuen Satz Sicherheitsprüfungen benötigt, hat die Einführung künstlicher Intelligenz in dieses hochsensiblen Umfeld eine kritische Frage aufgeworfen: Wie wissen wir, ob der von diesen Werkzeugen geschriebene Code tatsächlich korrekt ist, und wer ist für dessen Überprüfung verantwortlich?

Ein Team von Forschern der Unitary Foundation und des Centre for Quantum Technologies hat einen genauen Blick auf diese entstehende Realität geworfen. Sie untersuchten, wie künstliche Intelligenz derzeit verwendet wird, um Quantensoftware zu schreiben und zu pflegen, und analysierten die Last, die dies für die freiwilligen Helfer bringt, die diese Projekte am Laufen halten. Durch die Untersuchung öffentlicher Code-Repositories, Aufzeichnungen von fünf jährlichen Hacking-Events und die Befragung von mehr als 1.600 Mitgliedern der Gemeinschaft stellten die Forscher fest, dass die künstliche Intelligenz zwar ein mächtiger Helfer ist, aber auch einen verborgenen Flaschenhals schafft. Die Studie zeigt, dass ohne strenge neue Regeln für die Verifizierung die sehr Menschen, die die Quantensoftware sicher halten, dadurch überfordert werden, dass sie die Notwendigkeit haben, Arbeit zu prüfen, die sie nicht selbst geschrieben haben – eine Situation, die droht, den wissenschaftlichen Fortschritt zu verlangsamen und das Vertrauen zu untergraben, das für die offene Zusammenarbeit erforderlich ist.

Die Forscher begannen damit, genau zu kartieren, wo künstliche Intelligenz im Quantensoftware-Stack eingesetzt wird. Sie fanden heraus, dass diese Werkzeuge bereits bei allem helfen, vom Schreiben von Basiscodes und der Optimierung der Kompilierung von Schaltkreisen bis hin zum Design von Steuerimpulsen für die Hardware und sogar der Entdeckung neuer Wege zur Fehlerkorrektur. In einigen Fällen arbeiten KI-Agenten in Schleifen, schlagen Lösungen vor, testen diese und verfeinern ihren Ansatz, um ein wissenschaftliches Ziel zu erreichen. Dieser „Auto-Research“-Ansatz birgt großes Versprechen für die Beschleunigung von Entdeckungen. Das Team stellte jedoch eine signifikante Lücke fest: Während die Werkzeuge immer besser darin werden, Ideen und Code zu generieren, sind die Methoden zur Verifizierung, ob diese Ausgaben wissenschaftlich valide sind, nicht im gleichen Maße Schritt gehalten worden. Für Quantensoftware ist die Verifizierung besonders schwierig, da die Überprüfung der Antwort oft die Simulation des gesamten Systems erfordert – eine Aufgabe, die für klassische Computer unmöglich wird, sobald das System über einige Dutzend Teilchen hinauswächst.

Um die Auswirkungen auf die reale Welt zu verstehen, betrachtete das Team die Daten. Sie analysierten tausende Dateien aus öffentlichen Repositories und fanden heraus, dass die Quantensoftware-Gemeinschaft viel kleiner und weniger stabil ist als die Mainstream-Software-Gemeinschaften. Während Mainstream-Bibliotheken Millionen Mal pro Monat heruntergeladen werden, verzeichnen Quantenbibliotheken weitaus weniger Downloads, und der Code, der sie nutzt, ist oft weniger sichtbar. Wichtiger noch: Sie entdeckten, dass die Tests, die diesen Code prüfen, fast immer auf winzigen, vereinfachten Versionen der Probleme laufen. In den Test-Suites großer Quanten-Frameworks liegt die mediane Anzahl der verwendeten Teilchen in einem Test bei nur zwei, und fast alle Tests beinhalten zwanzig oder weniger. Das bedeutet, dass die derzeitigen Sicherheitsnetze für kleine, handhabbare Probleme konzipiert sind und Fehler möglicherweise nicht erkennen, die erst auftreten, wenn das System auf die Größen skaliert, die für echte wissenschaftliche Arbeit erforderlich sind.

Das menschliche Element dieser Geschichte ist vielleicht das dringlichste. Die Forscher befragten die Gemeinschaft und fanden heraus, dass die Last der Überprüfung, wenn künstliche Intelligenz Code generiert, schwer auf den Projektverwaltern (Maintainern) lastet. In einer aktuellen Umfrage gaben 79 Prozent der Befragten an, dass sie sich auf eine manuelle Überprüfung verlassen, um von KI geschriebenen Code zu verifizieren, während nur 60 Prozent automatisierte Tests nutzten. Diese Abhängigkeit von menschlichen Augen führt zu einer Veränderung in der Art und Weise, wie Gemeinschaftsveranstaltungen durchgeführt werden. Organisatoren von jährlichen Hackathons berichteten, dass die Zeit, die für das Mentoring neuer Mitwirkender aufgewendet wird, durch die Zeit ersetzt wird, die für die Überprüfung von Einreichungen aufgewendet werden muss, die möglicherweise von künstlicher Intelligenz generiert wurden. Ein Maintainer beschrieb die Erfahrung als ein Gespräch mit einem KI-Tool über die Schnittstelle, anstatt einen menschlichen Lernenden zu führen. Die Daten legen nahe, dass künstliche Intelligenz zwar die Erledigung von Aufgaben beschleunigen kann, aber nicht unbedingt neuen Mitwirkenden hilft, die Fähigkeiten zu erlernen, die sie für zukünftige Maintainer benötigen, und dass sie Gefahr läuft, den Review-Prozess in einen Flaschenhals zu verwandeln, der das gesamte Feld verlangsamt.

Das Paper argumentt, dass die Lösung in der Etablierung neuer Standards für die Art und Weise liegt, wie Beiträge geleistet und verifiziert werden. Die Forscher schlagen vor, dass jeder, der Code einreicht – egal ob von einem Menschen oder einer künstlichen Intelligenz geschrieben –, reproduzierbare Beweise dafür liefern muss, dass seine Änderungen funktionieren. Das bedeutet, dass Mitwirkende statt nur einen Fix einzureichen, die spezifischen Tests und Daten beilegen sollten, die beweisen, dass der Fix korrekt ist. Sie schlagen vor, dass Projekte spezialisierte Werkzeuge verwenden sollten, die in der Lage sind, die Logik eines Schaltkreises zu verifizieren, ohne das gesamte System simulieren zu müssen, und dass diese Werkzeuge Teil des Standard-Review-Prozesses sein sollten. Das Team empfiehlt zudem, dass Projekte klare Grenzen für KI-Agenten festlegen, um sicherzustellen, dass diese nicht ohne menschliche Genehmigung Geld für Hardware ausgeben oder gefährliche Software installieren können. Indem die Verifizierung zu einem routinemäßigen Bestandteil des Arbeitsablaufs gemacht wird, kann die Gemeinschaft sicherstellen, dass die von künstlicher Intelligenz erzeugten Ergebnisse zuverlässig sind und von anderen Wissenschaftlern vertraut werden können.

Letztendlich geht es bei dieser Arbeit darum, die Integrität wissenschaftlicher Entdeckungen in einem Zeitalter automatisierter Unterstützung zu bewahren. Die Forscher unterhalten ein Open-Source-Begleit-Repository, um Projekten dabei zu helfen, diese neuen Praktiken zu übernehmen, indem sie Vorlagen und Werkzeuge bereitstellen, die die Verifizierung erleichtern. Sie sehen eine Zukunft voraus, in der Softwarebeiträge mit derselben Strenge behandelt werden wie Fachartikel, wobei die Beweise, die eine Behauptung stützen, genauso wichtig sind wie die Behauptung selbst. Durch die Kombination der Geschwindigkeit künstlicher Intelligenz mit der Strenge unabhängiger Verifizierung kann die Quantengemeinschaft die Grenzen des Möglichen weiter verschieben, ohne das Vertrauen und die Zusammenarbeit zu verlieren, die Open Science ausmachen. Die Studie kommt zu dem Schluss, dass die künstliche Intelligenz zwar ein mächtiges Werkzeug zur Exploration ist, aber das menschliche Engagement zur Verifizierung darüber entscheiden wird, ob die durch sie unterstützten Entdeckungen real sind.