Studying, Identifying, and Fixing Hidden Technical Debt in AI-Intensive Cyber-Physical Systems
Diese Thesis zielt darauf ab, die einzigartige technische Schuld in KI-intensiven Cyber-Physischen Systemen zu charakterisieren, indem Ökosysteme analysiert und Entwickler interviewt werden, mit dem ultimativen Ziel, Identifizierungsstrategien zu definieren und ein automatisiertes Werkzeug zur Überwachung und Tilgung dieser Schuld zu entwickeln.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das unsichtbare Chaos in smarten Maschinen
Stellen Sie sich vor, Sie bauen einen Roboter. Sie geben ihm ein Gehirn (Software), einen Körper (Hardware) und eine Reihe von Anweisungen zum Gehen, Sprechen oder Fahren. Stellen Sie sich nun vor, dieses Gehirn wird durch Künstliche Intelligenz (KI) angetrieben – einen superintelligenten, aber manchmal unberechenbaren Lernenden. Diese Kombination nennt man ein Cyber-Physisches System (CPS). Es ist die Technologie hinter selbstfahrenden Autos, Fabrikrobotern und smarten Haushaltshelfern.
Aber hier ist der Haken: Genau wie ein Haus, das schnell aus billigen Materialien gebaut wurde, sammeln diese smarten Maschinen oft „Technische Schulden“ an. Denken Sie bei dieser Schuld nicht an Geld, das Sie einer Bank schulden, sondern an einen Haufen aus unordentlichem Code, vergessenen Notizen und provisorischen Lösungen, die Entwickler hinterlassen, um die Dinge jetzt zum Laufen zu bringen. Bei einem normalen Computerprogramm könnte dies unordentiger Code sein. Aber bei einem Roboter, der mit der realen Welt interagiert, sind diese Schulden tückischer. Es ist, als würde man eine wackelige Leiter im Flur stehen lassen; sie funktioniert vielleicht für eine Minute, aber später könnte sie einen Unfall oder eine Sicherheitsgefahr verursachen. Die große Frage, die sich Wissenschaftler stellen, lautet: Wie finden wir dieses verborgene Chaos in KI-gesteuerten Robotern, bevor es Probleme verursacht, und wie können wir es automatisch beheben?
Die Mission des Papers: Verborgene Unordnung aufspüren
Dieses Paper ist ein Fahrplan für ein PhD-Projekt, das genau dieses Problem lösen will. Die Forscher, unter der Leitung von Beena von der Universität Sannio in Italien, untersuchen eine spezifische Art von Unordnung: Technische Schulden in KI-intensiven Cyber-Physischen Systemen. Sie vermuten, dass die „Schulden“ anders aussehen und schwerer zu finden sind, wenn KI auf physische Hardware trifft, als bei regulärer Software.
Das Projekt befindet sich derzeit im zweiten Jahr und ist Teil eines größeren europäischen Forschungsnetzwerks namens InnoGuard. Das Team rät nicht nur; es folgt einem dreistufigen Plan, um diese verborgenen Probleme zu verstehen, zu finden und zu beheben.
Schritt 1: Die Detektivarbeit
Zuerst agiert das Team wie digitale Archäologen. Sie graben sich durch massive Online-Bibliotheken von Code und KI-Modellen, speziell in Hugging Face (einem Hub für KI-Modelle) und GitHub (einem Hub für Code). Sie führen auch Interviews mit echten Entwicklern, um zu fragen: „Welche Abkürzungen haben Sie genommen?“ und „Mit welchen Problemen sind Sie konfrontet?“.
- Was sie bisher herausgefunden haben: In einer vorläufigen Studie der populärsten KI-Modelle auf Hugging Face entdeckten sie eine überraschende Tatsache: Weniger als 15 % der meistgeladenen Modelle haben tatsächlich ein verknüpftes Entwicklungs-Repository auf GitHub. Das bedeutet, dass die meisten Menschen diese „Gehirne“ nutzen, ohne zu sehen, wie sie gebaut oder gewartet wurden. Sie stellten auch fest, dass die „Model Cards“ (die wie Bedienungsanleitungen für KI funktionieren) selten aktualisiert werden, was sie zu schlechten Leitfäden für die Zukunft macht.
- Das Ziel: Sie entwickeln eine neue „Taxonomie“ (ein schickes Wort für ein detailliertes Klassifizierungssystem), um die spezifischen Arten der Unordnung zu kategorisieren, die entstehen, wenn KI mit Hardware kommuniziert. Dazu gehören Dinge wie Sensoren, die nicht kalibriert sind, Simulationen, die nicht der Realität entsprechen, oder ignorierte Sicherheitsregeln.
Schritt 2: Einen smarten Finder bauen
Sobald sie wissen, wie die Unordnung aussieht, planen sie, Werkzeuge zu bauen, um sie automatisch zu finden. Sie entwickeln Methoden, um „verborgene“ Schulden aufzuspüren – Probleme, die Entwickler nicht einmal zugegeben oder aufgeschrieben haben.
- Wie es funktioniert: Anstatt nur Code-Kommentare zu lesen, wird ihr System nach einer Mischung aus Hinweisen suchen: dem Code selbst, den Hardware-Beschreibungen, den Trainingsdaten des KI-Modells und sogar den Simulationsdateien. Sie wollen ein System schaffen, das sagen kann: „Hey, der Navigationscode dieses Roboters ist in Ordnung, aber die Art und Weise, wie er mit seinen Sensoren kommuniziert, ist eine Abkürzung, die bei Regen zu einem Ausfall führen wird.“
Schritt 3: Der „Agentic“ Wächter
Der letzte und spannendste Teil des Plans ist die Erstellung eines Agentic AI Systems. Stellen Sie sich dies als einen superintelligenten, autonomen Roboter-Assistenten vor, der innerhalb des Softwareentwicklungsprozesses lebt.
- Was er tut: Dieser „Agent“ wird Probleme nicht nur finden, sondern das System ständig überwachen. Er wird verschiedene Teile haben: einen, der die Schulden findet, einen, der eine Lösung vorschlägt, und einen, der prüft, ob die Lösung den Roboter tatsächlich sicherer oder zuverlässiger macht.
- Die menschliche Komponente: Das System ist als semi-automatisch konzipiert. Es wird Hand in Hand mit menschlichen Entwicklern arbeiten, Lösungen vorschlagen und um Zustimmung bitten. Wenn ein Entwickler sagt: „Nein, das stimmt nicht“, lernt das System aus diesem Feedback, um intelligenter zu werden.
- Testen: Das Team plant, dies an realen Projekten zu testen, einschließlich eines humanoiden Roboters und eines Leo Rover (eines Typs von Roboterfahrzeug). Diese sind perfekte Testfälle, da sie damit zu tun haben, die Welt wahrzunehmen, sich zu bewegen und strengen Sicherheitsregeln zu folgen.
Was als Nächstes zu erwarten ist
Die Forscher sind sehr vorsichtig mit ihren Behauptungen. Sie sagen nicht, dass sie die Roboter der Welt bereits repariert haben. Stattdessen schlagen sie vor, dass dieser neue Ansatz notwendig ist, da aktuelle Methoden die einzigartigen Probleme von KI-gesteuerten Maschinen übersehen. Sie planen, ihre Werkzeuge durch Studentenprojekte und echte Roboter-Demonstrationen zu validieren.
Das ultimative Ziel ist es, den Prozess zu „demokratisieren“, was bedeutet, dass sie ihn für jeden einfacher machen wollen, einen sicheren, zuverlässigen KI-Roboter zu bauen, ohne ein Genie darin sein zu müssen, jede einzelne versteckte Abkürzung zu entdecken. Bis zum Ende des Projekts hoffen sie, ein funktionierendes Framework zu haben, das Entwicklern hilft, ihre technischen Schulden zu identifizieren, zu klassifizieren und zurückzuzahlen, um sicherzustellen, dass die smarten Maschinen der Zukunft nicht nur smart, sondern auch sicher und robust sind.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.