Model Merging is Secretly Certifiable: Non-Vacuous Generalisation Bounds for Low-Shot Learning

In der Welt der künstlichen Intelligenz gibt es eine wachsende Spannung zwischen der Leistungsfähigkeit dieser Systeme und unserer Fähigkeit, ihnen zu vertrauen. Wir verlassen uns darauf, dass KI Entscheidungen in hochsensiblen Bereichen wie der Medizin und der Sicherheit trifft, doch die grundlegendste Voraussetzung für Vertrauen ist das Wissen, dass ein System auf neuen, ungesehenen Daten zuverlässig funktioniert und nicht nur bei den Beispielen, mit denen es trainiert wurde. Seit Jahrzehnten versuchen Wissenschaftler, mathematische Garantien zu erstellen, die beweisen, dass ein Modell nicht unerwartet versagt. Diese Garantien waren jedoch oft nutzlos für die massiven, komplexen Netzwerke, die moderne KI antreiben. Die Berechnungen, die erforderlich sind, um die Sicherheit solch großer Systeme zu beweisen, führen meist zu Warnungen, die so breit und pessimistisch sind, dass sie uns nichts Nützliches sagen – sie besagen im Wesentlichen, dass die Fehlerrate irgendwo zwischen null und einhundert Prozent liegen könnte. Dieses Problem wird noch schwieriger, wenn nur sehr wenige Daten zur Verfügung stehen, um das System zu trainieren – eine häufige Situation in spezialisierten Fachgebieten, in denen das Sammeln von tausenden Beispielen unmöglich ist.

Ein Team von Forschern hat einen überraschenden Weg entdeckt, um diese Einschränkungen zu umgehen, indem sie die Art und Weise ändern, wie sie den Lernprozess selbst betrachten. Anstatt zu versuchen, das gesamte massive neuronale Netz zu zertifizieren, konzentrierten sie sich auf eine Technik namens Model Merging (Modell-Fusion), bei der mehrere vortrainierte Experten zu einem einzigen neuen Modell kombiniert werden. Indem sie den Prozess des Kombinierens dieser Modelle als eine Form des Lernens mit sehr wenigen anpassbaren Einstellungen behandelten, fanden die Forscher einen Weg, rigorose Sicherheitsprüfungen anzuwenden, die zuvor unmöglich waren. Ihre Arbeit zeigt, dass es möglich ist, aussagekräftige, nicht-leere Garantien für die Leistung riesiger KI-Systeme bereitzustellen, selbst wenn diese mit so wenig als einhundert Beispielen trainiert wurden. Dieser Befund legt nahe, dass die Werkzeuge, die zur Zertifizierung der Sicherheit heutiger leistungsstärkster KI-Modelle benötigt werden, bereits in hellster Klarheit vor Augen lagen und nur darauf warteten, durch eine andere theoretische Linse erkannt zu werden.

Der Kern dieser Entdeckung liegt in der Neugestaltung dessen, wie wir KI trainieren und validieren, wenn Daten knapp sind. Traditionell, um zu beweisen, dass ein Modell funktioniert, teilen Wissenschaftler ihre begrenzten Daten in einen Trainingsdatensatz und einen separaten Validierungsdatensatz auf. Aber wenn man nur einhundert Beispiele hat, führt das Aufteilen in zwei Hälften dazu, dass man weder genug Daten hat, um ein gutes Modell zu trainieren, noch genug, um es zuverlässig zu testen. Die Forscher erkannten, dass eine populäre Methode namens Model Merging eine Lösung bietet. Bei diesem Ansatz trainiert man nicht ein riesiges Netzwerk von Grund auf neu, sondern man nimmt mehrere bestehende Netzwerke, die bereits verschiedene Fähigkeiten erlernt haben, und vermengt sie miteinander. Das Vermengen wird durch eine kleine Menge von Zahlen, oder Gewichten, gesteuert, die bestimmen, wie viel jedes ursprüngliche Netzwerk zum Endergebnis beiträgt. Da die Anzahl dieser Mischgewichte winzig im Vergleich zu den Milliarden von Parametern innerhalb der ursprünglichen Netzwerke ist, wird der Lernprozess wesentlich einfacher.

Die Forscher zeigten, dass diese Einfachheit der Schlüssel zur Zertifizierung ist. Sie wandten ein Framework an, das als PAC-Bayes bekannt ist – eine Methode zur Berechnung der Wahrscheinlichkeit, mit der ein Modell auf neuen Daten gut abschneidet. Normalerweise scheitert diese Methode bei großen Netzwerken, weil die Mathematik zu ungenau wird, um nützlich zu sein. Da beim Model Merging jedoch nur eine Handvoll Gewichte angepasst werden, bleibt die Mathematik präzise. Das Team demonstrierte, dass bestehende Merging-Algorithmen, die lediglich darauf ausgelegt waren, das bestmögliche kombinierte Modell zu erstellen, bereits diese engen Sicherheitsgarantien lieferten, ohne dass spezielle Modifikationen nötig waren. In vielen Fällen war die Standardweise, wie diese Algorithmen funktionierten, ausreichend, um zu beweisen, dass das resultierende Modell nicht katastrophal versagen würde, selbst mit sehr wenig Trainingsdaten.

Um diese Garantien noch stärker zu machen, entwickelten das Team eine Möglichkeit, den Lernprozess zu verfeinern. Sie modifizierten das Ziel des Merging-Algorithmus dahingehend, explizit die Sicherheitsgrenze (Safety Bound) selbst zu minimieren, anstatt nur zu versuchen, den niedrigsten Fehler auf den Trainingsdaten zu erreichen. Diese Anpassung ermöglichte es ihnen, „leere“ Garantien, die keine echte Gewissheit boten, in konkrete, nützliche Grenzwerte für die Häufigkeit eines möglichen Modellfehlers zu verwandeln. Sie testeten diesen Ansatz an zwei sehr unterschiedlichen Arten künstlicher Intelligenz: einem Visionssystem, das in der Lage ist, Bilder zu erkennen, und einem großen Sprachmodell, das Texte verstehen kann. Für das Visionssystem verwendeten sie ein Modell mit etwa achtundachtzig Millionen Parametern, und für das Sprachmodell ein Modell mit sieben Milliarden Parametern. In beiden Fällen trainierten sie die Systeme mit nur einhundert Beispielen pro Aufgabe.

Die Ergebnisse waren beeindruckend. Für die Visionsaufgaben konnten die Forscher zertifizieren, dass die fusionierten Modelle innerhalb eines spezifischen, engen Bereichs der Genauigkeit arbeiten würden. Für das Sprachmodell, das signifikant größer und komplexer ist, erreichten sie dasselbe Ergebnis. In vielen Fällen schnitt das Basis-Sprachmodell bei neuen Aufgaben, wenn es mit keinen Trainingsbeispielen gegeben wurde, schlecht ab; doch nachdem es fusioniert und mit nur einhundert Beispielen trainiert worden war, verbesserte das System nicht nur seine Leistung, sondern lieferte auch ein mathematisches Zertifikat, das seine Zuverlässigkeit bewies. Die Forscher fanden heraus, dass für alle Datensätze der Testfehler innerhalb von 5 % des Trainingsfehlers zertifiziert werden konnte.

Diese Arbeit stellt die lang gehegte Überzeugung infrage, dass die Zertifizierung großer KI-Systeme massive Mengen an Daten erfordert. Die Forscher zeigten, dass, indem man sich auf die geringe Anzahl der Parameter konzentriert, die während des Merging-Prozesses tatsächlich verändert werden, die Komplexität des Systems handhabbar wird. Sie untersuchten auch eine Technik namens datenabhängige Priors (Data-Dependent Priors), bei der ein kleiner Teil der Trainingsdaten verwendet wird, um einen besseren Ausgangspunkt für die Sicherheitsberechnung festzulegen. Dies straffte die Garantien weiter und bewies, dass die Methode robust und anpassungsfähig ist. Die Studie behauptete nicht, alle Probleme der KI-Sicherheit gelöst zu haben, aber sie lieferte einen klaren Weg nach vorn zur Zertifizierung von Systemen in Szenarien mit geringer Datenverfügbarkeit – ein Szenario, das für reale Anwendungen entscheidend ist, in denen Daten teuer oder schwer zu beschaffen sind.

Die Auswirkungen dieser Entdeckung gehen über die bloßen Zahlen hinaus. Sie legen nahe, dass die Sicherheit bestehender KI-Systeme leichter zu verifizieren sein könnte, als bisher angenommen. Wenn die Methoden, mit denen Modelle kombiniert werden, so einfach zertifiziert werden können, dann können die mit diesen Methoden gebauten Systeme mit größerem Vertrauen eingesetzt werden. Die Forscher betonten, dass dieser Ansatz sowohl für die Bilderkennung als auch für das Sprachverständnis funktioniert, was darauf hindeutet, dass das Prinzip allgemein gültig ist und nicht auf eine spezifische Art der KI beschränkt ist. Indem sie bewiesen, dass aussagekräftige, oder „non-vacuous“, Garantien für Modelle mit bis zu sieben Milliarden Parametern mit nur einhundert Beispielen möglich sind, hat das Team einen neuen Weg eröffnet, um sicherzustellen, dass künstliche Intelligenz in den kritischsten Bereichen des menschlichen Lebens sicher eingesetzt werden kann. Die Arbeit steht als Beweis dafür, dass der Schlüssel zur Lösung eines komplexen theoretischen Problems manchmal nicht darin besteht, eine größere Maschine zu bauen, sondern das bestehende aus einem anderen Blickwinkel zu betrachten.