Beyond Scaling: Self-Evolving LLM Agents for Hardware Kernel Optimization via an Experience-Driven Workflow and Experience Graph Memory
Das Paper stellt KOPE vor, ein erfahrungsgesteuertes Framework, das Experience Graph Memory und Active Context Management nutzt, um LLM-Agenten zu ermöglichen, aus vergangenen Hardware-Kernel-Optimierungstrajektorien zu lernen, wodurch signifikante Leistungssteigerungen und Token-Effizienz gegenüber bestehenden Baselines erzielt werden, ohne dass Aktualisierungen am zugrunde liegenden Foundation-Modell erforderlich sind.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Einen Computerchip schneller zu machen, fühlt sich oft so an, als versuche man, einen Rennwagenmotor zu tunen, während er sich noch in Bewegung befindet. Der Prozess beinhaltet das Schreiben eines winzigen Stücks Code, bekannt als Kernel, der der Hardware genau sagt, wie sie mit Daten umzugehen hat. Dieser Code muss kompiliert, getestet werden, um sicherzustellen, dass er korrekt ist, und dann gemessen werden, um zu sehen, wie schnell er läuft. Wenn das Ergebnis nicht perfekt ist, muss der Code neu geschrieben werden, und der Zyklus beginnt von vorn. Jahrzehntelang war dies eine Aufgabe für hochqualifizierte menschliche Experten, die die spezifischen Eigenheiten jedes neuen Chipdesigns verstehen. Vor kurzem haben Systeme der künstlichen Intelligenz begonnen, bei dieser Arbeit zu helfen, indem sie leistungsstarke Sprachmodelle nutzen, um Codeänderungen vorzuschlagen. Diese Systeme behandeln jeden Versuch jedoch meist als einen Neuanfang. Sie erinnern sich nicht daran, was in früheren Versuchen funktioniert oder nicht funktioniert hat, und sie können nicht ohne Weiteres von der spezifischen Hardware lernen, die sie zu optimieren versuchen, insbesondere wenn diese Hardware neu ist und über keine große Bibliothek bestehender Beispiele verfügt.
Ein Team von Forschern hat einen neuen Ansatz entwickelt, der es einem Agenten der künstlichen Intelligenz ermöglicht, aus seiner eigenen Exploration zu lernen, indem es jeden Versuch und Irrtum in eine dauerhafte Lektion verwandelt. Sie haben ein System namens KOPE geschaffen, was für ein Framework steht, das darauf ausgelegt ist, diese Hardware-Kernel zu optimieren, indem es ein Gedächtnis seiner eigenen Erfahrungen aufbaut. Anstatt sich ausschließlich auf das bereits im KI-Modell gespeicherte Wissen zu verlassen, zeichnet KOPE jede Entscheidung auf, die es trifft, das Ergebnis dieser Entscheidung und den Weg, den es dorthin genommen hat. Es speichert diese Informationen in einer strukturierten Karte, die eine spezifische Wahl mit ihrem Ausgang verbindet, ganz ähnlich wie ein Reisender, der ein detailliertes Tagebuch seiner Reise führt und notiert, welche Pfade in Sackgassen führten und welche neue Türen öffneten. Wenn das System vor einem neuen Problem steht, beginnt es nicht bei Null. Stattdessen konsultiert es diese Karte, um relevante vergangene Erfahrungen zu finden, die der aktuellen Situation entsprechen, und injiziert dieses spezifische Wissen in seinen Denkprozess, bevor es einen neuen Vorschlag macht.
Die Forscher testeten dieses System an einem Satz von dreiundfünfzig verschiedenen mathematischen Operationen, die in der modernen Computertechnik verwendet werden, und ließen sie auf einem spezifischen Typ eines Hardwarechips von Huawei laufen. Sie verglichen ihre neue Methode mit zwei anderen Ansätzen: einem, der einen Standard-KI-Agenten ohne dieses spezielle Gedächtnissystem verwendete, und einem anderen, der eine leistungsstarke KI für einen anderen Typ von Computerchips konzipiert war. Die Ergebnisse zeigten, dass das System mit dem Erfahrungsgedächtnis signifikant erfolgreicher war. Es gelang ihm, funktionierenden Code für fast alle Operationen zu produzieren, während der Standard-Agent bei vielen von ihnen scheiterte. Noch wichtiger war, dass das System, das aus seiner eigenen Historie lernte, Code produzierte, der im Durchschnitt 1,54 Mal schneller war als der Code der besten konkurrierenden Methode. Diese Verbesserung trat ein, obwohl das zugrunde liegende KI-Modell selbst nicht verändert wurde; das System wurde einfach besser, indem es sich an das erinnerte, was es gelernt hatte.
Ein entscheidender Teil dieses Erfolgs war die Art und Weise, wie das System sein Gedächtnis verwaltete. Die Forscher fanden heraus, dass es kontraproduktiv war, einfach alle vergangenen Erfahrungen auf einmal in den Verstand der KI zu schütten, da dies das System mit zu vielen Informationen überforderte. Stattdessen bauten sie einen Mechanismus, der aktiv nur die relevantesten vergangenen Lektionen für die spezifische Aufgabe auswählt. Dieser selektive Ansatz ermöglichte es dem System, Probleme häufiger zu lösen, wodurch die Erfolgsquote von sechzig Prozent auf fast fünfundachtzig Prozent stieg, während es gleichzeitig weit weniger Rechenressourcen verbrauchte. Die Studie untersuchte auch, ob das auf einer Art von Hardware gewonnene Wissen dabei helfen kann, einen völlig anderen Typ von Hardware zu optimieren. Sie fanden heraus, dass die Erfahrung von der ursprünglichen Hardware dem System zwar half, mehr funktionierende Lösungen auf der neuen Hardware zu finden, dies aber nicht automatisch den Code schneller machte. Das System musste die spezifischen Details der neuen Hardware dennoch durch seine eigenen Versuche erlernen, um die beste Leistung zu erzielen.
Die Ergebnisse legen nahe, dass für Hardware, die neu ist oder über keine große Sammlung bestehender Beispiele verfügt, die Fähigkeit, spezifische Erfahrungen zu bewahren und wiederzuverwenden, wertvoller ist als einfach nur ein größeres oder klügeres KI-Modell zu besitzen. Indem es eine feste Aufzeichnung dessen führt, was funktionierte und was nicht, und indem es sorgfältig auswählt, welche Lektionen auf neue Probleme anzuwenden sind, kann das System seine Optimierungsfähigkeiten kontinuierlich verbessern. Dieser Ansatz erfordert nicht, dass die KI neu trainiert wird oder ihr internes Gehirn verändert wird; sie benötigt lediglich einen besseren Weg, das Gelernte zu erinnern und anzuwenden. Die Forscher demonstrierten, dass diese Methode auf verschiedene Arten von Computerchips und Programmiersprachen angewendet werden kann, was zeigt, dass der Workflow anpassbar ist. Obwohl das System nicht jedes einzelne Problem perfekt löste, bewies es, dass ein KI-Agent seine eigene Expertise durch einen Zyklus aus Handeln, Beobachten und Erinnern entwickeln kann, indem es den chaotischen Prozess von Versuch und Irrtum in einen zuverlässigen Pfad hin zu schnellerer und effizienterer Computertechnik verwandelt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.