No Attention, No Problem: DPU-Aware Attention Approximation in Modern YOLO on FPGA
Dieses Paper schlägt eine DPU-bewusste Architektur vor, die moderne auf Attention basierende YOLO-Varianten (YOLOv26 und YOLOv11) für den Einsatz auf AMD-FPGAs adaptiert, indem es Attention-Mechanismen approximiert und Operationen für die Hardwarekompatibilität modifiziert, wodurch ein bis zu 3-fach niedrigerer Stromverbrauch und ein hoher Durchsatz mit nur 5 % Genauigkeitseinbußen über sechs Benchmark-Datensätze hinweg erreicht werden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, einem Roboter das Sehen der Welt beizubringen. Sie möchten, dass er eine Katze, ein Auto oder eine Person sofort erkennt, egal ob sie aufrecht steht oder in einem seltsamen Winkel geneigt ist. Dies ist die Aufgabe der „Objekterkennung“, einer Superkraft für Computer, die es ihnen ermöglicht, Bilder und Videos zu verstehen. Aber hier ist der Haken: Sie wollen diesen Roboter nicht an eine riesige, stromhungrige Serverfarm anschließen. Sie möchten, dass er auf einem winzigen, batteriebetriebenen Gerät läuft, wie etwa einer Drohne oder einer Überwachungskamera, direkt dort, wo das Geschehen stattfindet. Dies nennt man „Edge Computing“. Um dies zu ermöglichen, verwenden Ingenieure spezielle Chips, die „FPGAs“ genannt werden. Betrachten Sie einen FPGA nicht als ein festes Gehirn, sondern als ein Lego-Set aus Logikgattern, das Sie in jeder beliebigen Form, die Sie benötigen, zusammensetzen können, was ihn unglaublich schnell und energieeffizient macht. Die große Herausforderung? Die klügsten, modernsten „Gehirne“ (KI-Modelle) sind oft zu komplex für diese winzigen, maßgeschneiderten Lego-Gehirne. Sie nutzen ausgeklügelte mathematische Tricks, die das Lego-Set nicht beherrscht, was den Roboter dazu zwingt, langsamer zu werden und einen größeren, langsameren Computer um Hilfe zu bitten.
In dieser Arbeit geht es um einen cleveren Hack, um die neuesten, klügsten Objekterkennungs-KI-Modelle reibungslos auf diesen winzigen, maßgeschneiderten Lego-Chips laufen zu lassen, ohne ihre Intelligenz zu verlieren. Die Forscher nahmen zwei der neuesten und besten KI-Modelle namens YOLOv26 und YOLOv11 und gaben ihnen ein „DPU-bewusstes“ Makeover. Eine DPU ist ein spezieller Typ eines Hardware-Beschleunigers, der in diesen Chips eingebaut ist, und sie hat ein strenges Regelwerk: Sie kann bestimmte ausgeklügelte mathematische Operationen, wie zum Beispiel das „Aufteilen“ von Daten auf seltsame Arten oder die Verwendung spezifischer Aktivierungsfunktionen, nicht ausführen. Die Autoren erkannten, dass, wenn sie versuchten, die Modelle exakt so auszuführen, wie sie sind, der Chip stecken bleiben würde und der Roboter langsam wäre. Also bauten sie eine Übersetzungsschicht. Sie ersetzten die verbotenen mathematischen Tricks durch genehmigte, einfachere Versionen, die der Chip liebt. Zum Beispiel tauschten sie einen komplexen „Spatial Attention“-Mechanismus – der der KI hilft, sich auf wichtige Teile eines Bildes zu konzentrieren – gegen eine einfachere Annäherung aus, die Standard-Bausteine verwendet. Sie tauschten auch nicht unterstützte Aktivierungsfunktionen gegen solche aus, die der Chip erkennt.
Das Team testete diese modifizierten Modelle auf einem echten Chip namens Xilinx ZCU104, unter Verwendung verschiedener Datensätze, die von Standard-Straßenszenen bis hin zu Luftaufnahmen mit rotierten Objekten reichten. Sie maßen alles: wie schnell der Roboter Dinge erkennt (Frames pro Sekunde), wie viel Strom er verbraucht und wie hoch die Genauigkeit bleibt. Die Ergebnisse waren vielversprechend. Durch diese spezifischen architektonischen Anpassungen gelang es ihnen, die Modelle mit beeindruckenden Geschwindigkeiten laufen zu lassen – bis zu 34,05 Frames pro Sekunde für die Standarderkennung und 29,55 Frames pro Sekunde für die Erkennung rotierter Objekte. Das ist schnell genug für Echtzeitanwendungen wie autonomes Fahren oder die Drohnennavigation. Es gab jedoch einen kleinen Preis zu zahlen: Die Genauigkeit sank im Vergleich zum Betrieb der Modelle auf einem leistungsstarken Computer um etwa 5 %, ein Kompromiss, den die Autoren als üblich beschreiben, wenn man komplexe KI in winzige Hardware presst. Sie fanden auch heraus, dass der Chip selbst schneller wurde, während sie leistungsfähigere Konfigurationen verwendeten, aber der letzte Schritt der Bereinigung der Ergebnisse (genannt Post-Processing) zu einem Flaschenhals wurde, der die Gesamtgeschwindigkeit bremste. Letztlich legt die Arbeit nahe, dass selbst die modernsten KI-Modelle mit den richtigen maßgeschneiderten Modifikationen effizient auf Edge-Geräten eingesetzt werden können, was einen optimalen Punkt zwischen Geschwindigkeit, Leistung und Genauigkeit bietet.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.