← Neueste Arbeiten
🤖 machine learning

Maia 200: A Software Defined Dataflow System for Large-scale AI Acceleration

Das Papier stellt Maia 200 vor, einen hochleistungsfähigen, energieeffizienten KI-Beschleuniger, der eine neuartige Software Defined Locally Accessed Dataflow Architecture (SDLA) nutzt, um von einer threadzentrierten zu einer datenbewegungszentrierten Datenverarbeitung zu wechseln und dadurch massive Parallelität sowie signifikante Kosteneinsparungen für groß angelegte KI-Inferenz-Workloads zu liefern.

Ursprüngliche Autoren: Sherry Xu, Marco Heddes, Jackson Peng, Tom Savell, Monica Tang, Prashant Ranjan, Jesse Benson, Ofer Dekel, Saurabh Dighe, Anupama Kurpad, Artour Levin, Matthew Mattina, George Petre, Cheng Tang, Yuan
Veröffentlicht 2026-08-26
📖 7 Min. Lesezeit🧠 Tiefgang

Ursprüngliche Autoren: Sherry Xu, Marco Heddes, Jackson Peng, Tom Savell, Monica Tang, Prashant Ranjan, Jesse Benson, Ofer Dekel, Saurabh Dighe, Anupama Kurpad, Artour Levin, Matthew Mattina, George Petre, Cheng Tang, Yuan Yu, Li Zhang, Torsten Hoefler

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Die Welt der Computertechnik durchläuft derzeit einen massiven Wandel, der von einer neuen Art von Software vorangetrieben wird, die Gedichte schreiben, komplexe mathematische Probleme lösen und Bilder aus einfachen Beschreibungen generieren kann. Diese Systeme, bekannt als große Sprachmodelle, benötigen eine enorme Menge an Rechenleistung, um zu laufen. Jahrelang hat sich die Branche auf eine spezifische Art der Organisation von Computerchips verlassen, die Daten wie einen Strom von Anweisungen behandelt, die darauf warten, von einem zentralen Gehirn verarbeitet zu werden. Doch während diese Modelle immer größer und komplexer werden, stößt diese traditionelle Methode an eine Wand. Die Chips verbringen zu viel Zeit damit, darauf zu warten, dass Daten eintreffen, anstatt tatsächlich die Mathematik zu betreiben, was zu Systemen führt, die unglaublich teuer in der Konstruktion und im Betrieb sind und riesige Mengen an Elektrizität verbrauchen. Die zentrale Herausforderung besteht nicht mehr nur darin, die Mathematik schneller zu machen; es geht darum, die Daten selbst effizienter zu bewegen.

Ein Forscherteam bei Microsoft hat einen neuen Ansatz zur Lösung dieses Problems mit einem Chip vorgestellt, den sie Maia 200 nennen. Anstatt zu versuchen, die alte Denkweise mit noch mehr Anstrengung zum Laufen zu bringen, haben sie ein System entworfen, das die grundlegenden Regeln ändert, wie ein Computerchip mit Informationen umgeht. Sie nennen dieses neue Design eine „Software Defined Locally Accessed Dataflow“-Architektur. In einfachen Worten bedeutet dies, dass der Chip so gebaut ist, dass er Daten genau dorthin bewegt, wo sie benötigt werden, und genau dann, wenn sie dort sein müssen, ohne darauf zu warten, dass ein zentraler Befehl ihm sagt, was er als Nächstes tun soll. Die Forscher haben bewiesen, dass diese Methode es dem Chip ermöglicht, Berechnungen mit weitaus größerer Geschwindigkeit und Energieeffizienz als bisherige Designs durchzuführen, und bietet eine Lösung, die die nächste Generation der künstlichen Intelligenz antreiben könnte, ohne die massiven Kosten- und Energie-Nachteile, die die Branche derzeit einschränken.

Um zu verstehen, warum dies wichtig ist, muss man sich ansehen, wie moderne Computer normalerweise funktionieren. Jahrzehntelang war das Standarddesign, einen zentralen Prozessor zu haben, der Daten aus einem großen, gemeinsam genutzten Speicherbank abruft, einige Arbeiten daran ausführt und sie dann zurücksendet. Dies funktioniert gut für viele Aufgaben, erzeugt aber für die massiven, repetitiven Berechnungen, die für künstliche Intelligenz erforderlich sind, einen Engpass. Der Prozessor sitzt oft untätig da, während er darauf wartet, dass die Daten über den Chip reisen. Das Microsoft-Team erkannte, dass für diese spezifischen Arten von Arbeitslasten der effizienteste Weg nicht darin besteht, einen einzelnen zentralen Kommandanten zu haben, sondern den Daten eine eigene Anleitung zu geben. Sie schufen ein System, in dem die Bewegung der Daten explizit programmiert ist, was es verschiedenen Teilen des Chips ermöglicht, unabhängig und parallel zu arbeiten. Dies verschiebt den Fokus vom Management von Ausführungspfaden (Threads) hin zum Management des Informationsflusses selbst.

Der Maia 200 Chip ist die physische Verkörperung dieser Idee. Er ist ein massives Stück Silizium, das über 140 Milliarden Transistoren enthält und speziell dafür entwickelt wurde, die schweren Aufgaben der KI-Inferenz zu bewältigen – also den Prozess, ein trainiertes Modell zu nutzen, um Antworten zu generieren. Der Chip ist mit einer einzigartigen internen Struktur aufgebaut, die seinen Speicher in viele kleine, spezialisierte Taschen unterteilt, die direkt neben den Teilen des Chips liegen, die die Mathematik ausführen. Dies ist eine bewusste Abkehr vom traditionellen Design, das einen einzigen riesigen Speicherpool vorsieht. Indem der Chip die Daten nah an dem Ort hält, an dem sie verwendet werden, vermeidet er die Energieverschwendung und Zeitverzögerungen, die mit langen Reisen über das Silizium verbunden sind. Die Forscher fanden heraus, dass dieses Design es dem Chip ermöglicht, Leistungsniveaus zu erreichen, die innerhalb seiner Leistungsgrenzen zuvor als unmöglich galten, indem er eine massive Menge an Rechenleistung liefert und dabei ein Budget von 750 Watt einhält.

Was den Maia 200 wirklich unterscheidet, ist die Art und Weise, wie er die Bewegung von Daten handhabt. In älteren Systemen verlässt sich der Computer oft auf einen „Cache“, einen kleinen, schnellen Speicher, der automatisch Daten speichert, von denen er glaubt, dass der Prozessor sie als Nächstes benötigen könnte. Während dies für die allgemeine Computertechnik gut funktioniert, fand das Microsoft-Team heraus, dass die automatische Zwischenspeicherung für die vorhersehbaren, repetitiven Muster der künstlichen Intelligenz tatsächlich ineffizient ist. Sie fügt Komplexität und Overhead hinzu, die die Abläufe verlangsamen. Stattdessen nutzt der Maia 200 ein System, bei dem der Programmierer dem Chip explizit sagt, wohin und wann Daten bewegt werden sollen. Dies mag so klingen, als würde es die Programmierung schwieriger machen, aber die Forscher haben eine neue Software-Schicht entwickelt, die es Experten ermöglicht, die volle Kontrolle über die Datenbewegung zu übernehmen, wenn sie maximale Geschwindigkeit benötigen, während sie gleichzeitig einfachere Werkzeuge für allgemeine Aufgaben anbieten. Dieser Ansatz verleiht dem Chip eine Präzision, die automatische Systeme nicht erreichen können, wodurch er jeden Teil des Prozessors beschäftigt und voll einsatzfähig halten kann.

Der Chip ist zudem so konzipiert, dass er nahtlos mit anderen Chips in einem großen Cluster zusammenarbeitet. Modelle der künstlichen Intelligenz sind oft so groß, dass sie nicht auf einen einzigen Chip passen, was erfordert, dass Tausende von Chips zusammenarbeiten. Der Maia 200 enthält ein hochentwickeltes Netzwerk, das direkt in den Chip integriert ist, sodass er Daten von anderen Chips senden und empfangen kann, so einfach wie er Daten innerhalb seiner selbst bewegt. Die Forscher demonstrierten, dass dieses System Tausende von Chips miteinander verbinden kann, wodurch ein Supercomputer entsteht, der in der Lage ist, Quintillionen von Berechnungen pro Sekunde durchzuführen. Sie testeten dieses System mit realen Modellen der künstlichen Intelligenz, einschließlich eines großen Sprachmodells mit Milliarden von Parametern, und fanden heraus, dass es Text mit Geschwindigkeiten generieren konnte, die mehr als 70 Prozent des theoretischen Maximums der Hardware entsprechen. Dies ist eine bedeutende Errungenschaft, da es zeigt, dass die neue Architektur nicht nur in der Theorie funktioniert, sondern auch in praktischen, komplexen Szenarien effektiv arbeitet.

Eines der wichtigsten Ergebnisse der Forschung ist die Auswirkung auf Kosten und Energie. Das Team berechnete, dass sie durch die Verwendung dieses neuen Designs die Gesamtkosten des Betriebs (Total Cost of Ownership) für ein groß angelegtes KI-System um 30 Prozent senken und den Energieverbrauch im Vergleich zu anderen verfügbaren Beschleunigern um 15 Prozent reduzieren können. In einer Branche, in der Energiekosten zu einem primären Anliegen werden und die Nachfrage nach Rechenleistung exponentiell wächst, sind diese Einsparungen substanziell. Die Forscher erreichten dies nicht, indem sie den Chip kleiner oder billiger in der Herstellung machten, sondern indem sie das gesamte System effizienter bei seiner Aufgabe machten. Durch das Eliminieren der verschwendeten Zeit und Energie, die unnötig für die Datenbewegung aufgewendet wird, erledigt der Chip mehr Arbeit mit weniger Leistung.

Der Maia 200 stellt einen bedeutenden Schritt nach vorn dar, wie wir Computer für die Zukunft bauen. Er bewegt sich weg von der alten Vorstellung eines einzelnen, zentralen Gehirns, das alles verwaltet, und begrüßt ein Modell, in dem Daten frei und effizient durch ein Netzwerk spezialisierter Arbeiter fließen. Die Forscher haben gezeigt, dass es möglich ist, durch die Kontrolle der Datenbewegung und die Platzierung des Speichers genau dort, wo er benötigt wird, Systeme zu bauen, die schneller, billiger und energieeffizienter sind. Während sich die künstliche Intelligenz weiterentwickelt und mehr Leistung fordert, bieten Designs wie der Maia 200 einen Weg in die Zukunft, der nachhaltig und skalierbar ist. Die Arbeit verdeutlicht, dass die Zukunft des Hochleistungsrechnens nicht nur darin liegt, die Mathematik schneller zu machen, sondern darin, das Management und die Bewegung der Daten selbst neu zu denken.

Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?

Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.

Digest testen →