ONTO: A Token-Efficient Columnar Notation for LLM Input Optimization
Die Arbeit stellt ONTO vor, ein token-effizientes, spaltenbasiertes Notationssystem, das durch die einmalige Deklaration von Feldnamen und eine pipe-getrennte Zeilenstruktur die Token-Anzahl im Vergleich zu JSON um 46–51 % reduziert und damit die Latenz bei LLM-Inferenzen verbessert, ohne die Aufgabenleistung zu beeinträchtigen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stell dir vor, du bist ein riesiger, schlauer Koch (das ist die Künstliche Intelligenz oder LLM), und du musst eine Suppe kochen. Aber bevor du anfangen kannst, musst du die Zutatenliste lesen.
Das Problem ist: Die Zutatenlisten, die wir heute benutzen (genannt JSON), sind extrem verschwenderisch.
Das Problem: Der "Wiederholungs-Wahnsinn"
Stell dir vor, du hast 1.000 Kunden, die dir sagen, was sie essen wollen.
In einer normalen Liste (JSON) würde jeder Kunde sagen:
"Kunde 1: Ich möchte Pizza. Kunde 2: Ich möchte Pizza. Kunde 3: Ich möchte Pizza..."
Aber die Liste schreibt nicht nur "Pizza". Sie schreibt für jeden Kunden den ganzen Satz:
"Kunde 1: Name: Max, Alter: 25, Essen: Pizza. Kunde 2: Name: Lisa, Alter: 30, Essen: Pizza."
Das Wort "Name" und "Alter" und "Essen" wird 1.000 Mal wiederholt!
Für einen Computer ist das wie ein riesiger Berg Papier, auf dem nur die Überschriften stehen, aber kaum die eigentlichen Daten. Das kostet viel Geld (weil KI-Modelle nach "Wörtern" oder "Tokens" berechnet werden) und dauert lange.
Die Lösung: "Onto" – Die effiziente Spalten-Liste
Der Autor dieses Papiers, Harsh, hat eine neue Art der Liste erfunden, die Onto heißt.
Stell dir Onto wie eine Tabelle in Excel oder ein Kassenbon vor, aber für Computer.
Anstatt für jeden Kunden den ganzen Satz zu wiederholen, schreibt Onto die Überschriften nur ein einziges Mal ganz oben:
Name: Max | Lisa | Tom
Alter: 25 | 30 | 22
Essen: Pizza | Pizza | Sushi
Und das ist es!
- Keine Wiederholungen: Die Wörter "Name", "Alter" und "Essen" tauchen nur einmal auf.
- Einfache Trennung: Statt vieler Klammern
{}und Anführungszeichen""benutzt Onto nur einen einfachen Strich|, um die Daten zu trennen. - Struktur durch Einrückung: Wenn Daten verschachtelt sind (z. B. eine Adresse mit Stadt und Straße), rückt Onto die Zeilen einfach ein, wie in einem Gedicht. Das spart Platz im Vergleich zu vielen Klammern.
Warum ist das so toll? (Die Analogie)
Stell dir vor, du musst 1.000 Briefe an Freunde schreiben.
- Der alte Weg (JSON): Du schreibst auf jeden Brief oben groß: "LIEBER FREUND, HIER SIND DEINE DATEN:". Dann schreibst du den Namen, die Adresse, das Alter. Und das 1.000 Mal. Der Brief ist riesig, aber der Inhalt ist klein.
- Der neue Weg (Onto): Du schreibst auf ein einziges Blatt Papier oben: "Hier sind die Daten für alle Freunde:". Dann machst du eine Liste:
- Name: Max, Lisa, Tom
- Adresse: Berlin, München, Hamburg
- Alter: 25, 30, 22
Du hast den gleichen Inhalt, aber du hast die Hälfte des Papiers gespart.
Was hat die Forschung ergeben?
Die Forscher haben das getestet, indem sie 1.000 Sensordaten (wie Temperatur oder Batteriestatus) in beide Formate umgewandelt haben.
- Platzsparend: Onto war 46% bis 51% kürzer als JSON. Das ist wie ein halbes Buch, das man weglassen kann!
- Schneller: Weil die KI weniger lesen muss, antwortet sie 5% bis 10% schneller. Das ist wie der Unterschied zwischen einem Sportwagen und einem alten Bus.
- Verständlich: Die KI hat die Informationen genauso gut verstanden wie bei der alten Methode. Sie konnte Fragen beantworten, Dinge zählen und Fehler finden, genau so gut wie vorher.
- Menschlich lesbar: Auch ein Mensch kann Onto leicht lesen. Es sieht nicht aus wie ein verschlüsselter Code, sondern wie eine saubere Liste.
Wann benutzt man das?
- Gut für: Wenn du der KI riesige Mengen an Daten (wie Sensoren, Logs, Messwerte) schicken musst, um sie analysieren zu lassen.
- Nicht gut für: Wenn du Daten zwischen zwei Computer-Programmen austauschst, die sich nicht kennen (dafür ist JSON immer noch der König).
Fazit
Onto ist wie ein Packer für deine Daten. Es packt die unnötigen Wiederholungen weg, damit die KI schneller, günstiger und effizienter arbeiten kann, ohne die Bedeutung der Daten zu verlieren. Es ist ein kleiner Trick, der bei großen Datenmengen eine riesige Menge an Zeit und Geld spart.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.