Stellen Sie sich vor, Sie betreiben eine riesige digitale Bibliothek im Himmel, einen Ort, an dem Millionen von Fotos, Liedern und Videos gespeichert sind, damit Computer daraus lernen können. Dies ist die Welt des „Cloud-Speichers“, eines riesigen Lagerhauses, in dem Daten auf Servern weit entfernt von Ihrem Computer leben. Aber hier liegt der Knackpunkt: Nur weil die Bücher in den Regalen stehen, bedeutet das nicht, dass man sie schnell greifen kann. Wie diese Bücher im Regal angeordnet sind – ob einzeln verstreut, in ordentlichen Kisten gestapelt oder zu einem einzigen riesigen Wälzer zusammengeklebt – verändert alles. Wenn die Anordnung unordentlich ist, verbringt Ihr Computer seine gesamte Zeit damit, vor und zurück zum Bibliothekar zu rennen, was Zeit und Geld kostet. Dies ist das Problem des „Storage Layout“: die physische Organisation von Daten, die bestimmt, wie schnell und kostengünstig ein Computer die Informationen abrufen kann, die er für seine Arbeit benötigt.

In der Welt des maschinellen Lernens sind Computer wie hungrige Studenten, die versuchen, für eine große Prüfung zu lernen. Sie müssen Millionen von Bildern „essen“, um zu lernen, wie eine Katze oder ein Auto aussieht. Aber wenn das Essen (die Daten) so serviert wird, dass es schwer zu schlucken ist, wird der Student müde, die Prüfung dauert ewig und die Essensrechnung (die Cloud-Kosten) schießt in die Höhe. Bis jetzt mussten Experten raten, wie sie diese digitalen Bücher am besten stapeln sollten, wobei sie sich auf Regeln verlassen mussten, die für unterschiedliche Arten von Bibliotheken gemacht wurden. Dieses Paper, LayoutBench, tritt an, um diese Debatte zu klären. Es baut eine riesige Rennstrecke auf, um drei verschiedene Wege zu testen, wie Multimedia-Daten in der Cloud organisiert werden, und misst dabei genau, wie schnell sie sind, wie viel Daten sie bewegen und wie viel sie kosten. Das Ziel ist einfach: Die Speicherstrategie zu finden, die es dem Computer ermöglicht, am schnellsten zu lernen, ohne ein Loch in den Geldbeutel zu reißen.

Die drei Kontender: Der Verstreute, der Gekartelte und der Verklebte

Um den Wettlauf zu verstehen, müssen wir zuerst die drei Läufer, oder „Layouts“, kennenlernen, die die Forscher dem Test unterzogen haben. Sie verwendeten einen massiven Datensatz namens ImageNet, der über eine Million Bilder enthält, und ließen die Computer spezifische Bilder basierend auf Regeln suchen (wie „finde alle Bilder von Zebras“ oder „finde Bilder kleiner als 500 KB“).

1. Layout 1 (L1): Der „Ein-nach-dem-anderen“ verstreute Ansatz.
   Stellen Sie sich eine Bibliothek vor, in der jedes einzelne Buch auf seinem eigenen winzigen, separaten Regal steht. Um 10 Bücher zu finden, müssen Sie in die Bibliothek gehen, nach dem ersten Buch fragen, warten, bis es Ihnen übergeben wird, zurückgehen, nach dem zweiten Buch fragen und so weiter. In der Cloud bedeutet dies, dass jedes Bild seine eigene einzelne Datei ist. Der Computer muss für jedes einzelne Bild eine separate Anfrage senden. Es ist einfach, aber langsam, weil der Computer viel Zeit damit verbringt, nur „Hallo, ich hätte gerne diese Datei“ zu sagen und darauf zu warten, dass das „Hallo“ zurückkommt.

2. Layout 2 (L2): Der „Tar-Archiv“ gekartelte Ansatz.
   Stellen Sie sich nun vor, der Bibliothekar legt 100 Bücher in eine einzige Pappschachtel. Um ein Buch zu bekommen, fragen Sie nach der Schachtel, und der Bibliothekar reicht Ihnen das Ganze, aber Sie nehmen nur die spezifischen Seiten heraus, die Sie benötigen. In der Cloud bedeutet dies, viele Bilder in eine einzige große Datei (ein sogenanntes „Tar“-Archiv) zu packen. Wenn der Computer ein Bild möchte, fragt er nach einem spezifischen Teil der Datei. Da der Computer die Verbindung zur Box offen halten kann, kann er viele Teile schnell abrufen, ohne jedes Mal neu „Hallo“ sagen zu müssen.

3. Layout 3 (L3): Der „Kolumnare“ verklebte Ansatz.
   Dies ist die komplexeste Methode. Stellen Sie sich vor, alle Bücher werden geschmolzen und zu einem riesigen, soliden Block aus Kunststoff geformt, bei dem jede Seite jedes Buches in einer bestimmten Reihenfolge zusammengeklebt ist. Um eine Seite zu finden, suchen Sie nicht nach dem Buch; Sie fragen einen superintelligenten Roboter (eine Datenbank-Engine), diesen durch den riesigen Block zu schneiden. Der Roboter weiß genau, wo sich die Information befindet, und schneidet ein Stück heraus. Da die Seiten jedoch zusammengeklebt sind, muss der Roboter oft ein riesiges Stück Kunststoff herausschneiden, nur um ein paar Seiten zu erhalten, und dabei viel unniges Gewicht mitschleppen, das Sie gar nicht angefordert haben.

Das Rennergebnis: Geschwindigkeit, Daten und der Preisschild

Die Forscher ließen drei verschiedene Layouts bei 11 verschiedenen Arten von Suchen mit unterschiedlichen Computergrößen (einige schnell, einige mit viel Speicher) laufen. Hier ist, was sie fanden, und es ist ein wenig überraschend.

Das Duell der Geschwindigkeiten
Für sehr kleine Anfragen – wie das Finden von nur einem oder zwei Bildern – war der gekartelte Ansatz (L2) am schnellsten. Er schlug den verstreuten Ansatz (L1), weil er nicht so viel Zeit damit verschwendete, dem Cloud-Server für jede einzelne Datei „Hallo“ zu sagen. Er nutzte die Verbindung wieder, wie ein Stammkunde, der nicht jedes Mal neu anstehen muss.

Als die Anfragen jedoch größer wurden, begann der verstreute Ansatz (L1) für eine Weile zu gewinnen, weil die Kartons zu schwer wurden, um sie effizient zu verwalten. Aber dann, bei den massiven Anfragen – dem Finden von Hunderttausenden von Bildern – holte der verklebte Ansatz (L3) die Krone ein. Der superintelligente Roboter konnte den riesigen Datenblock unglaublich schnell durchschneiden, aber nur, wenn der Computer genug Speicher hatte, um das Stück zu halten.

Der Daten-Schlepptau
Hier gerät der verklebte Ansatz (L3) in Schwierigkeiten. Da er riesige Stücke des Datenblocks herausschneidet, schleppt er oft viel mehr Informationen mit sich herum, als eigentlich nötig wäre. Das Paper fand heraus, dass L3 bei kleinen Suchen etwa 57 MB an Daten übertrug, um ein einzelnes Bild zu erhalten, während die anderen Methoden weniger als 1 MB übertrugen. Selbst bei großen Suchen bewegte L3 3- bis 4-mal mehr Daten als die anderen. Es ist, als würde man sich eine einzelne Pizzascheibe bestellen und der Lieferant bringt den ganzen gefrorenen Pizzakarton, die Sauce, den Käse und den extra Teigrand mit, nur um diese eine Scheibe zu bekommen.

Die Kosten des Geschäfts
Die schockierendste Erkenntnis betraf das Geld. In der Cloud bezahlt man für zwei Dinge: wie lange Ihr Computer läuft und wie viele Daten Sie herunterladen. Die Forscher entdeckten, dass die Datentransferkosten über 98 % der Gesamtrechnung ausmachten. Die Kosten für die Computermiete waren fast vernachlässigbar.

Da der verklebte Ansatz (L3) so viele zusätzliche Daten bewegte, endete er mit Kosten, die 11,5-mal höher waren als beim gekartelten Ansatz (L2). Tatsächlich kostete L2 für einen Standard-Abfragesatz etwa 0,80 $, während L3 über 9,20 $ kostete. Der verstreute Ansatz (L1) war ebenfalls günstig, aber etwas langsamer als L2 bei großen Aufgaben.

Das endgültige Urteil

Das Paper kommt zu dem Schluss, dass es kein einzelnes „perfektes“ Layout für jede Situation gibt, aber es gibt einen klaren Gewinner für die meisten bildbasierten Aufgaben.

• Der gekartelte Ansatz (L2) ist der „Sweet Spot“. Er bietet die beste Balance zwischen Geschwindigkeit und Kosten. Er ist schnell genug für die meisten Aufgaben und hält den Datentransfer niedrig, was Ihnen ein Vermögen spart.
• Der verstreute Ansatz (L1) ist okay für winzige Aufgaben, wird aber bei zunehmender Skalierung langsam und ineffizient.
• Der verklebte Ansatz (L3) ist ein zweischneidiges Schwert. Er ist unglaublich schnell für massive, komplexe Suchen, verlangt aber viel Computerarbeit und verursacht hohe Kosten für die zusätzlichen Daten, die er mitschleppt. Er lohnt sich nur, wenn man sehr große, schwere Arbeiten erledigt, bei denen Geschwindigkeit wichtiger ist als die Rechnung.

Die Autoren schlagen vor, dass es für die meisten Menschen, die mit Bildern in der Cloud arbeiten, der klügste Schachzug ist, beim gekartelten Ansatz (L2) zu bleiben. Es ist, als würde man sein Mittagessen in einer ordentlichen Tupperware-Box einpacken: Es ist leicht zu greifen, verschwendet keinen Platz und man zaht nicht für die ganze Küche, nur um ein Sandwich zu bekommen. Die Studie stellt auch fest, dass diese Ergebnisse spezifisch für Bilder sind; wenn man mit riesigen Videodateien zu tun hätte, könnten sich die Regeln ändern, aber für den Moment gewinnt die Box das Rennen.