Demand Estimation with Text and Image Data

Diese Studie stellt eine Methode zur Nachfrageabschätzung vor, die unstrukturierte Text- und Bilddaten mittels Deep-Learning-Embeddings in ein gemischtes Logit-Modell integriert, um Substitutionsmuster auch bei fehlenden oder schwer quantifizierbaren Produktmerkmalen präziser zu erfassen als herkömmliche Ansätze.

Das Wesentliche

Stellen Sie sich vor, Sie sind ein Detektiv, der herausfinden soll, welche Produkte im Supermarkt oder im Online-Shop die „besten Freunde" voneinander sind. Wenn ein Kunde sein Lieblingsprodukt nicht kaufen kann, greift er dann zur nächsten Option? Das nennt man Substitution (Austauschbarkeit).

Traditionell versuchen Ökonomen, dieses Rätsel zu lösen, indem sie eine Liste von messbaren Eigenschaften erstellen: Wie viel kostet es? Wie schwer ist es? Aus welchem Material ist es? Aber das ist wie ein Detektiv, der nur nach dem Gewicht eines Täters sucht, aber die Kleidung, die Mimik und die Art, wie er spricht, ignoriert. Oft fehlen diese Daten, oder sie erfassen nicht das, was den Kunden wirklich interessiert – wie das Design oder die „Vibe" eines Produkts.

Die neue Idee: Die „Gedanken" der KI nutzen

Dieses Papier von Compiani, Morozov und Seiler schlägt einen cleveren neuen Weg vor: Statt sich auf die manuell gesammelten Daten zu verlassen, nutzen sie unstrukturierte Daten – also die Bilder und Texte, die wir alle täglich sehen (Produktfotos, Beschreibungen, Kundenrezensionen).

Hier ist die Erklärung in drei einfachen Schritten, mit ein paar Metaphern:

1. Der Übersetzer (Deep Learning)

Stellen Sie sich vor, Sie haben einen riesigen Haufen von Produktfotos und Texten. Ein Computer (eine künstliche Intelligenz) schaut sich diese an. Aber anstatt nur zu sagen „Das ist ein Buch" oder „Das ist ein Handy", lernt die KI, die Essenz der Produkte zu verstehen.

• Die Analogie: Stellen Sie sich vor, die KI ist ein sehr gut ausgebildeter Kunstexperte. Wenn sie ein Buchcover sieht, merkt sie nicht nur, dass es rot ist, sondern dass es „dunkle Fantasy-Stimmung" ausstrahlt. Wenn sie eine Rezension liest, merkt sie: „Ah, dieser Leser mag schnelle Action."
• Die KI wandelt diese Bilder und Texte in eine Art Fingerabdruck (in der Mathematik nennt man das „Embeddings") um. Jeder Fingerabdruck ist eine Liste von Zahlen, die beschreibt, wie das Produkt „aussieht" und „sich anfühlt".

2. Der Kompressor (Hauptkomponentenanalyse)

Diese Fingerabdrücke sind aber riesig und kompliziert (wie ein 512-spuriges Musikalbum). Das ist zu viel für die Ökonomen, um es zu analysieren.

• Die Analogie: Stellen Sie sich vor, Sie wollen die wichtigsten Melodien aus einem 5-stündigen Konzert extrahieren. Sie drücken einen Knopf, und die KI sagt: „Okay, die ersten 5 Melodien machen 80% des Gefühls des Konzerts aus."
• Das ist die Technik PCA (Hauptkomponentenanalyse). Sie komprimiert die riesigen Datenmengen auf die wenigen wichtigsten Merkmale herunter, die wirklich zählen.

3. Der Detektiv im Einsatz (Die Nachfrage-Schätzung)

Nun nehmen die Forscher diese komprimierten „Fingerabdrücke" und stecken sie in ein mathematisches Modell. Sie fragen: „Wenn wir diese Merkmale berücksichtigen, wie wahrscheinlich ist es, dass ein Kunde von Produkt A zu Produkt B wechselt?"

• Das Ergebnis: Das Modell wird viel schlauer. Es erkennt, dass zwei Bücher, die beide düstere Cover haben und in Rezensionen als „gruselig" beschrieben werden, enger verwandt sind als zwei Bücher, die nur zufällig das gleiche Gewicht haben.

Der große Test: Das Buch-Experiment

Um zu beweisen, dass ihre Methode funktioniert, haben die Autoren ein Experiment gemacht.

• Sie gaben tausenden Menschen eine Liste von 10 Büchern zur Auswahl.
• Die Leute wählten ihr Lieblingsbuch (die erste Wahl).
• Dann wurde dieses Buch „verkauft" (weggenommen), und die Leute mussten ein zweites Buch wählen (die zweite Wahl).
• Die Forscher nutzten nur die ersten Wahl-Daten, um ihre Modelle zu trainieren. Dann testeten sie: „Können unsere Modelle vorhersagen, was die Leute als zweite Wahl nehmen würden?"

Das Ergebnis war beeindruckend:
Die Modelle, die nur auf klassischen Daten (Autor, Seitenzahl) basierten, lagen oft falsch. Sie dachten, Leute würden zu einem beliebten Buch wechseln, nur weil es viele Käufer hatte.
Die Modelle, die die KI-gestützten Bilder und Texte nutzten, trafen die zweite Wahl viel genauer. Sie verstanden, dass ein Fan von Krimis eher zu einem anderen Krimi greift, auch wenn dieser weniger bekannt ist, als zu einem beliebten Selbsthilfebuch.

Warum ist das wichtig für uns?

Stellen Sie sich vor, Sie sind ein Manager bei Amazon oder ein Politiker, der Steuern auf ungesundes Essen plant.

• Bisher: Man wusste oft nicht genau, welche Produkte sich gegenseitig ersetzen. Man schätzte nur.
• Jetzt: Mit dieser Methode kann man viel genauer vorhersagen: „Wenn wir den Preis für Produkt A erhöhen, kaufen die Leute dann Produkt B oder C?"
• Besonders bei Dingen, die schwer zu beschreiben sind (wie Kunst, Mode, Bücher oder Musik), ist diese Methode ein Game-Changer. Sie nutzt die „Stimme" der Kunden (Rezensionen) und das „Gesicht" der Produkte (Bilder), um zu verstehen, was Menschen wirklich wollen.

Zusammenfassend:
Die Autoren haben einen Weg gefunden, die „Seele" eines Produkts (seine Bilder und Texte) in eine mathematische Formel zu gießen. So können wir besser verstehen, warum Menschen das eine Produkt dem anderen vorziehen – und das funktioniert sogar besser als die alten Methoden, die nur auf harten Fakten wie Gewicht und Preis basierten. Es ist, als würde man einem Ökonomen plötzlich die Fähigkeit geben, nicht nur Zahlen zu lesen, sondern auch Bilder und Gefühle zu verstehen.

Technische Zusammenfassung

1. Problemstellung

Die Schätzung der Nachfrage nach differenzierten Produkten ist ein Kernproblem in der Wirtschaftswissenschaft und im Marketing (z. B. für Fusionsanalysen, Tarifbewertungen oder optimale Preisgestaltung). Der Standardansatz basiert auf der Schätzung von Nachfragemodellen, die Substitutionsmuster durch die Ähnlichkeit beobachteter Produktattribute (z. B. Größe, Gewicht, technische Spezifikationen) abbilden.

Dieser Ansatz stößt jedoch auf zwei wesentliche praktische Herausforderungen:

1. Unvollständige Daten: Forscher beobachten selten alle für die Wahlentscheidung relevanten Attribute. Sie sind oft auf Drittanbieterdaten angewiesen, deren Attributsauswahl unbekannt ist, oder müssen subjektiv entscheiden, welche Attribute sie selbst erheben.
2. Schwer quantifizierbare Attribute: Verbraucher bewerten oft visuelle Aspekte (Design) oder funktionale Vorteile, die sich schwer in strukturierte Daten übersetzen lassen.

Das Paper stellt die Frage, wie unstrukturierte Daten (Texte, Bilder) genutzt werden können, um diese Lücken zu schließen und Substitutionsmuster präziser zu schätzen.

2. Methodik

Die Autoren schlagen einen dreistufigen Ansatz vor, der unstrukturierte Daten in ein gemischtes Logit-Modell (Mixed Logit) integriert:

Schritt 1: Extraktion von Embeddings

• Bilder: Es werden vortrainierte Deep-Learning-Modelle (VGG19, ResNet50, InceptionV3, Xception) verwendet, um aus Produktbildern niedrigdimensionale Vektoren (Embeddings) zu extrahieren. Die Klassifikationsschicht wird entfernt, um die visuellen Merkmale als Repräsentation zu nutzen.
• Texte: Für Titel, Beschreibungen und Rezensionen werden verschiedene Modelle eingesetzt:
  • Einfache Modelle: Bag-of-Words und TF-IDF.
  • Fortgeschrittene Modelle: Universal Sentence Encoder (USE) und BERT Sentence Transformer (ST), die semantische Ähnlichkeiten erfassen können.

Schritt 2: Dimensionsreduktion (PCA)
Da die Embeddings hochdimensional sind (z. B. 512 Dimensionen), würde eine direkte Integration in ein Random-Coefficients-Modell zu rechnerisch unmöglichen Integrationsproblemen führen. Daher wird eine Hauptkomponentenanalyse (PCA) angewendet.

• Die PCA reduziert die Dimensionalität auf die wichtigsten Komponenten ($P$).
• Dies entfernt gemeinsame Variationen zwischen Kategorien und fokussiert auf Unterschiede innerhalb einer Kategorie.
• Die resultierenden Hauptkomponenten sind orthogonal, was Multikollinearitätsprobleme vermeidet.

Schritt 3: Integration in das Nachfragemodell und Modellauswahl

• Die Hauptkomponenten werden als zusätzliche „Attribute" in ein gemischtes Logit-Modell (Mixed Logit) mit zufälligen Koeffizienten aufgenommen.
• Algorithmus zur Modellauswahl: Da nicht bekannt ist, welche Embeddings oder Hauptkomponenten die Substitution am besten abbilden, verwenden die Autoren einen schrittweisen Algorithmus basierend auf dem Akaike Information Criterion (AIC).
  • Der Algorithmus beginnt mit einem einfachen Logit-Modell.
  • Er fügt schrittweise zufällige Koeffizienten für Preis und Hauptkomponenten hinzu.
  • Die Spezifikation mit dem niedrigsten AIC wird ausgewählt. Dies ermöglicht die automatische Identifizierung des besten Datentyps (z. B. Rezensionen vs. Bilder) und des besten Deep-Learning-Modells ohne manuelle Vorentscheidung.

3. Schlüsselbeiträge

1. Validierung durch Experimente: Da Substitutionsmuster in realen Daten meist unbeobachtet sind, fehlt oft eine „Ground Truth". Die Autoren设计了 ein Choice-Experiment mit 10.775 Teilnehmern (Buchauswahl), bei dem sowohl die erste als auch die zweite Wahl (Second Choice) erfasst wurden. Die erste Wahl dient der Schätzung, die zweite Wahl dient als Validierungsmaßstab für die Vorhersagekraft des Modells.
2. Überlegenheit gegenüber Standardmodellen: Die Studie zeigt, dass unstrukturierte Daten Substitutionsmuster besser vorhersagen als traditionelle attributbasierte Modelle.
3. Skalierbarkeit: Der Ansatz erfordert keine manuelle Attributerhebung und ist somit über viele Produktkategorien hinweg anwendbar.
4. Open Source: Die Autoren stellen das Python-Paket DeepLogit zur Verfügung, um die Anwendung zu erleichtern.

4. Ergebnisse

Experimentelle Validierung (Buchdaten):

• Modellleistung: Das beste Modell (basierend auf Rezensionen mit dem USE-Embedding) reduzierte den Root Mean Square Error (RMSE) bei der Vorhersage der zweiten Wahl um 23 % im Vergleich zum einfachen Logit-Modell und um 14 % im Vergleich zum besten attributbasierten Mixed-Logit-Modell.
• Inhaltliche Analyse:
  • Bilder: Erfassen visuelle Ähnlichkeiten (z. B. Genre-Merkmale auf Buchcovern).
  • Texte: Rezensionen und Beschreibungen liefern die stärksten Signale, da sie semantische Nuancen (Handlung, Stil, pacing) erfassen, die über reine Genre-Kategorien hinausgehen.
  • Hauptkomponenten: Die PCA-Komponenten korrelieren mit intuitiven Substitutionsmustern (z. B. Trennung von Sachbuch vs. Belletristik, sowie Unterscheidung innerhalb von Genres wie Mystery vs. Science-Fiction).
• Kombination: Das Hinzufügen von beobachteten Attributen zu den unstrukturierten Daten verbesserte die Vorhersage nicht, was darauf hindeutet, dass die unstrukturierten Daten die Informationen der strukturierten Attribute bereits vollständig enthalten.

Anwendung auf E-Commerce-Daten (Amazon):

• Die Methode wurde auf 40 Produktkategorien angewendet (von Elektronik über Kleidung bis zu Lebensmitteln).
• In allen Kategorien führte die Nutzung unstrukturierter Daten zu einer signifikanten Verbesserung des Modellfits (gemessen am AIC) im Vergleich zum reinen Logit-Modell.
• Erwartungsbruch: Es gibt keine universelle Regel, welcher Datentyp am besten ist. In manchen Kategorien (z. B. Kleidung) sind Bilder intuitiv relevanter, doch oft liefern Texte (Titel oder Rezensionen) bessere Ergebnisse. Umgekehrt liefern bei Videospielen Bilder stärkere Signale.
• Substitutionsraten: Das Modell generiert deutlich variablere und realistischere Umleitungsquoten (Diversion Ratios) als das einfache Logit-Modell, das nur auf Marktanteilen basiert.

5. Bedeutung und Implikationen

• Für die Praxis: Forscher und Analysten können nun Substitutionsmuster in Märkten schätzen, in denen keine strukturierten Attributdaten verfügbar sind. Dies ist besonders wertvoll für kreative Güter (Bücher, Kunst, Filme) und neue Produktkategorien.
• Gegenfällige Analysen (Counterfactuals): Das Modell eignet sich hervorragend für Szenarien, bei denen die Embeddings konstant gehalten werden können, wie z. B. Preisänderungen, Fusionssimulationen oder die Einführung neuer Produkte (basierend auf Marketingmaterial).
• Grenzen: Der Ansatz ist weniger geeignet für Szenarien, in denen sich die Embeddings selbst ändern (z. B. wenn sich durch Preiserhöhungen die Rezensionen ändern oder Fusionen zu Produktredesigns führen).
• Zukunft: Die Arbeit ebnet den Weg für die Nutzung fortschrittlicherer LLMs (Large Language Models) und Feinabstimmung (Fine-Tuning) von Embeddings speziell für Nachfrageanalysen.

Fazit: Das Paper demonstriert, dass unstrukturierte Daten, verarbeitet durch Deep Learning und PCA, eine überlegene Quelle für die Schätzung von Substitutionsmustern darstellen und damit die Grenzen traditioneller attributbasierter Nachfragemodelle überwinden.