Demand Estimation with Text and Image Data

Dit artikel presenteert een vraagmodel dat ongestructureerde tekst- en afbeeldingsdata gebruikt om substitutiemogelijkheden te schatten, wat leidt tot betere voorspellingen dan traditionele methoden, vooral wanneer producteigenschappen ontbreken of moeilijk te kwantificeren zijn.

De kern

Stel je voor dat je een supermarktmanager bent en je wilt weten: "Als ik de prijs van deze specifieke koffie verhoog, welke andere koffie zullen de mensen dan kopen?" Of: "Als twee grote koffiebedrijven samengaan, wat gebeurt er dan met de prijzen?"

Om dit te weten te komen, moeten economen de vraag schatten. Ze moeten begrijpen hoe producten met elkaar concurreren (wat ze "substitutie" noemen).

Traditioneel deden ze dit door te kijken naar een lijst met kenmerken: Is het koffie? Is het biologisch? Wat is de prijs? Maar dit werkt niet altijd goed. Soms zijn de belangrijkste redenen waarom mensen iets kopen heel moeilijk in cijfers te vatten. Denk aan het ontwerp van een verpakking, de sfeer van een boek, of hoe een product eruit ziet op een foto. Die dingen zijn "onzichtbaar" voor een standaard spreadsheet.

In dit artikel stellen de auteurs een nieuwe, slimme manier voor om dit probleem op te lossen. Ze gebruiken AI en ongestructureerde data (zoals foto's en tekst) om te voorspellen wat mensen doen.

Hier is de uitleg in simpele taal, met een paar creatieve vergelijkingen:

1. De Probleemstelling: De "Blinde" Econoom

Stel je voor dat je een econoom bent die probeert te raden welke producten mensen als vervanging kiezen.

• De oude manier: Je kijkt alleen naar de "ID-kaart" van het product. Is het een rode auto? Is het een blauwe auto? Maar wat als de rode auto eruitziet als een sportwagen en de blauwe als een familieauto, terwijl ze allebei "rood" zijn? De oude methode mist de nuance.
• Het probleem: Mensen kopen producten vaak omdat ze er mooi uitzien of omdat de tekst op het label ze aanspreekt. Die informatie is vaak niet in een database te vinden.

2. De Oplossing: De "Digitale Vertaler"

De auteurs gebruiken Deep Learning (een soort super-slimme AI) als een vertaler.

• De AI als een kunstcriticus: In plaats van te vragen "Is dit een auto?", laat je de AI naar de foto van het product kijken. De AI ziet niet alleen "auto", maar voelt de sfeer: "Oh, dit heeft een strakke lijn, het ziet er snel en modern uit."
• De AI als een boekrecensent: Voor tekst (zoals beschrijvingen of reviews) leest de AI niet alleen woorden, maar begrijpt ze de betekenis. Als iemand schrijft "perfect voor een regenachtige dag" en een ander schrijft "gezellig voor bij de haard", begrijpt de AI dat deze twee boeken op dezelfde manier worden gewaardeerd, ook al gebruiken ze andere woorden.

De AI zet deze foto's en teksten om in een cijfercode (een "embedding"). Het is alsof je elk product een unieke vingerafdruk geeft die al zijn subtiele eigenschappen vastlegt.

3. De Methode: Het "Mooiste" Patroon Vinden

De AI genereert duizenden cijfers per product. Dat is te veel om mee te werken.

• De verdichting (PCA): De auteurs gebruiken een techniek om deze duizenden cijfers te "verdichten" tot een paar belangrijke lijnen. Stel je voor dat je een hele berg informatie over een auto reduceert tot twee vragen: "Hoe sportief ziet het eruit?" en "Hoe luxe voelt het?".
• De selectie: Ze testen verschillende modellen om te zien welke combinatie van foto's en tekst het beste voorspelt welke producten mensen als vervanging kiezen. Het is alsof je een kok bent die verschillende kruidenmengsels uitprobeert om te zien welke het lekkerste gerecht maakt.

4. De Test: Het Boekexperiment

Om te bewijzen dat het werkt, hebben ze een experiment gedaan met boeken.

• Mensen moesten een boek kiezen uit een lijst.
• Vervolgens moesten ze een tweede keuze maken uit de overgebleven boeken (alsof hun eerste keuze plotseling uitverkocht was).
• De verrassing: De modellen die gebruik maakten van de AI-geanalyseerde foto's en recensies voorspelden de tweede keuze veel beter dan de modellen die alleen keken naar de "officiële" kenmerken (zoals genre of aantal pagina's).
• De les: Mensen kiezen vaak op basis van hoe een boek eruitziet op de cover of wat er in de recensies staat. De AI zag dit patroon, de oude methoden niet.

5. De Toepassing: Amazon in de Praktijk

Ze hebben dit ook getest op 40 verschillende categorieën op Amazon (van kleding tot elektronica).

• De verrassing: Soms is de foto het belangrijkst (bijvoorbeeld bij kleding), maar soms is de tekst belangrijker (bijvoorbeeld bij boeken of specifieke gadgets), zelfs als je dat van tevoren niet zou verwachten.
• De conclusie: Je kunt nooit zeker weten welke data het beste werkt. Daarom is het slim om alles te verzamelen (foto's én tekst) en de AI te laten beslissen wat het belangrijkst is.

Waarom is dit geweldig?

Stel je voor dat je een detective bent die probeert te achterhalen wie de dader is (welk product mensen kopen).

• De oude methode kijkt alleen naar de paspoorten van de verdachten (de officiële kenmerken).
• De nieuwe methode kijkt ook naar hun kledingstijl, hun stemgeluid en wat ze zeggen in hun dagboeken (foto's en tekst).

Hierdoor ziet de detective veel meer patronen en kan hij veel nauwkeuriger voorspellen wat er gaat gebeuren als de markt verandert (bijvoorbeeld bij een prijsverhoging of een fusie tussen bedrijven).

Kortom: Deze paper laat zien dat we niet meer hoeven te wachten tot mensen hun voorkeuren in een strakke lijst zetten. We kunnen de "ruis" van de echte wereld (foto's, reviews, beschrijvingen) gebruiken met slimme AI om precies te begrijpen wat consumenten echt willen.

Technische samenvatting

Probleemstelling

In de economie en marketing is het schatten van de vraag naar gedifferentieerde producten essentieel voor analyses zoals fusies, tariefbeoordelingen en optimale prijsstelling. De standaardaanpak hiervoor is het schatten van vraagmodellen waarbij substitutiepatronen worden bepaald door de gelijkenis van geobserveerde productkenmerken (zoals grootte, merk, specificaties).

De auteurs identificeren twee fundamentele beperkingen van deze traditionele methode:

1. Onvolledige data: Onderzoekers hebben zelden toegang tot alle voor de consument relevante kenmerken. Ze zijn vaak afhankelijk van derde partijen die selecteren op onbekende criteria, of maken subjectieve keuzes over welke kenmerken ze verzamelen.
2. Moeilijk te kwantificeren attributen: Consumenten maken vaak gebruik van visuele aspecten (ontwerp, esthetiek) en functionele voordelen die moeilijk te vertalen zijn naar gestructureerde data.

Het doel van dit onderzoek is een methode te ontwikkelen die on gestructureerde data (zoals productafbeeldingen, tekstdescripties en reviews) gebruikt om substitutiepatronen te infereren, zelfs wanneer gestructureerde kenmerken ontbreken of onvoldoende zijn.

Methodologie

De auteurs stellen een drie-staps benadering voor die diep leermethoden (deep learning) combineert met economische vraagmodellen.

Stap 1: Extractie van Embeddings
De auteurs gebruiken voorgeleerde deep learning-modellen om vectorrepresentaties (embeddings) te genereren voor zowel afbeeldingen als tekst:

• Afbeeldingen: Vier convolutionele neurale netwerken (CNN's) worden gebruikt: VGG19, ResNet50, InceptionV3 en Xception. De classificatielaag wordt verwijderd om de embeddings te gebruiken als maatstaf voor visuele gelijkenis.
• Tekst: Er worden zowel traditionele methoden (Bag-of-Words, TF-IDF) als geavanceerde semantische modellen gebruikt: Universal Sentence Encoder (USE) en BERT Sentence Transformer (ST). Deze modellen kunnen semantische gelijkenis detecteren, zelfs als de exacte woorden verschillen.

Stap 2: Dimensiereductie via PCA
Embeddings zijn vaak hoogdimensionaal (bijv. 512 dimensies), wat numerieke integratie in vraagmodellen onuitvoerbaar maakt. De auteurs passen Principal Component Analysis (PCA) toe op de embeddings binnen elke productcategorie.

• Dit reduceert de dimensie en concentreert zich op variatie binnen de categorie (onderscheid tussen producten) in plaats van variatie tussen categorieën.
• De resulterende hoofdcomponenten (PC's) zijn orthogonaal, wat multicollineariteit voorkomt en de schatting vereenvoudigt.

Stap 3: Integratie in een Vraagmodel
De gereduceerde hoofdcomponenten worden opgenomen in een Mixed Logit-model (Random Coefficients Logit) met product-vaste effecten.

• De PC's worden behandeld als productkenmerken waarvoor random coefficients worden geschat.
• Modelselectie: Omdat er veel combinaties mogelijk zijn (verschillende data-types, verschillende embeddings, verschillende aantallen PC's), gebruiken de auteurs een algoritme gebaseerd op de Akaike Information Criterion (AIC). Het algoritme selecteert iteratief het model dat de beste balans biedt tussen modelfit en complexiteit, zonder dat er een voorafgaande subjectieve keuze nodig is voor welke kenmerken worden opgenomen.

Validatie en Experimenteel Ontwerp

Een grote uitdaging bij het valideren van substitutiepatronen is het ontbreken van een "ground truth" (de werkelijke substitutie is vaak niet direct observeerbaar). De auteurs lossen dit op met een speciaal ontworpen keuze-experiment:

• Opzet: 9.265 deelnemers kiezen uit een lijst van 10 boeken (gebaseerd op Amazon-bestsellers). Ze maken eerst een "eerste keuze". Vervolgens wordt dat boek verwijderd en maken ze een "tweede keuze" uit de resterende opties.
• Validatie: De modellen worden geschat op basis van alleen de eerste keuzes. Vervolgens wordt getest hoe goed het model de tweede keuzes (de substitutie) voorspelt. Dit dient als een directe validatie van het vermogen om substitutiepatronen te recoveren.
• Data: Er worden ook observaties gebruikt van 40 productcategorieën op Amazon.com (o.a. elektronica, kleding, voeding), gekoppeld aan Comscore-aankoopdata.

Belangrijkste Resultaten

1. Superieure Voorspellingskracht:

   • Het model dat gebruikmaakt van ongestructureerde data (specifiek reviews verwerkt met de USE-embedding) presteert significant beter dan zowel een standaard Logit-model als een Mixed Logit-model met traditionele attributen.
   • In het experiment leidde dit tot een reductie van de Root Mean Square Error (RMSE) voor tweede-keuzevoorspellingen met 23% ten opzichte van een plain logit, en 14% beter dan het beste attributen-gebaseerde model.
   • De verbetering door ongestructureerde data is vergelijkbaar met de verbetering die het attributen-model biedt ten opzichte van een simpele logit.

2. Informatieve Waarde van Tekst en Beeld:

   • Zowel tekst als afbeeldingen bevatten waardevolle signalen voor substitutie.
   • Tekst: Reviews en beschrijvingen vangen semantische nuances (zoals plotdetails bij boeken of functionaliteit bij elektronica) beter dan titels of simpele woordtellingen.
   • Beeld: Afbeeldingen vangen visuele gelijkenissen (zoals genre-indicaties bij boeken of ontwerp bij kleding) goed.
   • Interessant: In sommige categorieën (zoals kleding) bleek tekst soms een betere voorspeller te zijn dan afbeeldingen, wat aantoont dat het niet altijd intuïtief is welke data het beste werkt. Het verzamelen van beide data-types is daarom aanbevolen.

3. Robuustheid in Verschillende Categorieën:

   • Bij toepassing op 40 Amazon-categorieën leverde de methode consistent betere modelfits op (gemiddelde AIC-reductie van 23,3) vergeleken met een plain logit.
   • De methode produceert realistischere diversieratios (hoeveel klanten naar een ander product overstappen). Waar een plain logit vaak te vlakke diversies voorspelt (alleen gebaseerd op marktaandeel), identificeert de nieuwe methode nauwkeuriger welke producten directe substituten zijn (bijv. specifieke tabletmodellen of kledingstijlen).

4. Correlatie In-Sample en Counterfactual:

   • Er is een sterke correlatie (0,78) tussen de in-sample AIC en de counterfactual prestatie (RMSE op tweede keuzes). Dit bevestigt dat AIC een betrouwbare maatstaf is voor modelselectie in dit kader, zelfs zonder toegang tot tweede-keuzedata tijdens het schatten.

Significantie en Bijdrage

• Methodologische Innovatie: Het artikel is een van de eerste die een uitgebreide validatie biedt van vraagmodellen die ongestructureerde data gebruiken, specifiek gericht op het voorspellen van substitutie (een cruciale uitkomst voor fusie-analyses en prijsstrategieën) in plaats van alleen het voorspellen van observabele uitkomsten.
• Praktische Toepasbaarheid: De auteurs bieden een Python-pakket (DeepLogit) en een gestructureerd algoritme voor modelselectie, waardoor onderzoekers de methode direct kunnen toepassen zonder complexe, handmatige attributen-selectie.
• Schalbaarheid: De aanpak maakt het mogelijk om vraag te schatten over vele productcategorieën heen zonder per categorie nieuwe, specifieke kenmerken te moeten verzamelen. Dit is vooral waardevol voor creatieve goederen (boeken, kunst, films) en markten waar gestructureerde data schaars is.
• Beperkingen en Toekomst: De methode is ideaal voor scenario's waarbij de productontwerpen (en dus de embeddings) constant blijven (bijv. prijsveranderingen, fusies zonder productherontwerp). Voor scenario's waarbij productontwerp verandert, moeten de embeddings mogelijk opnieuw worden geschat of causale effecten worden gemodelleerd.

Conclusie:
De auteurs tonen aan dat ongestructureerde data (tekst en beelden), verwerkt via deep learning en PCA, een krachtige en vaak superieure vervanging of aanvulling biedt op traditionele gestructureerde attributen voor het schatten van vraag en substitutiepatronen. Dit opent nieuwe wegen voor empirisch onderzoek in marketing en industriële organisatie.