Three-in-One World Model: Energy-Based Consistency, Prediction, and Counterfactual Inference for Marketing Intervention

Riepilogo Tecnico: Modello del Mondo Tre-in-Uno per l'Intervento di Marketing

1. Enunciato del Problema

Le decisioni di marketing coinvolgono interazioni complesse tra eterogeneità latente dei consumatori, stati interni variabili nel tempo e interventi espliciti. I modelli attuali orientati alla previsione (ad es. MLP standard) e i modelli orientati al linguaggio (ad es. LLM) non riescono a catturare questa struttura in modo unificato. Nello specifico:

• LLM si basano sulla previsione del token successivo, mancando di meccanismi espliciti per il ragionamento causale o la rappresentazione interna del mondo.
• Modelli del Mondo Esistenti nel marketing (ad es. approcci basati su DBM) sono stati limitati alla co-occorrenza statica, incapaci di modellare dinamiche variabili nel tempo o di valutare la coerenza delle traiettorie temporali.
• Metodi di Inferenza Causale (ad es. apprenditori S-, T-, X-, DR-, Foreste Causali) spesso faticano a recuperare effetti di trattamento eterogenei (CATE) quando l'assegnazione del trattamento è confusa con tratti latenti dei consumatori, poiché tipicamente stimano gli esiti piuttosto che isolare gli effetti del trattamento attraverso contrasti controfattuali.

Il documento affronta la necessità di un quadro unificato che supporti la valutazione della coerenza, la previsione degli esiti e l'inferenza controfattuale all'interno di un'unica architettura capace di disaccoppiare i tratti latenti.

2. Metodologia

Gli autori propongono un'architettura di Modello del Mondo Tre-in-Uno basata su una Macchina di Boltzmann Profonda (DBM) combinata con adattatori leggeri specifici per il compito.

Componenti dell'Architettura:

• Modello del Mondo (DBM Congelato): Una DBM Bernoulli–Bernoulli con strati nascosti impilati (64–32–16) funge da nucleo.
  • Strato Visibile: Contiene dati demografici statici, caratteristiche del calendario e stati variabili nel tempo con ritardo (recente visita/recenza d'acquisto, conteggi cumulativi) e azioni/esiti con ritardo (ultimi 4 periodi). Crucialmente, il vettore dell'azione del periodo corrente è escluso dallo strato visibile.
  • Addestramento: La DBM viene addestrata in due fasi: pre-addestramento greedy strato per strato delle RBM seguito da affinamento congiunto utilizzando divergenza contrastante persistente.
  • Rappresentazione della Credenza: Dopo l'addestramento, la DBM viene congelata. Il vettore "credenza" è formato concatenando le attivazioni di campo medio di tutti gli strati nascosti. Questa rappresentazione cattura lo stato del consumatore indipendentemente dall'intervento corrente.
• Adattatori Specifici per il Compito: MLP leggeri vengono addestrati sopra la credenza congelata.
  • Input: La concatenazione del vettore di credenza congelato e del vettore dell'azione del periodo corrente.
  • Funzione: Questi adattatori mappano la coppia stato-azione sugli esiti a valle (ad es. probabilità di visita o acquisto).

Tre Compiti Integrati:

1. Valutazione della Coerenza Basata sull'Energia: L'energia libera della DBM ($F(v)$) valuta la plausibilità di una traiettoria di input. Bassa energia indica una configurazione plausibile di dati demografici, storia e comportamento; alta energia segnala scenari implausibili.
2. Previsione degli Esiti: Gli adattatori prevedono gli esiti (visita/acquisto) basandosi sullo stato di credenza e sull'azione corrente.
3. Inferenza Controfattuale: Per stimare l'Effetto Medio del Trattamento Condizionale (CATE), il vettore di credenza viene mantenuto fisso (rappresentando lo stato del consumatore) e l'input dell'azione corrente all'adattatore viene commutato (ad es. da 0 a 1). La differenza negli esiti previsti produce una stima dell'effetto del trattamento a livello individuale.

3. Configurazione Sperimentale

Il modello è stato valutato utilizzando una simulazione controllata in cui i tratti latenti di verità fondamentale erano noti:

• Dati: 1.024 consumatori sintetici su 365 giorni.
• Parametri Latenti: Ogni consumatore aveva nota la sensibilità al prezzo ($\alpha$), la reattività alla promozione ($\gamma$) e la preferenza di base ($\beta$).
• Confusione: $\alpha$ e $\beta$ erano confusi negativamente tramite reddito/età; $\gamma$ e $\beta$ erano confusi positivamente tramite fedeltà.
• Baseline: L'adattatore "Credenza" proposto è stato confrontato con:
  • Una forte baseline MLP (addestrata end-to-end su caratteristiche grezze).
  • Meta-apprenditori: apprenditori S-, T-, X- e DR-.
  • Foresta Causale.

4. Risultati Chiave

A. Coerenza Basata sull'Energia

• La DBM ha penalizzato con successo le traiettorie controfattuali che erano implausibili data la storia del consumatore. Nello specifico, bloccare una traiettoria per mostrare "acquisti senza recente esposizione promozionale" ha risultanto in un'energia libera significativamente più alta (minore plausibilità) rispetto alle traiettorie osservate.
• La penalità ($\Delta F$) era eterogenea: i consumatori con alta preferenza di base latente ($\beta$) ricevevano una penalità minore rispetto a quelli con basso $\beta$, dimostrando che il paesaggio energetico riflette i tratti latenti appresi dai dati demografici.

B. Prestazioni di Previsione

• L'"Adattatore Credenza" ha eguagliato le prestazioni della baseline MLP end-to-end sulla previsione di visite e acquisti (le differenze AUC erano entro $\pm 0.001$). Ciò conferma che la riduzione della dimensionalità della DBM non ha sacrificato il potere predittivo.

C. Recupero del CATE (Inferenza Controfattuale)

• Intervento Non Confuso (Spinta $\to$ Visita): L'Adattatore Credenza ha raggiunto la più alta correlazione di rango di Spearman ($\rho = 0.625$) tra CATE stimato e la vera reattività alla promozione ($\gamma$), superando la migliore baseline tra i meta-apprenditori ($\rho = 0.579$).
• Intervento Confuso (Saldi $\to$ Acquisto): Il vantaggio è stato più pronunciato qui. L'Adattatore Credenza ha recuperato la vera sensibilità al prezzo ($\alpha$) con $\rho = 0.548$. Al contrario, le baseline standard hanno faticato significativamente:
  • Apprenditore T: $\rho = 0.161$
  • Foresta Causale: $\rho = 0.040$
  • Apprenditore X: $\rho = 0.123$
  • Apprenditore DR: $\rho = -0.016$
• L'adattatore ha inoltre mostrato la prevista correlazione negativa con il parametro di confusione ($\beta$), suggerendo che si basava sul segnale latente corretto piuttosto che su scorciatoie.

5. Significato e Affermazioni

Il documento afferma che l'architettura proposta fornisce un substrato unificato per l'intervento di marketing che supera limitazioni specifiche degli approcci attuali:

• Disaccoppiamento: La rappresentazione della credenza DBM disaccoppia con successo i tratti latenti (sensibilità al prezzo, reattività alla promozione, preferenza di base) in una forma che sopravvive alle query controfattuali.
• Modularità: Congelando il modello del mondo e addestrando solo adattatori leggeri, il quadro evita l'oblio catastrofico quando si aggiungono nuovi compiti.
• Robustezza Causale: A differenza dei meta-apprenditori standard che operano su caratteristiche grezze, il meccanismo "credenza congelata + azione variabile" permette un recupero più fedele degli effetti causali eterogenei, in particolare in scenari con assegnazione del trattamento confusa.
• Coerenza Temporale: A differenza delle precedenti applicazioni statiche di DBM, questo modello valuta la coerenza di traiettorie estese nel tempo, non solo co-occorrenze statiche.

Limitazioni Riconosciute dagli Autori:

• I risultati si basano su un singolo seme di simulazione e processo di generazione dei dati; è necessaria la replicazione per caratterizzare la varianza.
• L'analisi basata sull'energia ha esaminato una singola configurazione di blocco controfattuale.
• Lo studio è limitato a una singola categoria di prodotto e esiti binari; l'estensione a esiti continui e dati reali di test A/B è lavoro futuro.
• Il documento non afferma di risolvere l'apprendimento della politica ottimale (chiudendo il ciclo con un controllore) ma identifica questo come il prossimo passo necessario.