Sintesi Tecnica: Framework di Adattamento al Dominio e di Ragionamento nei Modelli Linguistici

Definizione del Problema

Questo lavoro investiga se l'adattamento al dominio rimodelli il comportamento esplicativo dei modelli linguistici (LM) e come tale adattamento influenzi la generazione di specifiche posizioni cosmologiche. La domanda centrale di ricerca affronta un dibattito più ampio nella ricerca sui LM: se i modelli possano generare strutture esplicative o idee non direttamente rappresentate nei loro dati di addestramento, o se la novità apparente sia mera ritrasmissione e ricombinazione di pattern latenti codificati durante il pretraining.

Per isolare queste variabili, gli autori utilizzano la cosmologia storica come setting controllato. A differenza dei domini scientifici che richiedono nuove entità (es. virus), la transizione dall'astronomia geocentrica a quella eliocentrica ha comportato la riorganizzazione di concetti esistenti (corpi celesti, moto) all'interno di un diverso framework esplicativo. Ciò permette agli autori di testare se i modelli addestrati su distribuzioni pre-copernicane vincolate possano generare continuazioni adiacenti a strutture concettuali (eliocentrismo) assenti dal corpus di fine-tuning, e come il fine-tuning alteri la relazione tra framing esplicativo (premoderno vs moderno) e posizione cosmologica (geocentrica vs eliocentrica).

Metodologia

Lo studio è condotto in due fasi complementari utilizzando un corpus controllato di testi astronomici pre-copernicani (es. Almagest, Sphaera Mundi, De Caelo) dai quali sono stati rigorosamente filtrati riferimenti espliciti all'eliocentrismo.

Fase 1: Addestramento da Zero di Modelli Piccoli

• Modelli: Un trasformatore decoder-only di tipo GPT con 110 milioni di parametri.
• Regime di Addestramento:
  • Modello A: Addestrato da zero su un corpus di linguaggio generale filtrato (Project Gutenberg) con tutto il contenuto astronomico rimosso per minimizzare l'esposizione a concetti moderni.
  • Modello B: Inizializzato dal Modello A e sottoposto a fine-tuning su una miscela del corpus di astronomia pre-copernicana e inglese generale (rapporto 80/20).
• Valutazione: 1.680 generazioni per modello attraverso quattro categorie di prompt (astronomia, dichiarativa, generale, domande). Gli output sono stati valutati utilizzando un LLM-as-judge (Claude Haiku 4.5) per etichettare la posizione cosmologica (geocentrica, eliocentrica, ambigua) e il frame esplicativo (premoderno vs moderno).

Fase 2: Adattamento QLoRA di Modelli Grandi

• Modelli: Qwen2.5-7B, un modello pre-addestrato di grandi dimensioni con forte fluidità linguistica e conoscenza moderna latente.
• Adattamento: Fine-tuned tramite QLoRA (Quantized Low-Rank Adaptation) sullo stesso corpus pre-copernicano per 500 e 1.000 iterazioni.
• Valutazione: 560 generazioni per modello (Base, QLoRA-500, QLoRA-1000). Lo schema di valutazione è stato raffinato per disaccoppiare il frame esplicativo (uso stilistico e strutturale di meccanismi premoderni come gli epicicli) dalla posizione cosmologica (impegno esplicito verso modelli centrati sulla Terra o sul Sole).
• Analisi Statistica: Test di permutazione accoppiati (Fase 1) e test di McNemar (Fase 2) sono stati utilizzati per valutare la significatività degli spostamenti nelle distribuzioni delle etichette e i tassi di transizione tra i modelli.

Contributi Chiave

1. Decomposizione del Comportamento di Generazione

Il paper propone una decomposizione concettuale della generazione dei LM in due dimensioni parzialmente separabili:

1. Selezione del Frame Esplicativo: La probabilità di entrare in un particolare regime linguistico e strutturale (es. premoderno vs moderno).
2. Espressione Condizionale della Posizione: La posizione cosmologica adottata dato un determinato frame esplicativo.

2. Risultati Empirici sull'Adattamento al Dominio

• Fase 1 (Modelli Piccoli): Il fine-tuning su testi geocentrici non ha indotto uno spostamento coerente verso un ragionamento geocentrico. Al contrario, ha aumentato l'ambiguità e l'uso di un linguaggio di cautela (es. "sembra che", "secondo quanto", tipico del discorso scolastico). Sebbene i modelli piccoli abbiano occasionalmente generato frammenti eliocentrici locali, questi erano globalmente instabili e insufficienti per un ragionamento sostenuto.
• Fase 2 (Modelli Grandi): Il fine-tuning ha indotto uno spostamento massiccio verso un framing esplicativo premoderno (aumentando da circa il 31% al 65%). Tuttavia, la probabilità condizionata di una posizione geocentrica dato un frame premoderno è rimasta statisticamente stabile (~23–24%).
  • L'aumento degli output geocentrici complessivi è stato guidato principalmente dall'aumentata probabilità di campionare il frame premoderno, non da una modifica diretta della posizione all'interno di quel frame.
  • Il ragionamento eliocentrico è stato fortemente soppresso, spesso sostituito da un discorso premoderno ambiguo o non impegnativo piuttosto che da esplicite asserzioni geocentriche.

3. Conoscenza Latente e Attivazione

Lo studio dimosta che i grandi modelli pre-addestrati (come Qwen) contengono già regimi esplicativi storici latenti e continuazioni geocentriche prima del fine-tuning. L'adattamento al dominio agisce come un meccanismo per alterare la probabilità di entrare in questi manifold esistenti piuttosto che per "scoprire" nuovi concetti. Il modello base poteva generare output geocentrici (8%) quando stimolato con registri premoderni, suggerendo che queste strutture siano pre-codificate.

Sintesi dei Risultati

• Stabilità della Posizione Condizionata: In entrambe le fasi, la mappatura dal frame esplicativo alla posizione cosmologica è rimasta largamente invariante. Il fine-tuning ha spostato la distribuzione sui frame ($P(\text{Premoderno})$), il che ha successivamente ridistribuito la posizione complessiva ($P(\text{Geocentrica})$) come effetto secondario.
• Soppressione dell'Eliocentrismo: Nella Fase 2, il fine-tuning QLoRA ha ridotto significativamente gli output eliocentrici (dal 21,4% a circa il 2,7%), ma non ha aumentato proporzionalmente gli impegni geocentrici espliciti. Invece, la "probabilità eliocentrica perduta" è stata assorbita da un aumento di output con framing premoderno e ambigui.
• Robustezza: Questi risultati sono rimasti validi sotto definizioni operative più rigorose di framing premoderno e posizione geocentrica, confermando che gli effetti osservati sono robusti rispetto ai confini di annotazione.

Significato e Rivendicazioni

Il paper sostiene che l'adattamento al dominio rimodella principalmente i framework linguistici dai quali vengono generate le continuazioni. I cambiamenti nella posizione cosmologica emergono secondariamente da questi spostamenti nel framing piuttosto che attraverso una modifica diretta delle "credenze" del modello o delle variabili di posizione esplicite.

Gli autori sostengono che trattare la posizione generata come una singola variabile di output sia insufficiente. Il comportamento di generazione dovrebbe essere inteso come un processo in due fasi: la selezione di un regime esplicativo seguito dalla realizzazione di una posizione all'interno di quel regime. I risultati suggeriscono che, in contesti storici vincolati, i modelli non necessariamente "ragionano" il proprio modo verso nuovi modelli cosmologici; piuttosto, campionano da regioni latenti della distribuzione di pre-addestramento che corrispondono a specifici stili esplicativi storici.

Il lavoro conclude che, mentre i modelli piccoli mancano della capacità di un ragionamento concettuale sostenuto, i modelli grandi possiedono strutture storiche latenti che possono essere attivate selettivamente. Tuttavia, l'attivazione di queste strutture non garantisce uno spostamento coerente nella posizione cosmologica sottostante, evidenziando la complessità del disaccoppiare il framing stilistico dall'impegno fattuale nella generazione dei modelli linguistici.