Experiments or Outcomes? Probing Scientific Feasibility in Large Language Models

1. Il Problema

La valutazione della fattibilità scientifica è un compito fondamentale che richiede di determinare se un'affermazione (ipotesi) sia coerente con le conoscenze consolidate e se esista evidenza sperimentale che possa supportarla o confutarla. Sebbene i Large Language Models (LLM) siano sempre più utilizzati nei flussi di lavoro scientifici (dalla revisione della letteratura alla generazione di ipotesi), la loro capacità di eseguire questo compito diagnostico è poco compresa.

Le domande di ricerca (RQ) principali sono:

1. Gli LLM possono valutare la fattibilità basandosi solo sulla conoscenza parametrica interna?
2. Come cambia il giudizio di fattibilità quando si fornisce contesto esplicito: descrizioni degli esperimenti, risultati (outcome), o entrambi?
3. Quanto sono robusti questi giudizi quando le informazioni sperimentali sono incomplete?

Il paper evidenzia che la semplice retrieval di documenti non è sufficiente; la fattibilità dipende da quali esperimenti e risultati vengono considerati, e non solo dalla presenza di carta correlata.

2. Metodologia

Gli autori propongono un framework di conoscenza controllata per isolare l'impatto di diverse parti dell'evidenza scientifica sul ragionamento del modello.

• Formulazione del Problema: L'attività è definita come un problema di previsione strutturata binaria: dato un'ipotesi $h$, il modello deve predire se è FEASIBLE (Fattibile) o INFEASIBLE (Non Fattibile) e fornire una giustificazione.
• Condizioni di Valutazione: Il contesto $x$ fornito al modello varia sistematicamente in quattro scenari:
  1. H (Hypothesis-only): Solo l'ipotesi (basato su conoscenza interna).
  2. H+E (Hypothesis + Experiments): Ipotesi + descrizioni degli esperimenti (senza risultati).
  3. H+O (Hypothesis + Outcomes): Ipotesi + riepilogo dei risultati (senza dettagli sperimentali).
  4. H+E+O (Hypothesis + Experiments + Outcomes): Contesto completo.
• Analisi di Stabilità (Robustezza): Per testare la resilienza, viene introdotta una procedura di rimozione progressiva delle informazioni. Vengono definiti due parametri $k_1$ (frazione di esperimenti rivelati) e $k_2$ (frazione di outcome rivelati), variati a livelli 0, 0.5 e 1.0. Si analizza se il degrado delle prestazioni è monotono (più dati = meglio) o non monotono (dati parziali = peggio di nessun dato).
• Dataset e Modelli:
  • Dataset: MATTER-OF-FACT (dichiarazioni con evidenze che possono supportare o contraddire) e REASONS (dichiarazioni esplicitamente supportate).
  • Modelli: Vengono testati diversi LLM proprietari (GPT-5.1, GPT-4o, Gemini-2.5-Pro/Flash, Grok-4.1-fast) per verificare la robustezza dei risultati su diverse scale e fornitori.
• Metriche: Accuratezza, F1 macro, MCC (Matthews Correlation Coefficient) per le etichette, e sovrapposizione lessicale (ROUGE) per le spiegazioni.

3. Contributi Chiave

1. Framework di Conoscenza Controllata: Un metodo sistematico per misurare come esperimenti e outcome spostano i giudizi di fattibilità, isolando l'effetto di ciascuna componente.
2. Analisi di Stabilità: Una quantificazione della robustezza sotto omissioni di dati, rivelando che l'aggiunta parziale di evidenze può essere dannosa.
3. Scoperta di Modelli di Fallimento: Identificazione che gli LLM attuali tendono a un allineamento superficiale piuttosto che a un ragionamento evidenziale profondo, portando a fragilità quando il contesto è incompleto.

4. Risultati Principali

L'analisi dei dati (Tabella 1 e Figure) porta a tre scoperte fondamentali:

• Fattibilità da Conoscenza Interna (RQ1): Gli LLM mostrano prestazioni non banali basandosi solo sull'ipotesi (H), ma le giustificazioni sono spesso generiche e basate sulla plausibilità superficiale piuttosto che su vincoli sperimentali.
• Pattern 1: Gli Outcome sono più stabilizzanti degli Esperimenti:
  • Fornire solo gli outcome (H+O) migliora o mantiene le prestazioni rispetto alla sola ipotesi.
  • Fornire solo le descrizioni degli esperimenti (H+E) spesso degrada le prestazioni rispetto alla sola ipotesi, specialmente con evidenze parziali. Le descrizioni sperimentali senza risultati introducono ambiguità che gli LLM non riescono a risolvere.
• Pattern 2: Più evidenze non sono necessariamente meglio:
  • In molti casi, la condizione completa (H+E+O) non supera la condizione H+O. A volte, aggiungere la descrizione dell'esperimento agli outcome peggiora il giudizio.
  • Questo indica che gli LLM non integrano composizionalmente esperimenti e risultati; il contesto aggiuntivo può interferire con il processo decisionale.
• Pattern 3: Degrado Non Monotono e Adversariale (RQ3):
  • La rimozione parziale delle evidenze (es. 50%) spesso porta a prestazioni peggiori sia rispetto alla condizione completa che rispetto alla condizione senza evidenze (H).
  • Questo suggerisce che il contesto scientifico parziale può attivamente fuorviare il modello, portando a un "crollo fragile" (brittle collapse) invece che a una gestione graduale dell'incertezza.

Cause dei Fallimenti:

1. Allineamento Superficiale: I modelli sovrappongono l'adattamento lessicale tra ipotesi e descrizione dell'esperimento, ignorando variabili critiche (es. intensità dell'intervento).
2. Mancanza di "Gating" della Rilevanza: I modelli raramente mettono in discussione se un'evidenza fornita sia realmente pertinente all'ipotesi; tentano di riconciliare qualsiasi contesto dato.
3. Ancoraggio (Anchoring): Con evidenze parziali, il modello si "ancora" al frammento disponibile e si impegna eccessivamente, invece di tornare a uno stato di incertezza.

5. Significato e Conclusioni

Il paper conclude che gli attuali LLM trattano la valutazione della fattibilità come una classificazione a livello superficiale piuttosto che come un giudizio condizionato all'evidenza.

• Implicazioni: L'aggiunta di contesto (RAG) non garantisce automaticamente migliori prestazioni scientifiche. In alcuni casi, fornire descrizioni sperimentali incomplete è più dannoso che non fornire nulla.
• Raccomandazioni: Per migliorare la valutazione della fattibilità, sono necessari meccanismi che modellino esplicitamente la rilevanza dell'evidenza, l'incertezza e l'allineamento delle variabili, invece di affidarsi semplicemente all'aggiunta di più contesto.
• Valutazione Diagnostica: Il framework proposto rivela modalità di fallimento che non sono rilevabili nelle valutazioni standard di verifica delle affermazioni o nei sistemi di retrieval aumentato, sottolineando la necessità di valutazioni diagnostiche specifiche prima di deployare LLM in flussi di lavoro scientifici critici.

In sintesi, lo studio avverte che l'uso degli LLM per la scienza richiede una comprensione profonda di come e quando le evidenze esterne aiutano o danneggiano il ragionamento, specialmente quando tali evidenze sono parziali o ambigue.