Interpretability from the Ground Up: Stakeholder-Centric Design of Automated Scoring in Educational Assessments

1. Il Problema

I sistemi di valutazione automatizzata basati sull'Intelligenza Artificiale (AI) offrono soluzioni scalabili ed efficienti per valutare risposte complesse generate dagli studenti. Tuttavia, nonostante la crescente domanda di trasparenza, il campo non ha ancora sviluppato una soluzione ampiamente accettata per la valutazione automatizzata interpretabile utilizzabile in contesti reali su larga scala.
Le attuali soluzioni di "Explainable AI" (XAI) spesso falliscono nel soddisfare le esigenze reali delle parti interessate (stakeholder) perché:

• Si basano su spiegazioni generate da prompt (es. LLM che "spiegano" le loro decisioni) che non riflettono fedelmente il calcolo interno del modello (mancanza di faithfulness).
• Utilizzano feature astratte (es. similarità di embedding) che non sono comprensibili o verificabili dagli umani.
• Non permettono l'intervento umano o la sostituzione di parti del processo di ragionamento.
• Sono confinate alla ricerca accademica senza un'adozione pratica significativa (come evidenziato dalla sfida NAEP Math 2023, dove nessuna sottomissione ha soddisfatto i criteri di interpretabilità).

2. Metodologia: I Principi FGTI e il Framework ANALYTICSCORE

Gli autori propongono un approccio basato su principi, partendo dall'analisi dei bisogni di tre gruppi di stakeholder principali: sostenitori del test (test takers), sviluppatori di test (assessment developers) e utilizzatori del test (test users, come educatori e policymaker).

Da questa analisi derivano quattro principi fondamentali per l'interpretabilità, acronimo FGTI:

1. Fede (Faithful): Le spiegazioni devono riflettere accuratamente il meccanismo computazionale reale del modello, non essere narrazioni generate a posteriori.
2. Fondato (Grounded): Le feature iniziali devono rappresentare elementi esplicitamente identificabili e comprensibili dall'uomo nel lavoro dello studente (es. proposizioni specifiche), non rappresentazioni latenti astratte.
3. Tracciabile (Traceable): Il modello di punteggio deve essere scomposto in sottoroutine distinte, ciascuna rappresentante un passo di ragionamento probatorio ben definito su input specifici.
4. Scambiabile (Interchangeable): Un essere umano deve poter agire in modo intercambiabile su ciascuna sottoroutine di ragionamento, sostituendo l'output del modello con un giudizio umano se necessario.

Per implementare questi principi, viene introdotto ANALYTICSCORE, un framework modulare a tre fasi applicato alla valutazione di risposte testuali costruite (text-based constructed-response):

• Fase 1: Estrazione dei Componenti Analitici.
  Il sistema estrae un insieme di "componenti analitici" (elementi espliciti come proposizioni o concetti chiave) dalle risposte degli studenti. Questi componenti sono identificabili dall'uomo. Nell'implementazione, vengono estratti fino a 15 componenti per unità di punteggio utilizzando un LLM.
• Fase 2: Featurizzazione (Human-Understandable Featurization).
  Ogni risposta viene trasformata in un vettore di feature basato sulla presenza e qualità dei componenti analitici estratti. Viene utilizzata una funzione di etichettatura che assegna valori discreti e comprensibili:
  • 2: Paraphrase diretta del componente.
  • 1: Paraphrase parziale.
  • 0: Assenza del componente.
    Per scalabilità, un modello LLM proprietario (es. GPT-4) viene usato per generare i dati di addestramento per un modello open-source più piccolo (es. Llama-3.1-8B) tramite distillation, riducendo i costi operativi.
• Fase 3: Punteggio Logico Tracciabile.
  Un modello di regressione logistica ordinale (Ordinal Logistic Regression) addestrato sulle feature estratte calcola il punteggio finale. Il punteggio è determinato da una somma ponderata delle feature ($\eta$) confrontata con soglie apprese ($\theta$). Questo processo è matematicamente trasparente e permette di ricalcolare il punteggio se un umano modifica una feature specifica.

3. Contributi Chiave

• Definizione dei Principi FGTI: Una nuova cornice teorica che sposta il focus dall'interpretabilità come "aggiunta post-hoc" a un requisito di progettazione fondamentale basato sugli stakeholder.
• Framework ANALYTICSCORE: La prima implementazione pratica di un sistema di scoring automatizzato che soddisfa rigorosamente i principi FGTI.
• Validazione Empirica: Dimostrazione che un sistema interpretabile può competere in accuratezza con i modelli "black-box" (SOTA) mantenendo un allineamento con il giudizio umano.
• Distillazione per Scalabilità: Una strategia efficace per utilizzare LLM potenti per la creazione di feature senza sostenere i costi proibitivi di inferenza su larga scala, distillando la conoscenza in modelli open-source più piccoli.

4. Risultati Sperimentali

Il framework è stato valutato sul dataset ASAP-SAS (10 domande a risposta aperta su Scienze, Lettura Informativa e Letteratura).

• Accuratezza di Punteggio:
  • ANALYTICSCORE supera molti metodi di scoring non interpretabili (baselines come AutoSAS, ASRRN) e modelli few-shot.
  • Rispetto ai modelli SOTA non interpretabili (es. DeBERTa, Llama-3.1 addestrati supervisionatamente), ANALYTICSCORE si posiziona in media entro 0.06 QWK (Quadratic Weighted Kappa) di differenza.
  • In particolare, la versione con Llama-3.1 distillato mostra un miglioramento significativo (+0.13 QWK in media) rispetto alla versione non distillata, avvicinandosi alle prestazioni di GPT-4.1-mini.
• Allineamento della Featurizzazione:
  • Il comportamento di featurizzazione di ANALYTICSCORE è stato confrontato con quello di annotatori umani.
  • Il modello distillato Llama-3.1 ha raggiunto un accordo elevato con gli umani (QWK ~0.90 per Scienze, ~0.72 per Lettura Informativa, ~0.81 per Letteratura).
  • L'accordo tra gli annotatori umani stessi (Krippendorff's $\alpha$) è stato tra 0.67 e 0.72, indicando che il compito di featurizzazione è ben definito e che il modello si allinea bene con il consenso umano.
  • Le discrepanze maggiori si osservano nella categoria di etichetta "1" (paraphrase parziale), dovuta alla sua ambiguità intrinseca.

5. Significato e Implicazioni

Questo lavoro segna un cambio di paradigma fondamentale:

1. Dalla Predizione al Ciclo di Vita dello Stakeholder: Sposta la valutazione automatizzata da un compito isolato di predizione a un processo integrato nel ciclo di vita della valutazione, centrato sulle esigenze di chi progetta, usa e subisce il test.
2. Fiducia e Validità: Fornisce un meccanismo concreto per validare la scelta del modello di scoring, permettendo agli sviluppatori di verificare se le feature estratte catturano effettivamente i costrutti educativi previsti (es. ragionamento, contenuto).
3. Equità e Controllo: La natura "scambiabile" e "tracciabile" del sistema permette di identificare e correggere errori o bias specifici (es. se un componente viene valutato erroneamente) senza dover riaddestrare l'intero modello da zero.
4. Fattibilità Pratica: Dimostra che è possibile costruire sistemi ad alta accuratezza che non sacrificano la trasparenza, offrendo una via pratica per l'adozione di AI in contesti educativi ad alto rischio (high-stakes), dove la spiegabilità è un imperativo morale e non solo tecnico.

In sintesi, il paper dimostra che l'interpretabilità non è un ostacolo alle prestazioni, ma può essere progettata come un pilastro fondamentale per creare sistemi di valutazione educativa più robusti, equi e affidabili.