Immagina di cercare di insegnare a un robot come comprendere il mondo. Gli dai una telecamera e un cervello, e lui inizia a fare previsioni: "Quello è un gatto", oppure "Quella macchina sta per rompersi". Ma a volte, il robot sbaglia, o peggio, indovina per i motivi sbagliati. Magari pensa che la foto di un lupo sia reale perché c'è la neve sullo sfondo, non perché vede effettivamente il lupo. Questo è un grande problema nel mondo dell'Intelligenza Artificiale (IA), specialmente quando la posta in gioco è alta, come negli ospedali o nelle fabbriche. Abbiamo bisogno di sapere perché il robot ha preso una decisione, non solo cosa ha deciso.

Per risolvere questo problema, gli scienziati usano quella che viene chiamata "IA Spiegabile" (Explainable AI). Uno degli strumenti più interessanti in questa cassetta degli attrezzi è il "controfattuale". Pensa al controfattuale come a una storia del tipo "e se...". Invece di dire semplicemente "Ho previsto che stavi camminando", un controfattuale dice: "Ho previsto che stavi camminando, ma se avessi rallentato il passo, avrei previsto che eri seduto". È come una ricetta per cambiare il futuro. Tuttavia, quando si tratta di serie temporali — dati che cambiano nel tempo, come il monitoraggio del battito cardiaco o un grafico azionario — creare queste storie del "e se..." è complicato. Se ti limiti a modificare un singolo punto nei dati, è come cambiare una singola parola in una frase sperando che l'intera storia abbia ancora senso. Spesso, non è così. La storia diventa un insieme di parole senza senso e la spiegazione del robot diventa inutile.

È qui che entra in gioco un nuovo metodo chiamato ConceptCF. I ricercatori dietro questo articolo, Annemarie Jutte e il suo team, hanno capito che invece di giocherellare con i singoli punti in una serie temporale, dovremmo cambiare le "grandi idee" o i "concetti" che compongono i dati. Immagina una canzone. Potresti provare a cambiare la canzone modificando ogni singola nota una alla volta, il che è disordinato e confusionario. Oppure potresti cambiare il "volume" (quanto è forte) o il "tempo" (quanto è veloce). Questi sono i concetti. ConceptCF è un sistema intelligente che prende una serie temporale, la scompone nei concetti che la compongono (come quanto sono grandi le onde o quanto spesso si ripetono) e poi chiede: "E se cambiassimo il volume o il tempo?". Utilizza un processo di evoluzione digitale, simile a un videogioco in cui le soluzioni migliori sopravvivono e migliorano, per trovare i cambiamenti minimi e più logici necessari per invertire una previsione. Il risultato è una spiegazione che un essere umano può effettivamente comprendere, come dire: "Il robot ha pensato che stessi camminando perché i tuoi passi erano troppo grandi; se avessi fatto passi più piccoli, avrebbe saputo che eri seduto".

L'articolo presenta ConceptCF come un modo per generare queste spiegazioni "e se..." specificamente per i dati delle serie temporali. L'idea centrale è di smettere di guardare i punti dei dati grezzi (i singoli momenti nel tempo) e iniziare a guardare i concetti — schemi di alto livello che gli esseri umani possono facilmente cogliere, come la "scala" (ampiezza) generale di un segnale o la sua "frequenza" (quanto spesso si ripete). Gli autori sostengono che i metodi esistenti spesso rovinano il significato dei dati cambiando i punti in isolamento, il che può creare scenari strani o impossibili. ConceptCF evita questo problema modificando solo i concetti sottostanti.

Per fare ciò, il team utilizza tre diversi modi per scomporre la serie temporale in concetti:

1. Basato su Fourier: Questo osserva il segnale come una miscela di diverse frequenze, come separare un accordo nelle singole note.
2. Basato su Wavelet: Questo scompone il segnale in blocchi di diverse dimensioni, catturando sia i grandi trend che i piccoli dettagli.
3. Centrato sull'uomo: Questo è progettato specificamente per persone che non sono esperti di matematica, scomponendo il segnale in elementi come il "trend" (sta andando su o giù?), il "bias" (è spostato verso l'alto o verso il basso?) e la "scala" (quanto è grande?).

Una volta che i dati sono stati scomposti in questi concetti, il metodo utilizza un algoritmo genetico per trovare il controfattuale perfetto. Immagina questo come un programma di allevamento digitale. Il computer parte con una "popolazione" di possibili cambiamenti. Testa questi cambiamenti per vedere quali riescono a cambiare la previsione dell'IA (validità), pur rimanendo il più vicino possibile ai dati originali (prossimità) e cambiando il minor numero di cose possibile (sparsità). Le soluzioni "più adatte" sopravvivono e si mescolano tra loro per creare soluzioni ancora migliori nella generazione successiva. L'obiettivo è trovare il cambiamento minimo nei concetti che inverta la previsione. Ad esempio, se un modello prevede "Camminata", ConceptCF potrebbe scoprire che aumentare la "lunghezza d'onda" e la "scala" del movimento farebbe prevedere al modello "Seduta".

I ricercatori hanno testato ConceptCF contro altri cinque metodi di alto livello utilizzando dataset del mondo reale, inclusi dati di movimento di persone che camminano e dati del battito cardiaco. Hanno misurato quanto bene il nuovo metodo funzionasse basandosi su cinque criteri:

• Validità: Ha effettivamente cambiato la previsione?
• Fiducia (Confidence): Il modello era sicuro della nuova previsione?
• Prossimità: Lo scenario nuovo era vicino a quello originale?
• Sparsità: Ha cambiato solo poche cose, o ha scombinato tutto?
• Plausibilità: Lo scenario nuovo sembrava qualcosa che potrebbe effettivamente accadere nel mondo reale?

I risultati hanno mostrato che ConceptCF si è comportato in modo molto competitivo. In effetti, spesso è risultato il migliore, specialmente per quanto riguarda la sparsità. Ciò significa che è riuscito a spiegare la decisione dell'IA cambiando pochissimi concetti, rendendo la spiegazione molto più pulita e facile da comprendere per un essere umano. Mentre altri metodi a volte faticavano a mantenere i dati realistici o finivano per cambiare troppi punti, ConceptCF ha costantemente trovato il "punto di equilibrio" per effettuare il cambiamento più piccolo e logico per invertire l'esito. Gli autori hanno scoperto che il modo specifico in cui hanno scomposto i concetti (Fourier vs. Wavelet vs. Centrato sull'uomo) non ha cambiato drasticamente i risultati, suggerendo che il metodo è flessibile e può essere adattato a diverse esigenze.

L'articolo conclude che ConceptCF è uno strumento potente per comprendere l'IA delle serie temporali. Concentrandosi su concetti interpretabili dall'uomo piuttosto che sui punti dei dati grezzi, colma il divario tra i complessi modelli di machine learning e il ragionamento umano. Gli autori suggeriscono che, sebbene il loro metodo sia matematicamente solido e funzioni bene nei test standard, il test definitivo sarà capire se gli esseri umani comprendono effettivamente meglio le spiegazioni. Propongono che la ricerca futura debba coinvolgere persone reali per vedere se queste spiegazioni basate sui concetti rendano davvero l'IA più trasparente e affidabile. Per ora, ConceptCF rappresenta un passo promettente verso il rendere le decisioni dell'IA meno simili a una scatola nera e più simili a una conversazione che tutti possiamo comprendere.