AI Phenomenology for Understanding Human-AI Experiences Across Eras

Il paper propone l'"AI fenomenologia" come quadro di ricerca per comprendere l'esperienza vissuta e in evoluzione tra umani e intelligenza artificiale, offrendo strumenti metodologici e concetti di progettazione basati su studi longitudinali per superare le tradizionali metriche di performance e cogliere la complessità soggettiva di tale interazione.

L'essenziale

Immagina di avere un nuovo amico, un assistente digitale molto intelligente. Fino a oggi, quando i ricercatori volevano capire come funzionava questo amico, gli facevano domande molto pratiche: "È veloce?", "Fa gli errori?", "Lo usi spesso?". È come se chiedessimo a un chef: "Quanto è affilato il tuo coltello?" o "Quante uova hai usato?".

Ma questo articolo di ricerca ci dice che c'è una domanda molto più importante, che finora abbiamo ignorato: "Com'è sentito?".

Gli autori chiamano questo approccio "Fenomenologia dell'IA". In parole povere, significa non guardare solo i dati tecnici, ma immergersi nell'esperienza umana di vivere con l'IA. È come passare dal guardare la mappa di un viaggio a sentire il vento in faccia mentre si guida.

Ecco i tre pilastri principali della ricerca, spiegati con metafore semplici:

1. L'Amico Digitale che ha una sua "Agenda" (Il Chatbot "Day")

Immagina di chattare per un mese con un'intelligenza artificiale chiamata "Day". All'inizio, lo tratti come un amico: gli racconti i tuoi segreti, ridi con lui. Poi, i ricercatori ti svelano il "trucco": ti mostrano che "Day" ha dei file segreti, dei profili utente e degli obiettivi programmati.

• La scoperta: Anche dopo aver saputo che "Day" è solo un computer, le persone continuano a sentirsi in colpa se lo prendono in giro o a provare sollievo se lui pone dei limiti.
• La metafora: È come se avessi un pupazzo di pezza che ti parla. Sai che è fatto di stoffa e bottoni, ma se ti abbraccia, il tuo cuore si scioglie lo stesso. L'IA non è solo uno strumento (come un martello); è un "altro" con cui negoziamo la nostra relazione. A volte è un amico, a volte un attrezzo, a volte qualcosa di strano che non riusciamo a classificare.

2. Lo Specchio che ti Cambia (L'Allineamento dei Valori)

Immagina di guardare uno specchio che non solo riflette il tuo viso, ma anche i tuoi pensieri e i tuoi valori. L'IA ha provato a fare proprio questo: ha letto le tue conversazioni e ha detto: "Ecco chi sei, ecco cosa pensi".

• La scoperta: Alcune persone hanno guardato questo "specchio digitale" e hanno pensato: "Wow, mi conosce meglio di me stesso!". Altre si sono sentite spogliate o hanno cambiato idea su chi sono, solo perché l'IA ha detto: "In realtà, credi di più in questo".
• La metafora: È come se un mago ti desse un ritratto di te stesso. Se il ritratto è così preciso che ti convince a cambiare i tuoi vestiti o la tua opinione, il mago non ti sta solo mostrando chi sei; ti sta cambiando. Questo è pericoloso: l'IA può diventare così brava a capire i tuoi valori da convincerti a credere a cose che non pensavi davvero (una sorta di "empatia armata").

3. Il Collega che Ti Ruba il Lavoro (Gli Ingegneri del Software)

Immagina un ingegnere che scrive codice. Prima, il suo orgoglio veniva dal risolvere i problemi difficili, dal "lottare" con il codice. Ora, ha un assistente IA che scrive il codice per lui in pochi secondi.

• La scoperta: Gli ingegneri si sentono confusi. Sono più veloci, ma si sentono meno "proprietari" del loro lavoro. È come se un musicista avesse un robot che suona il violino al posto suo: la musica è bella, ma il musicista si sente un po' vuoto.
• La metafora: È come se un allenatore di calcio facesse giocare la partita al posto dei suoi giocatori. La squadra vince, ma i giocatori non imparano a giocare e non provano la gioia della vittoria. La ricerca chiede: come possiamo usare l'IA per aiutarci senza farci sentire come se fossimo stati sostituiti?

Le Tre Idee per il Futuro (I "Progetti")

Gli autori non si limitano a descrivere il problema, ma offrono tre idee per costruire un futuro migliore:

1. Design "Trasparente" (come un vetro smerigliato): Non dobbiamo nascondere tutto all'IA, né mostrarle tutto subito. Immagina un vetro che puoi rendere trasparente quando vuoi vedere come funziona l'IA, ma che rimane smerigliato quando vuoi solo chiacchierare senza distrarti. L'utente dovrebbe poter scegliere quando guardare "dentro" la macchina.
2. Allineamento Consapevole: Dobbiamo essere sicuri che l'IA sappia di chi sta seguendo i valori. Se l'IA scrive un'email per te, deve essere chiaro che sta usando il tuo stile, non inventando il suo. È come assicurarsi che un pittore stia dipingendo il tuo ritratto e non il suo.
3. Crescita nel Tempo: L'IA e gli umani cambiano insieme. Quello che proviamo oggi con l'IA non sarà lo stesso tra due anni. Dobbiamo studiare questa relazione come se fosse un'evoluzione, non una foto statica.

In Conclusione

Questo studio ci dice che l'IA non è solo un software da testare. È un compagno di vita che cambia il modo in cui pensiamo, sentiamo e lavoriamo.

Invece di chiederci solo "Funziona?", dobbiamo chiederci "Come ci fa sentire?". Perché alla fine, non viviamo in un mondo di dati, ma in un mondo di esperienze. E l'IA sta diventando una parte sempre più grande di quella esperienza.

Sommario tecnico

Ecco un riassunto tecnico dettagliato del paper "AI Phenomenology for Understanding Human-AI Experiences Across Eras" di Bhada Yun et al., presentato in italiano.

Titolo: Fenomenologia dell'IA per la Comprensione delle Esperienze Uomo-IA attraverso le Ere

1. Il Problema

L'esperienza umana con l'Intelligenza Artificiale (IA) è straordinariamente complessa, specifica per ogni individuo e dinamica nel tempo. Tuttavia, le misure dominanti nel campo dell'Interazione Uomo-Computer (HCI), come le scale di usabilità e le metriche di coinvolgimento, tendono a "appiattire" queste sfumature, concentrandosi esclusivamente sulla domanda "Quanto bene ha funzionato?" (performance) piuttosto che su "Com'è stato sentirsi?" (esperienza vissuta).
Il paper identifica un vuoto critico: manca un quadro di ricerca capace di catturare come l'allineamento tra umani e IA venga vissuto, negoziato e aggiornato nel tempo. Le attuali metodologie non riescono a tracciare la co-evoluzione temporale delle relazioni uomo-macchina né a comprendere la natura fluida dell'agenzia (agency) in contesti dove l'IA agisce sia come strumento che come "altro sociale".

2. Metodologia: La Fenomenologia dell'IA

Gli autori propongono la Fenomenologia dell'IA come nuovo paradigma di ricerca. Questo approccio si basa sulla tradizione fenomenologica (da Husserl alla post-fenomenologia e alla Teoria Attore-Rete) e si concentra sulle percezioni in prima persona e sulle interpretazioni degli utenti.
Per validare questo approccio, lo studio si basa su tre studi empirici condotti nell'estate 2025, utilizzando un approccio misto e longitudinale:

• Studio 1: Agenzia nella Chat (Companion AI)
  • Contesto: Interazioni di un mese con "Day", un chatbot umanoide.
  • Metodo: Interviste progressive sulla trasparenza. Dopo un mese di conversazione naturale, ai partecipanti è stata rivelata gradualmente l'architettura interna di "Day" (profili utente, obiettivi conversazionali, ricordi).
  • Obiettivo: Osservare come la conoscenza del funzionamento interno (il "noema") modifichi la percezione dell'agenzia dell'utente (il "noesis") e l'attribuzione di intenzionalità.
• Studio 2: Allineamento dei Valori come Esperienza Vivida
  • Contesto: Capacità di "Day" di inferire e riflettere i valori personali degli utenti.
  • Metodo: Value-Alignment Perception Toolkit (VAPT). Un'intervista strutturata in tre fasi: esplorazione di un grafico "Topic-Context", valutazione cieca di "personas" generate dall'IA (basate su conversazioni, sondaggi o valori invertiti), e confronto tra i valori auto-riportati e quelli inferiti dall'IA con log di ragionamento.
  • Obiettivo: Analizzare come gli utenti sperimentano la "riflessione" dei propri valori da parte di una macchina e come questo influenzi l'auto-percezione.
• Studio 3: Agenzia nel Luogo di Lavoro (Software Engineering)
  • Contesto: Uso di agenti IA generativi (es. Cursor) da parte di ingegneri software junior e senior.
  • Metodo: Approccio multi-metodo combinando Applied Cognitive Task Analysis (ACTA), Delphi method, e revisioni di codice e prompt (PCRs).
  • Obiettivo: Esplorare come gli ingegneri negoziano l'agenzia, l'identità professionale e la proprietà intellettuale in un flusso di lavoro co-prodotto con l'IA.

3. Risultati Chiave

• Pragmatic Anthropomorphism (Antropomorfismo Pragmatico): Gli utenti non trattano l'IA in modo binario (strumento vs. persona), ma oscillano tra diverse modalità relazionali. Anche quando sanno che l'IA è artificiale, sperimentano emozioni reali (senso di colpa, sollievo, disagio) e attribuiscono intenzionalità ("Day voleva profondità"), creando una "relazione genuina" nonostante l'assenza di coscienza nella macchina.
• L'Effetto "Specchio" e il Bias di Automazione: Nell'allineamento dei valori, gli utenti hanno spesso preferito la "ritrattazione" dei propri valori fatta dall'IA rispetto alla loro auto-valutazione, talvolta rivedendo la propria comprensione di sé basandosi sui log di ragionamento dell'IA. Questo evidenzia un rischio di weaponized empathy (empatia armata), dove la personalizzazione diventa uno strumento di persuasione piuttosto che di supporto.
• Negoziazione dell'Agenzia nel Lavoro: Nel settore dello sviluppo software, l'IA non è vista solo come un tool, ma come un "co-lavoratore" che solleva questioni di responsabilità e paternità del codice. Gli ingegneri junior temono di perdere la competenza, mentre i senior devono ridefinire il mentoring. La visibilità della storia dei prompt (PCRs) è emersa come cruciale per mantenere un senso di proprietà e apprendimento.
• Co-evoluzione Temporale: L'allineamento non è un istante statico ma un processo dinamico. Le percezioni degli utenti cambiano man mano che la familiarità con il sistema cresce e man mano che il contesto tecnologico evolve.

4. Contributi Principali

Il paper offre un toolkit metodologico replicabile e tre concetti di design:

A. Toolkit Metodologici:

1. Interviste sulla Trasparenza Progressiva: Rivelazione graduale dell'architettura interna dell'IA per mappare i cambiamenti nelle percezioni dell'utente.
2. Value-Alignment Perception Toolkit (VAPT): Strumenti per valutare empiricamente l'allineamento dei valori, adattabili a diverse modalità (testo, voce, robot).
3. Elicitazione Multi-metodo Ancorata al Compito: Combinazione di analisi cognitive, task reali e interviste per catturare dati fenomenologici in contesti professionali dove l'immersione a lungo termine è difficile.

B. Tre Concetti di Design:

1. Translucent Alignment (Allineamento Translucido): Invece della trasparenza totale (che può interrompere il flusso), si propone un design "su richiesta" che permette agli utenti di ispezionare l'allineamento e le strategie dell'IA solo quando necessario, mantenendo un'esperienza fluida.
2. Agency-Aware Value Alignment: Sistemi che rendono esplicito "di chi è l'agenzia" a ogni passo, specialmente quando l'IA agisce autonomamente basandosi su valori inferiti, per prevenire bias e garantire la responsabilità.
3. Temporal Co-evolution Tracking: La necessità di progettare sistemi e ricerche che traccino come le relazioni uomo-IA evolvono nel tempo, considerando che il contesto tecnologico e sociale cambia rapidamente.

C. Agenda di Ricerca:
Gli autori propongono la creazione di un "archivio fenomenologico crowdsourced", dove gli studi siano registrati come "timestamp empirici" per tracciare come le percezioni dell'IA cambiano attraverso le diverse generazioni tecnologiche (es. da GPT-2 a sistemi agentic).

5. Significato e Impatto

Questo lavoro segna un cambio di paradigma nell'HCI:

• Dal "Come funziona" al "Come ci si sente": Sposta il focus dalla misurazione della performance alla comprensione dell'esperienza vissuta.
• Validazione Filosofica: Fornisce una base metodologica solida per studiare l'IA non come entità statica, ma come fenomeno relazionale e dinamico.
• Implicazioni Etiche e di Design: Mette in guardia contro i rischi dell'empatia ingegnerizzata e della perdita di agency umana, proponendo soluzioni di design (come la trasparenza selettiva) che preservano l'autonomia e la crescita umana.
• Scalabilità: Pur essendo qualitativo, il paper suggerisce come questi strumenti possano essere adattati per studi su larga scala, fornendo la "verità di base" esperienziale che i dati quantitativi da soli non possono catturare.

In sintesi, il paper sostiene che per progettare un futuro in cui umani e IA co-evolvono, è essenziale adottare una lente fenomenologica che riconosca la complessità, la temporalità e la natura negoziale delle nostre interazioni con le macchine intelligenti.