What Influences Readers' and Writers' Perceived Necessity of AI Disclosure?

Questo studio esamina i fattori che influenzano la percezione della necessità di divulgare l'uso dell'IA nella scrittura mediante uno studio basato su vignette con 727 partecipanti, rivelando che i lettori richiedono più trasparenza rispetto agli autori e che i giudizi sono significativamente plasmati dalla sostituibilità dell'IA, dalla sua immediatezza e dall'intenzionalità dell'autore, mentre lo sforzo di scrittura non ha alcun impatto significativo.

L'essenziale

La Grande Domanda: Chi Deve Sapere dell'IA?

Immagina di essere un fornaio che prepara una torta. A volte la prepari interamente da zero. Altre volte, usi un mix già pronto, o forse chiedi a un amico di aiutarti a glassarla.

Ora, immagina che si stia discutendo una nuova regola: "Devi dire alle persone se hai usato aiuto (o una macchina) per preparare la tua torta?"

Questo documento si pone una domanda molto specifica: Quando le persone (i lettori) e i fornai (gli autori) ritengono che sia necessario ammettere che è stata utilizzata l'IA?

I ricercatori hanno scoperto che lettori e autori vedono spesso questa situazione attraverso lenti molto diverse, e la risposta dipende fortemente da come è stata utilizzata l'IA.

---

I Tre Ingredienti Principali dello Studio

Per capire questo, i ricercatori hanno creato un "menu di degustazione" di 727 scenari diversi (chiamati vignette). Hanno mescolato e abbinato tre ingredienti principali per vedere come cambiavano le opinioni delle persone:

1. La Prospettiva (Chi sta parlando?): Sei il Lettore (che mangia la torta) o l'Autore (che la prepara)?
2. Lo Scopo (A cosa serve la torta?): È per un colloquio di lavoro serio (Valutazione), una lezione scolastica (Apprendimento) o semplicemente una storia divertente per un blog (Intrattenimento)?
3. La Procedura (Come è stata fatta la torta?): Questa è la parte più complessa. Hanno esaminato quattro modi specifici in cui l'IA è stata coinvolta:
   • Sostituibilità: L'autore avrebbe potuto preparare questa torta senza l'IA? (Se la risposta è "No", l'IA era essenziale).
   • Impegno: L'autore ha lavorato sodo, o l'IA ha fatto quasi tutto?
   • Intenzionalità: L'autore ha dato all'IA una ricetta rigorosa e ha guidato la nave, o ha semplicemente detto "Fammi una torta!" e ha lasciato che l'IA prendesse il volante?
   • Direttività: L'autore ha copiato direttamente l'output dell'IA sul piatto, o lo ha usato solo come riferimento?

---

I Risultati Sorprendenti

Ecco cosa ha scoperto lo studio, tradotto in linguaggio semplice:

1. Il Divario "Auto-Servente"

Il Risultato: I lettori sono molto più propensi a dire: "Sì, devi dircelo!" rispetto agli autori.
L'Analogia: Immagina un mago. Il pubblico (i lettori) vuole sapere se un trucco è reale o se è una macchina a fare il lavoro. Ma il mago (l'autore) potrebbe pensare: "Ho ancora eseguito lo spettacolo; la macchina era solo una comparsa". Lo studio suggerisce che gli autori spesso sentono meno la necessità di dichiarare l'uso dell'IA perché si sentono ancora i "proprietari" dell'opera, anche se hanno utilizzato l'IA.

2. Il Mito dello "Scopo"

Il Risultato: Sorprendentemente, non importava molto perché il testo era stato scritto.
L'Analogia: Potresti pensare che le persone si preoccupino di più dell'onestà quando il testo è per una candidatura lavorativa seria (Valutazione) rispetto a un post divertente su un blog (Intrattenimento). Ma lo studio ha scoperto che il bisogno delle persone di sapere dell'uso dell'IA era all'incirca lo stesso, che fosse per la scuola, per il lavoro o per divertimento. Le "enjeu" non cambiavano la necessità di dichiarare l'uso.

3. Il "Come" Conta di Più (Fattori Procedurali)

Lo studio ha scoperto che come è stata utilizzata l'IA cambiava tutto. La dichiarazione era considerata più necessaria quando:

• L'IA era Insostituibile: Se l'autore non avrebbe potuto farlo da solo senza l'IA, le persone sentivano che era cruciale ammetterlo.
• L'IA Prendeva il Volante (Bassa Intenzionalità): Se l'autore scriveva semplicemente "Scrivi una storia" e lasciava che l'IA decidesse la trama, i lettori sentivano un forte bisogno di saperlo.
• L'Output dell'IA era Usato Direttamente: Se l'autore incollava il testo dell'IA con pochissime modifiche, la dichiarazione era considerata necessaria.

La Svolta sull'Impegno:
I ricercatori pensavano che se un autore avesse messo molto poco impegno (lasciando che l'IA facesse il 90% del lavoro), le persone avrebbero richiesto la dichiarazione. Si sbagliavano. La quantità di impegno messa dall'autore non cambiava significativamente se le persone ritenevano necessaria la dichiarazione. Non si trattava di quanto fosse stanco l'autore; si trattava di quanto l'IA avesse effettivamente fatto.

4. Il Paradosso del "Guidare"

Il Risultato: Questa è la parte più confusa.

• I Lettori pensano: "Se hai lasciato che l'IA guidasse l'auto (Bassa Intenzionalità), devi dircelo!"
• Gli Autori pensano: "Se ho lasciato che l'IA guidasse l'auto, sento meno bisogno di dirlo a qualcuno."
• L'Analogia: È come un conducente che dice: "Non ho davvero guidato; è stato il GPS a guidare". Il conducente si sente meno responsabile, ma i passeggeri (i lettori) sentono di dover sapere che l'auto era in modalità pilota automatico.

---

Cosa Significa Questo per il Futuro?

Il documento suggerisce che, poiché autori e lettori vedono le cose in modo diverso, non possiamo affidarci solo agli autori per "fare la cosa giusta" da soli.

La Soluzione: Abbiamo bisogno di strumenti migliori.
Invece di chiedere semplicemente agli autori di "dichiarare l'uso dell'IA", le piattaforme dovrebbero aiutarli a spiegare come l'hanno utilizzata.

• Non dire solo: "Ho usato l'IA."
• Dici invece: "Ho usato l'IA per generare la scaletta, ma ho scritto le frasi io stesso", oppure "Ho lasciato che l'IA scrivesse tutta la bozza, e l'ho solo rivista".

Il documento suggerisce di progettare strumenti che redigano automaticamente queste spiegazioni per gli autori, rendendo più facile per loro essere trasparenti in un modo che corrisponda a ciò che i lettori apprezzano davvero (come il fatto che l'IA abbia fatto il lavoro pesante o abbia solo aiutato con alcune parole).

Riepilogo

• I Lettori vogliono sapere di più sull'uso dell'IA rispetto agli Autori.
• Perché è stato scritto il testo (scuola vs. divertimento) non cambia la necessità di dichiarare l'uso.
• Come è stata utilizzata l'IA è ciò che conta di più: se l'IA ha fatto il lavoro pesante, ha preso l'iniziativa o è stata copiata direttamente, le persone sentono che la dichiarazione è necessaria.
• L'Impegno non conta tanto quanto pensavamo.
• Gli Autori spesso sentono meno la necessità di dichiarare quando lasciano che l'IA prenda l'iniziativa, anche se i Lettori sentono il contrario.

Sommario tecnico

1. Enunciato del Problema

La rapida integrazione dell'Intelligenza Artificiale (AI) nei processi di scrittura ha creato un "divario di paternità", in cui il testo generato o assistito dall'AI è spesso indistinguibile dalla scrittura umana. Questa ambiguità mette in discussione la capacità dei lettori di contestualizzare i contenuti, valutarne l'affidabilità e giudicare la responsabilità. Sebbene le normative esistenti spesso impongano la divulgazione, esiste un disallineamento tra le politiche calate dall'alto e le percezioni "dal basso" dei veri portatori di interesse: i lettori (consumatori di contenuti) e gli scrittori (creatori di contenuti).

Il problema di ricerca centrale è comprendere i fattori specifici che influenzano la necessità percepita della divulgazione dell'AI. Nello specifico, gli autori indagano come la prospettiva (lettore vs. scrittore), lo scopo del testo (valutazione, apprendimento, intrattenimento) e i fattori procedurali (come l'AI è stata utilizzata) plasmino queste percezioni.

2. Metodologia

Lo studio utilizza un esperimento con vignette (un disegno sperimentale basato su sondaggi che utilizza scenari ipotetici) per manipolare sistematicamente le variabili e misurare le percezioni.

• Partecipanti: $N = 727$ partecipanti reclutati su Prolific (negli USA, di madrelingua inglese, alfabetizzati all'AI).
• Disegno: È stato utilizzato un disegno fattoriale frazionato di Risoluzione IV per gestire la complessità combinatoria delle variabili.
• Variabili Indipendenti:
  1. Prospettiva: Due livelli (Lettore vs. Scrittore).
  2. Scopo: Tre livelli (Valutazione, Apprendimento, Intrattenimento), ciascuno operazionalizzato con due scenari specifici (ad es. domanda di lavoro vs. lettera di presentazione per la Valutazione).
  3. Fattori Procedurali: Quattro dimensioni, ciascuna con livelli Alto/Basso:
     • Sostituibilità: Lo scrittore può produrre un lavoro simile senza AI?
     • Sforzo: Quanto tempo/impegno ha investito lo scrittore?
     • Intenzionalità: Lo scrittore ha guidato l'AI (Alto) o ha lasciato che l'AI prendesse l'iniziativa (Basso)?
     • Direttezza: L'output dell'AI è stato incorporato direttamente (Alto) o utilizzato solo come riferimento (Basso)?
• Procedura: Ai partecipanti è stato assegnato una singola vignetta che descriveva uno scenario di scrittura con combinazioni specifiche dei fattori sopra elencati. È stata loro posta una domanda binaria: "È necessaria la divulgazione dell'AI in questa situazione?" (Sì/No). Hanno inoltre fornito giustificazioni a risposta aperta.
• Analisi:
  • Quantitativa: Modellazione di regressione logistica per prevedere l'esito binario (Necessità: Sì/No), inclusi effetti principali, termini di interazione (Prospettiva $\times$ Fattori Procedurali) e covariate (autoefficacia nella scrittura, alfabetizzazione all'AI, giudizi interni).
  • Qualitativa: Analisi tematica riflessiva delle risposte a risposta aperta per integrare i risultati quantitativi.

3. Contributi Chiave

1. Prospettiva dal Basso: Sposta il focus dai mandati normativi alla "necessità percepita" detenuta dai portatori di interesse diretti (lettori e scrittori), colmando una lacuna nella ricerca sulla trasparenza FAccT.
2. Sintesi dei Fattori Procedurali: Consolida quadri precedenti (ad es. quadro CCC, matrice CoCo) in quattro distinti fattori procedurali operazionalizzabili (Sostituibilità, Sforzo, Intenzionalità, Direttezza) specifici per la scrittura assistita dall'AI.
3. Identificazione del Divario di Prospettiva: Dimostra empiricamente una significativa divergenza tra il modo in cui lettori e scrittori percepiscono la necessità di divulgazione, in particolare riguardo al ruolo della intenzionalità.
4. Linee Guida per la Progettazione: Propone interventi concreti di progettazione per gli strumenti di divulgazione dell'AI, inclusi "impalcature" (modelli di divulgazione automatizzati e granulari) e spinte comportamentali basate su specifici modelli di utilizzo.

4. Risultati Chiave

La regressione logistica e l'analisi qualitativa hanno prodotto i seguenti risultati:

• Effetto della Prospettiva (RQ1):

  • I lettori percepiscono la divulgazione come significativamente più necessaria rispetto agli scrittori (gli scrittori hanno circa l'80% in meno di probabilità di percepire la divulgazione come necessaria).
  • Interpretazione: Gli scrittori potrebbero soffrire di un bias di auto-servizio o vedere l'AI come un'infrastruttura "ambientale", riducendo il loro senso di obbligo a divulgarla.

• Effetto dello Scopo (RQ2):

  • Lo scopo del testo (Valutazione, Apprendimento, Intrattenimento) non ha avuto alcun effetto principale statisticamente significativo sulla necessità percepita di divulgazione.
  • Nota: Sebbene i dati qualitativi suggerissero alcune sfumature specifiche al contesto, il modello quantitativo ha mostrato che come l'AI è stata utilizzata contava più del perché il testo è stato scritto.

• Fattori Procedurali (RQ3):

  • Sostituibilità: La divulgazione è vista come più necessaria quando il contributo dell'AI è insostituibile (Bassa Sostituibilità).
  • Sforzo: Sorprendentemente, la quantità di sforzo messa dallo scrittore non ha avuto alcun effetto significativo sulla necessità percepita. Questo contraddice l'"euristica dello sforzo" (l'idea che meno sforzo implichi meno proprietà).
  • Intenzionalità: La divulgazione è vista come più necessaria quando lo scrittore non guida intenzionalmente l'AI (Bassa Intenzionalità).
  • Direttezza: La divulgazione è vista come più necessaria quando i contenuti dell'AI sono incorporati direttamente con modifiche minime (Alta Direttezza).

• Effetti di Interazione (RQ4):

  • Intenzionalità $\times$ Prospettiva: Questa interazione è stata significativa e controintuitiva.
    • Lettori: Percepiscono la divulgazione come più necessaria quando l'Intenzionalità è Bassa (l'AI prende l'iniziativa).
    • Scrittori: Percepiscono la divulgazione come meno necessaria quando l'Intenzionalità è Bassa.
  • Ciò suggerisce che gli scrittori potrebbero sentirsi meno proprietari (e quindi meno necessitati di divulgare) quando lasciano che l'AI prenda l'iniziativa, mentre i lettori ritengono che questa mancanza di controllo umano renda la divulgazione critica per la fiducia.

• Covariate:

  • Una maggiore Autoefficacia nella Scrittura e Alfabetizzazione all'AI sono correlate a una minore necessità percepita di divulgazione.
  • Un giudizio interno più forte sulla divulgazione (valorizzando la trasparenza) è correlato a una maggiore necessità percepita.

5. Significato e Implicazioni

Lo studio fornisce una base basata sui dati per progettare migliori meccanismi di divulgazione dell'AI:

• Oltre le Etichette Binarie: Le attuali etichette "Generato dall'AI" sono insufficienti. La divulgazione dovrebbe essere granulare, dettagliando la sostituibilità, l'intenzionalità e la direttezza dell'uso dell'AI, poiché questi sono i fattori che i lettori apprezzano realmente.
• Impalcature per la Divulgazione: Le piattaforme dovrebbero offrire strumenti che generano automaticamente bozze di divulgazione basate sui registri di interazione (ad es. "Hai usato l'AI per generare l'80% del testo con editing minimo"). Crucialmente, questi strumenti dovrebbero sminuire lo sforzo (poiché non è stato rilevante per i partecipanti) e evidenziare l'intenzionalità (poiché questo è un punto di divergenza maggiore tra lettori e scrittori).
• Spinte Comportamentali: Per allineare il comportamento degli scrittori alle aspettative dei lettori, i sistemi dovrebbero implementare spinte mirate quando viene rilevata una Bassa Intenzionalità (cioè quando lo scrittore lascia che l'AI prenda l'iniziativa), ricordando loro che questo scenario specifico è altamente valorizzato per la trasparenza dai lettori.
• Riforma delle Politiche: Le normative dovrebbero allontanarsi da regole rigide "tutto o niente" verso linee guida consapevoli del contesto che riflettono i fattori procedurali sfumati identificati nello studio.

In conclusione, il paper sostiene che una trasparenza efficace dell'AI richiede di andare oltre la semplice rilevazione o l'etichettatura obbligatoria verso un sistema che comprenda la natura della collaborazione uomo-AI e colmi il divario percettivo tra coloro che creano i contenuti e coloro che li consumano.