Human-GenAI Interaction: What are the Risks of Calling it “Collaboration”?

Nel silenzioso studio di come le persone imparano insieme, un campo noto come apprendimento collaborativo supportato dal computer, i ricercatori si sono concentrati a lungo sulla complessa danza degli incontri tra menti umane. Essi studiano come gli studenti condividano idee, mettano in discussione il pensiero altrui e costruiscano comprensione attraverso la conversazione. Centrale in questo lavoro è l'idea che il vero apprendimento avvenga quando le persone non stanno solo lavorando fianco a fianco, ma sono profondamente connesse in uno spazio mentale condiviso dove influenzano i pensieri e i sentimenti l'un l'altro. Per decenni, gli strumenti utilizzati per sostenere questo processo sono stati ausili semplici: lavagne, documenti condivisi o videochiamate che aiutavano gli esseri umani a connettersi con altri esseri umani. Ma una nuova forza è entrata nella stanza. L'intelligenza artificiale generativa, la tecnologia alla base dei chatbot che possono scrivere saggi, risolvere problemi e sostenere conversazioni, viene ora utilizzata da studenti e insegnanti allo stesso modo. Man mano che questi strumenti diventano più capaci, sorge una domanda naturale: quando un essere umano lavora con questa macchina, sta collaborando? Il termine "collaborazione" suggerisce una partnership tra pari, un incontro di menti dove entrambi i lati contribuiscono a un obiettivo comune. Ma le macchine non hanno menti, sentimenti o intenzioni come le persone. Questo crea una tensione tra il linguaggio che usiamo per descrivere i nostri nuovi strumenti e la realtà di come tali strumenti funzionino effettivamente.

Due ricercatrici, Gaëlle Molinari e Kristine Lund, si sono poste l'obiettivo di esaminare questa tensione. Si sono chieste se definire l'interazione tra una persona e un'intelligenza artificiale come "collaborazione" sia una descrizione accurata o fuorviante. Per rispondere a questo, hanno esaminato la definizione rigorosa di collaborazione utilizzata nel loro campo, che si basa su specifiche qualità umane come la comprensione condivisa, l'influenza reciproca e la connessione emotiva. Hanno poi confrontato queste qualità umane con ciò che l'intelligenza artificiale fa effettivamente. La loro indagine rivela che, sebbene la macchina possa essere incredibilmente utile, la relazione che forma con un essere umano è fondamentalmente diversa da una partnership tra due persone. Le autrici sostengono che usare la parola "collaborazione" per descrivere questa interazione sia rischioso perché sfuma il confine tra umano e macchina, cambiando potenzialmente il modo in cui valorizziamo la connessione umana e il modo in cui gli studenti imparano.

Le ricercatrici hanno iniziato tracciando la storia di come pensiamo agli esseri umani e alle macchine che lavorano insieme. Per molto tempo, gli scienziati hanno immaginato un futuro in cui le capacità umane e informatiche si fondono in un unico, potente sistema. I primi pensatori descrivevano questo come una "simbiosi", dove la macchina estende il potere umano, o come una "co-evoluzione", dove sia l'uomo che la macchina imparano e cambiano insieme nel tempo. Negli ultimi anni, questa idea è stata inquadrata come "intelligenza ibrida", dove umani e intelligenza artificiale sono visti come due parti di un unico sistema, ciascuno con i propri punti di forza. Gli umani offrono creatività, profondità emotiva e giudizio etico, mentre le macchine offrono velocità, riconoscimento di pattern ed elaborazione di vasti dati. L'obiettivo di questo sistema ibrido è produrre risultati che nessuno dei due potrebbe raggiungere da solo. Tuttavia, le autrici sottolineano che, sebbene questo sembri una partnership, la realtà dell'interazione è spesso unilaterale. La macchina non "impara" davvero dall'umano nello stesso modo in cui una persona impara da un'altra; essa adatta il proprio output basandosi su schemi statistici, non su una genuina comprensione degli obiettivi o dei sentimenti del partner umano.

Quando le ricercatrici hanno applicato le regole rigide della collaborazione umana a queste interazioni, sono emersi diversi divari. La vera collaborazione richiede che entrambe le parti comprendano la prospettiva dell'altra e lavorino insieme per costruire significato. In un gruppo umano, se una persona dissente, l'altra avverte quella resistenza e deve adattare il proprio pensiero. Questa frizione è essenziale per l'apprendimento. Con un'intelligenza artificiale, tuttavia, la macchina non ha una prospettiva da sostenere o una mente da cambiare. Può generare una controargomentazione, ma non "dissentire" nel senso umano; semplicemente calcola una risposta che si adatta alla conversazione. Le autrici hanno scoperto che la macchina non può partecipare all' "intersoggettività", uno stato in cui due persone condividono uno spazio mentale e comprendono veramente l'una il mondo interiore dell'altra. La macchina può mimare l'apparenza della comprensione, ma non possiede la coscienza necessaria per conoscere veramente un'altra persona.

Questa distinzione diventa ancora più critica quando si osserva il lato emotivo e sociale dell'apprendimento. La collaborazione umana è profondamente radicata nei nostri corpi e nei nostri sentimenti. Proviamo empatia, ci frustriamo e costruiamo un senso di "noi" attraverso esperienze condivise. Un'intelligenza artificiale può essere programmata per rispondere a segnali emotivi, magari offrendo una parola di conforto quando un utente sembra triste. Ma la macchina non prova tristezza essa stessa. Non può essere colpita dall'umano nel modo in cui un essere umano è colpito da un altro. Le autrici descrivono questo come una profonda asimmetria: l'umano può provare una connessione, ma la macchina rimane uno strumento che simula tale connessione senza esperirla. Ciò crea il rischio che gli utenti, specialmente gli studenti, possano proiettare i propri bisogni emotivi sulla macchina, credendo di avere una relazione reciproca dove non esiste nulla.

Le conseguenze del chiamare questa interazione "collaborazione" sono significative per l'istruzione. Se gli studenti credono di lavorare con un partner, potrebbero iniziare a fidarsi troppo della macchina, affidando a essa il proprio pensiero e il proprio processo decisionale. Questo è noto come "offloading cognitivo", dove una persona si affida a uno strumento esterno per svolgere il lavoro mentale al posto suo. Sebbene questo possa rendere i compiti più facili, le autrici avvertono che può portare alla "resa cognitiva", in cui lo studente smette di monitorare il proprio apprendimento e accetta semplicemente ciò che la macchina produce. La ricerca suggerisce che quando gli studenti si affidano troppo a questi strumenti, le loro capacità di pensiero critico possono indebolirsi e potrebbero ottenere risultati peggiori nei test che richiedono una comprensione profonda. La macchina potrebbe aiutarli a finire i compiti più velocemente, ma potrebbe non aiutarli a imparare la materia.

Inoltre, le autrici sostengono che trattare la macchina come un partner cambi il modo in cui vediamo le relazioni umane. Se ci abituiamo a un'intelligenza artificiale che è sempre d'accordo, sempre disponibile e che non ci mette mai davvero in discussione, potremmo iniziare ad aspettarci lo stesso dai nostri amici e insegnanti umani. Potremmo iniziare a dare valore all'interazione fluida e priva di attriti con una macchina rispetto al processo disordinato, difficile, ma in definitiva più gratificante, di lavorare con un altro essere umano. La macchina può essere uno strumento potente, ma chiamarla "collaboratore" occulta il fatto che sia uno strumento. Essa manca dell'agenzia, della responsabilità e della capacità di una genuina comprensione reciproca che definiscono la partnership umana.

Le ricercatrici concludono che dobbiamo fare attenzione con il nostro linguaggio. Usare la parola "collaborazione" per descrivere l'interazione tra umano e GenAI non è solo un errore semantico; è un cambiamento concettuale che potrebbe rimodellare le nostre pratiche educative e le nostre aspettative sociali. Insistendo sulla distinzione tra collaborazione umana e interazione uomo-macchina, proteggiamo il valore unico della connessione umana. Assicuriamo che gli studenti continuino a sviluppare le proprie menti attraverso il processo impegnativo, reciproco e profondamente umano di lavorare con gli altri, piuttosto che esternalizzare il proprio pensiero a una macchina che solo finge di essere un partner. La macchina è un'invenzione straordinaria, ma non è un pari, e riconoscere questa differenza è essenziale per il futuro dell'apprendimento.