Ethics in Online Software Experimentation: A Body of Knowledge and the Cactus Model

Nel mondo digitale, le aziende modificano costantemente i propri software per renderli migliori, più veloci o più coinvolgenti. Potrebbero cambiare il colore di un pulsante, riorganizzare un menu o testare un nuovo modo di mostrare i prezzi. Per vedere se queste modifiche funzionano, spesso eseguono quelle che vengono chiamate esperimenti online. In questi test, persone reali utilizzano il software senza sempre sapere di far parte di uno studio. Un metodo comune è mostrare a un gruppo di utenti la versione A di una funzionalità e a un altro gruppo la versione B, per poi confrontare il loro comportamento. Questo approccio aiuta le imprese a capire cosa vogliono le persone, ma pone anche gli utenti comuni in una situazione in cui le loro scelte e i loro dati vengono manipolati per testare un'ipotesi. Sebbene questa pratica guidi l'innovazione, solleva una domanda silenziosa ma seria: solo perché un'azienda può eseguire questi test, dovrebbe farlo? E se lo fa, come può garantire di non danneggiare le persone che rendono possibile il software?

Due ricercatori brasiliani si sono posti l'obiettivo di rispondere a queste domande esaminando il lato etico di questo testing digitale. Hanno notato che, sebbene molte aziende eseguano questi esperimenti, le regole sul trattamento equo delle persone sono spesso vaghe, disperse o del tutto ignorate. I ricercatori volevano costruire una guida chiara che i team di software potessero effettivamente utilizzare. Non si sono limitati a elencare idee astratte su ciò che è giusto o sbagliato; hanno invece raccolto problemi specifici che si verificano durante questi test e li hanno abbinati a modi pratici per risolverli. Il loro obiettivo era creare un modello (il Modello Cactus) che aiutasse gli esperti a riflettere sulle conseguenze morali dei propri esperimenti prima ancora di lanciare un singolo test.

Per costruire questa guida, i ricercatori hanno esaminato una vasta gamma di informazioni esistenti. Hanno iniziato cercando studi specificamente incentrati sull'etica negli esperimenti continui e online, ma hanno trovato pochissima letteratura sull'argomento. Rendendosi conto che il problema era troppo grande per essere risolto solo con quei pochi articoli, hanno ampliato la ricerca. Hanno esaminato le regole etiche di campi correlati come l'intelligenza artificiale, l'informatica generale e persino la ricerca medica. Hanno letto codici di condotta, linee guida tecniche e articoli accademici per trovare temi comuni. Da questa massiccia collezione di fonti, hanno identificato sedici principi etici chiave, come l'onestà, l'equità e il rispetto per la capacità di una persona di scegliere autonomamente. Hanno poi scavato più a fondo per trovare quarantotto modi specifici in cui questi principi vengono violati nel mondo reale. Ad esempio, una violazione potrebbe consistere nel nascondere il vero scopo di un test all'utente, o nel progettare un sistema che inganni le persone portandole a prendere decisioni dannose per loro stesse.

Una volta elencati i problemi, i ricercatori hanno individuato cinquantatré modi per risolverli. Non li hanno lasciati come un semplice elenco casuale; li hanno collegati tutti tra loro. Hanno mostrato quale soluzione specifica risolve quale specifico problema e come quella soluzione sostenga il principio etico sottostante. Ciò ha creato una mappa strutturata della conoscenza. È uno strumento che dice: "Se vedi questo problema, ecco l'azione specifica che dovresti intraprendere, ed ecco il valore che proteggi". Questa mappa è la base del loro principale contributo, un nuovo modo di pensare a questi test chiamato Modello Cactus.

Il Modello Cactus è progettato per aiutare le persone responsabili di questi esperimenti a prendere decisioni migliori. Il nome deriva dall'idea del cactus, una pianta resistente che sopravvive in condizioni difficili grazie a uno strato esterno protettivo. Allo stesso modo, il modello fornisce una struttura protettiva per il processo decisionale etico nel mondo dello sviluppo software, caratterizzato da ritmi rapidi e alta pressione. Non dice a un team esattamente cosa fare, ma offre un modo passo dopo passo per riflettere sulle conseguenze delle proprie scelte. Il modello è costruito su quattro livelli che lavorano insieme.

Il primo livello consiste nell'esaminare attentamente l'esperimento per trovare potenziali problemi. Il team si chiede: "Cosa potrebbe andare storto?". Utilizzano la mappa dei problemi etici per controllare il proprio design. Potrebbero chiedersi se il test sia trasparente, se tratti tutti gli utenti equamente o se rispetti la libertà dell'utente di dire di no. Valutano quanto sia probabile che si verifichi un problema e quante persone potrebbe colpire. Questo passaggio trasforma le preoccupazioni vaghe in problemi specifici e identificabili.

Il secondo livello riguarda la valutazione delle conseguenze. In questa fase, il team analizza i problemi riscontrati e si chiede: "Perché potremmo volerli ignorare?". Spesso, esiste una ragione commerciale, come il risparmio di tempo o l'aumento dei profitti, che spinge un team a saltare le salvaguardie etiche. Il modello li costringe a scrivere questa tentazione e poi a confrontarla direttamente con il danno che potrebbe causare. Esaminano l'impatto sulla fiducia degli utenti, sulla loro privacy e sul loro benessere. Questo passaggio assicura che la decisione di procedere non sia solo una sensazione istintiva, ma una scelta ragionata in cui i compromessi siano chiari.

Il terzo livello riguarda l'azione. Una volta pesati i rischi e i benefici, il team decide cosa fare. Possono scegliere di eseguire l'esperimento come pianificato, modificare il design per risolvere i problemi o annullarlo del tutto. Se decidono di procedere, il modello li guida nella scelta di soluzioni specifiche dal loro archivio per proteggere gli utenti. Ad esempio, se hanno riscontrato un rischio di trattamento iniquo, potrebbero aggiungere una regola per garantire che tutti i gruppi di utenti siano trattati equamente. Questo passaggio trasforma il ragionamento etico in cambiamenti concreti nel software o nel processo di testing.

L'ultimo livello riguarda l'apprendimento dall'esperienza. Una volta terminato l'esperimento, il team guarda indietro a ciò che è accaduto. Revisionano le scelte fatte e vedono se le loro previsioni erano corrette. Annotano ciò che hanno imparato affinché la prossima volta che eseguiranno un test, possano farlo meglio. Questo passaggio è cruciale perché trasforma un singolo esperimento in una lezione per l'intera organizzazione, aiutandoli a evitare gli stessi errori in futuro.

I ricercatori hanno testato questo modello con un esempio reale riguardante un'app di consegne che voleva testare diverse strategie di prezzo. Hanno mostrato come un team potesse usare il modello per accorgersi che cambiare i prezzi per diversi utenti poteva sembrare ingiusto o confusionario. Seguendo i livelli, il team si è reso conto di dover essere più onesto su come venivano stabiliti i prezzi e di garantire che gli utenti vulnerabili non fossero colpiti in modo iniquo. Hanno poi utilizzato le soluzioni specifiche dalla loro mappa per regolare il piano, aggiungendo spiegazioni chiare per gli utenti e stabilendo limiti su chi potesse far parte del test. Questo esempio ha dimostrato che il modello funziona non solo per i singoli test, ma anche per intere famiglie di test che avvengono contemporaneamente, permettendo ai team di applicare gli stessi standard etici a molti progetti diversi senza dover ricominciare da capo ogni volta.

Lo studio conclude che, sebbene gli strumenti per eseguire questi esperimenti siano potenti, gli strumenti per guidarli eticamente sono stati assenti. I ricercatori hanno fornito un corpo di conoscenze e un modello di pensiero per colmare questa lacuna. Sottolineano che questo non è una soluzione definitiva che risolve ogni dilemma etico per sempre. Al contrario, è un punto di partenza che rende visibile l'invisibile. Offre ai team di software un modo per parlare di etica usando lo stesso linguaggio che usano per il codice e i dati. Rendendo il processo di ragionamento etico chiaro e strutturato, il modello aiuta a garantire che la spinta all'innovazione non avvenga a spese delle persone che utilizzano la tecnologia. Il lavoro suggerisce che, con il giusto quadro di riferimento, le aziende possono continuare a imparare dai propri utenti pur trattandoli con la dignità e il rispetto che meritano.