⚡ electrical engineering

Sexualised synthetic personas encode and amplify gendered power asymmetries through voice

Basandosi su una prospettiva di HCI femminista, questo studio dimostra che i sistemi di voce AI commerciali rinforzano le asimmetrie di potere di genere codificando le voci con connotazioni femminili con tratti sessualizzati e sottomessi, mentre associano le voci con connotazioni maschili alla dominanza e ad attributi positivi.

Autori originali: Alice Ross, Ariadna Sanchez, Elin Kanhov, Catherine Lai, Eva Szekely

Pubblicato 2026-06-23

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Alice Ross, Ariadna Sanchez, Elin Kanhov, Catherine Lai, Eva Szekely

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina un negozio di giocattoli digitale dove puoi comprare una "voce" invece di un orsetto di peluche. Puoi scegliere una voce che suoni come un "Gentiluomo del Sud" o una "Tentatrice Parigina". Puoi persino dire alla voce di ridacchiare, sospirare o sembrare "seducente". Questo è ciò che offre un'azienda popolare chiamata ElevenLabs.

Questo articolo di ricerca è come un gruppo di detective (i ricercatori) che entra in quel negozio, compra un sacco di queste voci e poi chiede a un gruppo diversificato di persone comuni: "Cosa vi fanno sentire davvero queste voci?"

Ecco cosa hanno scoperto, suddiviso in modo semplice:

1. L'allestimento: Il "Menu delle Voci"

I ricercatori hanno esaminato le voci più popolari sul sito. Hanno notato che il menu era diviso in due sezioni principali:

La sezione "Seria": Voci etichettate come "Educativa", "Annunciatore di Notizie" o "Esperto di Tecnologia".
La sezione "Sexy": Voci etichettate come "Flirty" (Seducente), "Tentatrice" o "Sensuale".

Hanno scelto le voci maschili e femminili più popolari da entrambe le sezioni. Poi, hanno fatto un cambio astuto: hanno preso le voci "sexy" e le hanno fatte leggere un testo noioso e neutro (come un passaggio scientifico). Hanno anche preso le voci "serie" e le hanno fatte leggere lo stesso testo noioso. Questo era come testare se una voce "sexy" suona sexy anche quando parla di matematica, o se una voce "seria" suona seria anche quando le parole sono neutre.

2. L'esperimento: Il "Gioco delle Parole"

Hanno riprodotto questi clip audio per circa 120 persone negli Stati Uniti e in Canada. Gli ascoltatori avevano una lunga lista di 36 parole (come affascinante, inquietante, dominante, timida, seducente) e dovevano sceglierne le tre che meglio descrivevano ciò che avevano sentito.

3. La Grande Scoperta: Lo "Script di Genere"

I risultati hanno mostrato che le voci non erano solo diverse; stavano seguendo uno script molto vecchio e molto rigido.

Le Voci Maschili (Lo Script del "Capo"):
Indipendentemente dal fatto che leggessero uno script sexy o un noioso passaggio scientifico, le voci maschili venivano descritte principalmente come dominanti, sicure di sé e positive. Anche quando cercavano di sembrare "seducenti", le persone sentivano comunque un uomo al comando.
- Analogia: Pensa a una voce maschile come a una quercia robusta. Che sia in una tempesta o in una giornata di sole, trasmette comunque un senso di solidità, forza e affidabilità.
Le Voche Femminili (Lo Script della "Sottomissione"):
Le voci femminili erano quasi sempre descritte come sottomesse, timide e altamente sessualizzate. Anche quando leggevano il noioso testo scientifico, le persone le percepivano ancora come "seducenti" o "sensuali".
- Analogia: Pensa a una voce femminile come a una paperella di gomma. Non importa in cosa la metti (in una vasca da bagno o in un lavandino della cucina), ci si aspetta comunque che faccia "quack" e che galleggi, ed sia "carina". I ricercatori hanno scoperto che alle voci femminili era stato aggiunto del "fronzolo" extra — come sospiri affannosi e risatine — che le faceva sembrare sottomesse, indipendentemente da ciò che stavano effettivamente dicendo.

4. Il "Contenuto" vs Il "Tono"

I ricercatori volevano sapere: È il contenuto che fa sembrare la voce sexy, o è il suono stesso?

Per gli Uomini: Le parole contavano molto. Se una voce maschile leggeva uno script sexy, le persone lo definivano "seducente". Se leggeva un noioso passaggio scientifico, lo definivano "serio". Le parole cambiavano la percezione.
Per le Donne: Le parole contavano pochissimo. Che una voce femminile leggesse uno script sexy o un noioso passaggio scientifico, le persone la definivano ancora "seducente", "intima" o "sensuale".
- Il Punto Chiave: La "sessualità" era incorporata nel tono e nel respiro della voce, non solo nelle parole. La voce femminile era "programmata" per suonare come una fantasia, anche quando stava solo leggendo un libro di testo.

5. Cosa hanno detto gli Ascoltatori (Il "Parlar Franco")

I ricercatori hanno anche chiesto alle persone di scrivere i loro pensieri onesti.

Sulle Voci Maschili: Alcune persone pensavano che le voci maschili "sexy" suonassero "minacciose" o "predatorie", mentre altri pensavano che quelle "serie" fossero solo "noiose" o "piatte".
Sulle Voci Femminili: Molte persone hanno percepito le voci femminili "sexy" come imbarazzanti (cringe). Hanno usato parole come "forzate", "che ci prova troppo" e "fastidiose". Un ascoltatore ha detto che sembrava "l'idea che un adolescente ha di ciò che suona sexy".
- La Metafora: Era come guardare un cattivo attore che cerca di interpretare una seduttrice. Sembrava una caricatura — una versione esagerata e falsa della femminilità che non risultava reale o umana.

6. La Conclusione: Perché Questo Importa

L'articolo sostiene che queste voci AI sono come manichini digitali. Non ci mostrano la realtà piena, disordinata e diversificata di come parlano realmente uomini e donne. Inveve, stanno rinforzando vecchi stereotipi:

Gli uomini sono i capi (dominanti, positivi).
Le donne sono gli oggetti (sottomesse, sessualizzate).

I ricercatori avvertono che, sebbene queste voci AI siano commercializzate come "strumenti creativi" per creare videogiochi o film, in realtà stanno copiando e amplificando pregiudizi dannosi. Stanno prendendo lo "sguardo maschile" (il male gaze, ovvero come gli uomini immaginano che le donne debbano suonare) e trasformandolo in un prodotto che chiunque può acquistare.

In breve: L'articolo ha scoperto che, sebbene la tecnologia delle voci AI potrebbe essere uno strumento di libertà e diversità, al momento sta agendo principalmente come uno specchio che riflette solo idee di genere obsolete e stereotipate, facendo suonare le donne come fantasie sottomesse e gli uomini come capi dominanti.

Sintesi Tecnica: Le Personaggi Sintetici Sessualizzati Codificano e Amplificano le Asimmetrie di Potere di Genere attraverso la Voce

Problema
Sebbene le tecnologie digitali offrano potenziali spazi per l'esplorazione dell'identità e l'empowerment sessuale, il discorso online rimane pervaso dalla mascolinità tossica, dall'eteronormatività e dal molestia verso le donne e gli individui LGBTQ+. Contemporaneamente, l'emergere di piattaforme commerciali di Text-to-Speech (TTS) e "Voice AI" ha introdotto un nuovo ambito in cui voci umane vengono generate, personalizzate e vendute come prodotti. A differenza dei tradizionali assistenti vocali progettati per ridurre l'attrito nei compiti funzionali, queste piattaforme incoraggiano gli utenti a "giocare al Pigmalione", sollecitando e personalizzando le voci con caratteristiche paralinguistiche (ad esempio, risatine, sospiri) per adattarle a specifiche persone, spesso sessualizzate.

Il problema centrale affrontato è se questi sistemi commerciali, nonostante offrano una gamma apparentemente diversificata di prompt (inclusi termini come "flirty", "seductive" e "submissive" per voci codificate sia come maschili che femminili), riproducono e amplificano involontariamente le esistenti asimmetrie di potere di genere. Nello specifico, gli autori indagano se la sintesi di voci "sessualizzate" rinforzi gli stereotipi binari ed eteronormativi, codificando dinamiche di potere diseguali dove le voci femminili sono associate alla sottomissione e le voci maschili alla dominanza.

Metodologia
Lo studio impiega una prospettiva di Feminist HCI per analizzare un esperimento di ascolto coinvolgente un gruppo eterogeneo di ascoltatori anglofoni del Nord America.

Stimoli: I campioni audio sono stati generati utilizzando la "Voice Library" di ElevenLabs. I ricercatori hanno selezionato voci popolari categorizzate sotto aggettivi sessualizzati (ad esempio, "flirt", "temptress") e non sessualizzati (ad esempio, "informative", "presenter"). Per ogni genere (maschile/femminile), è stata selezionata la voce più popolare in ciascuna categoria.
Disegno Sperimentale: È stato utilizzato un disegno fattoriale 2x2 per isolare lo stile vocale dal contenuto linguistico.
- Stile della Voce: Sessualizzato (flirt/temptress) vs. Non sessualizzato (informative/presenter).
- Contenuto del Testo: Script sessualizzati (prompt forniti dalla piattaforma) vs. Testo neutro (estratti dal modificato Rainbow Passage).
- Ciò ha dato origine a 10 distinti persona vocali, ciascuno registrato con entrambi i tipi di testo.
Procedura: I partecipanti (N=120, reclutati tramite Prolific) hanno ascoltato 30 prove randomizzate. Per ogni campione audio, hanno selezionato i tre aggettivi più adatti da una lista bilanciata di 36 parole (categorizzate come positive, negative, dominanti, sottomesse e sessualizzate). Potevano inoltre fornire commenti opzionali in testo libero.
Demografia dei Partecipanti: I partecipanti sono stati categorizzati in quattro gruppi in base all'identità di genere e all'attrazione dichiarata per garantire la rappresentanza di orientamenti non eterosessuali: (1) Donne attratte da donne, (2) Donne attratte solo da uomini, (3) Uomini attratti da uomini, (4) Uomini attratti solo da donne.
Analisi: Lo studio ha utilizzato l'analisi quantitativa tramite modelli di regressione lineare generalizzata a effetti misti (usando lme4 in R) per esaminare la distribuzione degli aggettivi. L'analisi qualitativa è stata eseguita su 280 commenti in testo libero. L'analisi acustica ha incluso il calcolo della frequenza fondamentale (F0) media e del tasso di eloquio.

Risultati Chiave
L'analisi rivela asimmetrie sistematiche nel modo in cui gli ascoltatori percepiscono le voci codificate come maschili o femminili, anche quando il contenuto linguistico è controllato.

Distribuzione degli Aggettivi di Genere:
- Voci codificate come maschili: Erano significativamente più propense a essere descritte con aggettivi dominanti ( $p < .001$ ) e positivi ( $p = 0.0027$ ).
- Voci codificate come femminili: Erano significativamente più propense a essere descritte con termini sottomessi ( $p < .001$ ) e sessualizzati ( $p < .001$ ).
- Gli aggettivi negativi erano distribuiti in modo approssimativamente equo tra i generi.
Impatto di Testo vs. Voce:
- Per le voci maschili, la percezione degli ascoltatori era altamente dipendente dal contenuto. Quando veniva usato un testo sessualizzato, gli aggettivi come "seductive" o "creepy" erano comuni; quando veniva usato un testo neutro, le percezioni passavano a "confident" o "serious".
- Per le voci femminili, la percezione di essere "seductive", "sensual" o "intimate" persisteva indipendentemente dal fatto che il testo fosse sessualizzato o neutro. Ciò suggerisce che le caratteristiche prosodiche e paralinguistiche (ad esempio, l'affaticamento della voce, i sospiri) inerenti alle voci "sessualizzate" codificate come femminili guidano la percezione sessualizzata più del contenuto parlato stesso.
Demografia degli Ascoltatori:
- Il Gruppo 4 (uomini attratti solo da donne) ha mostrato schemi distinti: erano più propensi ad applicare aggettivi sessualizzati alle voci femminili sessualizzate e meno propensi ad applicare aggettivi negativi a esse rispetto agli altri gruppi. Erano anche più propensi a scegliere parole positive per le voci maschili sessualizzate.
Risultati Acustici:
- Le voci maschili sessualizzate avevano una F0 media inferiore (70.08 Hz) rispetto alle voci maschili informative (110.88 Hz).
- Le voci sessualizzate (entrambi i generi) erano parlate a un ritmo più lento (2.4 sillabe/sec) rispetto alle voci informative (3.8 sillabe/sec).
Feedback Qualitativo:
- I commenti sulle voci femminili descrivevano spesso le voci come "annoyante", "forzata" o "che cerca" di essere sexy, con alcuni partecipanti che notavano come sembrassero "fantasie di femminilità scritte da uomini".
- I commenti sulle voci maschili variavano da "insipide" a "predatorie" o "violente", sebbene una parte significativa le criticasse come "monotone".

Contributi Chiave

Evidenza Empirica di Bias: Lo studio fornisce prove quantitative e qualitative che i sistemi commerciali di Voice AI, nonostante offrano una "parità di genere" nelle categorie di prompt, codificano e amplificano stereotipi binari ed eteronormativi.
Disaccoppiamento di Contenuto e Stile: Variando testo e voce indipendentemente, gli autori dimostrano che la sessualizzazione delle voci codificate come femminili è guidata significativamente dalle caratteristiche prosodiche e paralinguistiche, non solo dal contenuto semantico del parlato.
Prospettiva Feminist HCI: Il lavoro applica una lente di Feminist HCI alla TTS, evidenziando come le tecnologie siano modellate e codifichino le relazioni di genere, mostrando specificamente come l'"empowerment sessuale" nelle interfacce di IA spesso degeneri in tropi di sottomissione femminile e dominanza maschile.
Innovazione Metodologica: Lo studio introduce un nuovo test di ascolto che combina la selezione di aggettivi con diverse demografie di partecipanti (inclusi gruppi non eterosessuali) per valutare la percezione della voce sintetica.

Significatività e Rivendicazioni
Gli autori affermano che questi risultati sono significativi perché rivelano che la personalizzazione "creativa" offerta dalle piattaforme di Voice AI spesso rinforza, anziché abilitare una reale diversità, stereotipi sociali datati, cisnormativi ed eteronormativi.

Rinforzo degli Stereotipi: Le persona "sessualizzate" (ad esempio, "La tentatrice parigina") sono identificate come caricature uditive che mancano dell'agency o del controllo presenti nel lavoro sessuale umano, presentando invece uno schema di attrattività vocale cliché ed eteronormativo.
Implicazioni di Mercato: Poiché queste voci sono commercializzate per le industrie creative (giochi, film), rischiano di sostituire gli attori doppiatori umani pur perpetuando ideali di genere ristretti.
Impatto Sociale: Gli autori sostengono che, man mano che l'IA conversazionale diventa normalizzata, queste rappresentazioni potrebbero influenzare i propri stili di parola degli utenti attraverso l'accomodamento linguistico e l'entrainment acustico-prosodico, potenzialmente normalizzando queste asimmetrie di potere nelle interazioni uomo-IA e uomo-uomo.
Modestia dell'Ambito: Il documento limita esplicitamente le proprie rivendicazioni al segmento specifico del mercato esaminato (la Voice Library di ElevenLabs) e riconosce che altri sistemi (ad esempio, Grok di xAI, ChatGPT di OpenAI) presentano problemi simili riguardanti molestie e sfruttamento, suggerendo un problema più ampio a livello di industria. Gli autori non pretendono di aver risolto il problema, ma sottolineano la necessità di esaminare come le voci artificiali vengano adottate e percepite nella società.