Beyond the Feed: How Generative AI is Reshaping Children's Social Media Ecologies in the Global South
Questo articolo propone un framework di "doppia mediazione" per analizzare come l'IA generativa e le logiche dei dati delle piattaforme rimodellino congiuntamente le esperienze sui social media dei bambini nel Sud del mondo, utilizzando l'Egitto come caso di studio per sostenere che le attuali politiche di restrizione dell'età non riescono a affrontare i complessi pregiudizi culturali e linguistici incorporati in questi sistemi di IA.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Per decenni, lo studio di come i bambini crescano online si è concentrato sullo schermo come una finestra. I ricercatori hanno compreso da tempo che le piattaforme di social media non sono sfondi neutrali; sono gatekeeper attivi che decidono cosa un bambino vede, cosa è incoraggiato a fare e come viene tracciato. Questo processo, spesso chiamato datafication (datificazione), trasforma ogni clic e scorrimento in un record che le aziende usano per vendere l'attenzione e plasmare il comportamento. La preoccupazione è sempre stata che questi ambienti digitali siano progettati per tenere i bambini incollati allo schermo, spesso a scapito della loro privacy o del loro benessere. Ma il panorama è cambiato sotto i nostri piedi. Gli strumenti che i bambini usano per parlare con gli amici e condividere foto non si limitano più a raccogliere dati; ora stanno generando nuove realtà. L'intelligenza artificiale è passata dall'essere uno strumento separato che un bambino potrebbe aprire per l'aiuto con i compiti a un livello invisibile intrecciato direttamente nelle app che usano ogni giorno. Questi sistemi possono scrivere didascalie, simulare conversazioni e persino creare interi personaggi che rispondono. La domanda per i ricercatori non è più solo come la piattaforma selezioni i contenuti, ma come l'intelligenza artificiale al suo interno crei nuovi contenuti, e cosa accada quando queste due forze lavorano insieme sulla mente in via di sviluppo di un bambino.
Nermeen Singer, Fathey El Sharkawy e Amira Ismail propongono un nuovo modo per comprendere questa situazione complessa, un concetto che chiamano "doppia mediazione". Essi sostengono che non possiamo più guardare ai social media e all'intelligenza artificiale come questioni separate. Invece, l'esperienza di un bambino è ora plasmata due volte. Il primo livello è quello familiare: l'algoritmo della piattaforma che seleziona e ordina i contenuti in base a ciò che mantiene l'utente coinvolto. Il secondo livello è quello nuovo: l'intelligenza artificiale generativa che si siede sopra tale selezione, creando nuovi testi, immagini e conversazioni basandosi sul proprio addestramento. I ricercatori suggeriscono che questi due livelli non si limitano ad aggiungersi; essi si compongono. Il sistema di intelligenza artificiale non si limita a rispondere al bambino; risponde con le proprie assunzioni incorporate su cultura, linguaggio e identità, che vengono poi reimmesse nell'algoritmo della piattaforma, restringendo ulteriormente ciò che il bambino vede ed esperisce.
Per testare questa idea, gli autori si concentrano sull'Egitto e sulla più ampia regione araba, un luogo dove l'impatto di questo doppio livello è distinto e ampiamente trascurato. Mentre la maggior parte della ricerca su bambini e tecnologia proviene dagli Stati Uniti e dall'Europa, gli autori sottolineano che i sistemi di intelligenza artificiale che alimentano queste app globali sono stati addestrati principalmente su dati inglesi e norme culturali occidentali. In Egitto, dove l'uso di internet riguarda quasi l'82 percento della popolazione e dove i social media sono un modo di vita predefinito per milioni di giovani, questo disallineamento crea un problema specifico. Quando un adolescente egiziano usa un'app, il primo livello di mediazione lo spinge verso contenuti che sono popolari a livello globale e spesso codificati in chiave occidentale. Il secondo livello, l'intelligenza artificiale, genera quindi risposte o suggerimenti che sono predefiniti su riferimenti culturali, cibi e norme sociali occidentali, fallendo spesso nel comprendere o rispettare le sfumature del dialetto arabo egiziano, delle pratiche religiose locali o delle strutture familiari.
I ricercatori evidenziano che questo non è un minore glitch tecnico, ma un bias sistematico. Gli studi dimostrano che quando i modelli di intelligenza artificiale vengono interrogati per generare contenuti in un arabo fluente e naturale, spesso ricorrono a entità e idee occidentali, anche quando l'utente parla nel proprio dialetto locale. Per un bambino in Egitto, questo significa che gli strumenti progettati per aiutarlo a esprimere se stesso — come un compagno chatbot o un generatore di didascalie — possono sottilmente indirizzare la sua identità verso un registro culturale che non è il proprio. Ciò è particolarmente significativo perché la mediazione familiare e comunitaria in Egitto spesso si basa su una responsabilità collettiva e su quadri religiosi che differiscono dai modelli individualistici e terapeutici integrati in molti di questi compagni IA. Un bambino potrebbe rivolgersi a un'IA per una conversazione privata, aspettandosi un orecchio non giudicante, solo per trovarsi di fronte a un sistema che non comprende il suo contesto culturale o non riconosce l'importanza della sua rete familiare.
Gli autori esaminano anche come le leggi attuali cerchino di proteggere i bambini, notando che tali regolamentazioni mancano spesso della seconda metà del problema. Esaminano la recente legge australiana, che vieta ai minori di sedici anni l'accesso ai social media, e proposte simili in Gran Bretagna e Francia. Mentre queste leggi si concentrano sulla verifica dell'età e sul controllo dell'accesso, i ricercatori sostengono che esse affrontino solo il primo livello di mediazione. Anche se una legge riuscisse a tenere un bambino lontano da una piattaforma, non farebbe nulla per cambiare i sistemi di intelligenza artificiale che plasmeranno l'esperienza del adolescente che compie sedici anni e ottiene l'accesso. La legge può impedire a un bambino di accedere, ma non garantisce che l'IA compagna che lo aspetta sia culturalmente responsiva o che il contenuto che genera rispetti la sua identità locale. Gli autori suggeriscono che il dibattito legislativo emergente in Egitto offre l'opportunità di fare meglio, proponendo che le regolamentazioni richiedano alle piattaforme di dichiarare quando i bambini interagiscono con l'intelligenza artificiale e di testare i loro sistemi per il bias culturale nelle lingue locali, piuttosto che affidarsi solo all'inglese o all'arabo standard.
In definitiva, il documento funge da appello all'azione per ricercatori e decisori politici affinché smettano di trattare i social media e l'intelligenza artificiale come campi separati. Gli autori suggeriscono che abbiamo bisogno di nuovi studi che guardino direttamente a come i bambini del Sud del mondo navigano attraverso questi doppi livelli di mediazione. Sostengono che senza comprendere come i pregiudizi culturali dell'intelligenza artificiale interagiscano con la logica guidata dai dati delle piattaforme, non potremo comprendere appieno le infanzie digitali di milioni di giovani. L'obiettivo non è dire che l'intelligenza artificiale sia intrinsecamente dannosa, ma riconoscere che il suo attuale design crea un'esperienza specifica e diseguale per i bambini le cui lingue e culture non sono il focus primario dei creatori della tecnologia. Portando insieme queste due letteratura, i ricercatori sperano di costruire un quadro più chiaro del mondo digitale in cui crescono i bambini, un mondo dove la mano invisibile dell'intelligenza artificiale sia finalmente vista per ciò che è: un potente, secondo livello di mediazione che plasma l'identità, la cultura e la connessione in modi che stiamo solo iniziando a comprendere.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.