Beyond the Feed: How Generative AI is Reshaping Children's Social Media Ecologies in the Global South
Dieses Paper schlägt ein „Doppelmediations“-Framework vor, um zu analysieren, wie generative KI und Plattformdaten-Logiken gemeinsam die Social-Media-Erfahrungen von Kindern im Globalen Süden umgestalten, wobei Ägypten als Fallstudie dient, um zu argumentieren, dass aktuelle Altersbeschränkungsrichtlinien daran scheitern, die komplexen kulturellen und linguistischen Biases zu adressieren, die in diesen KI-Systemen eingebettet sind.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Seit Jahrzehnten konzentriert sich die Untersuchung dessen, wie Kinder im Internet aufwachsen, auf den Bildschirm als ein Fenster zur Welt. Forscher haben längst verstanden, dass Social-Media-Plattformen keine neutralen Hintergründe sind; sie sind aktive Gatekeeper, die entscheiden, was ein Kind sieht, was es dazu ermutigt wird zu tun und wie es verfolgt wird. Dieser Prozess, der oft als Datifizierung bezeichnet wird, verwandelt jeden Klick und jedes Scrollen in einen Datensatz, den Unternehmen nutzen, um Aufmerksamkeit zu verkaufen und Verhalten zu formen. Die Sorge galt stets der Tatsache, dass diese digitalen Umgebungen darauf ausgelegt sind, Kinder am Zuschauen zu halten, oft auf Kosten ihrer Privatsphäre oder ihres Wohlbefindens. Doch die Landschaft hat sich unter unseren Füßen verschoben. Die Werkzeuge, mit denen Kinder mit Freunden sprechen und Fotos teilen, sammeln nicht mehr nur Daten; sie generieren nun neue Realitäten. Künstliche Intelligenz hat sich von einem separaten Werkzeug, das ein Kind vielleicht zur Hilfe bei den Hausaufgaben öffnet, zu einer unsichtbaren Ebene entwickelt, die direkt in die Apps eingewoben ist, die sie jeden Tag nutzen. Diese Systeme können Bildunterschriften schreiben, Gespräche simulieren und sogar ganze Charaktere erschaffen, die zurücksprechen. Die Frage für die Forschung ist nicht mehr nur, wie die Plattform Inhalte auswählt, sondern wie die Künstliche Intelligenz innerhalb der Plattform neue Inhalte erschafft, und was passiert, wenn diese beiden Kräfte zusammen auf den sich entwickelnden Geist eines Kindes einwirken.
Nermeen Singer, Fathey El Sharkawy und Amira Ismail schlagen einen neuen Weg vor, um diese komplexe Situation zu verstehen – ein Konzept, das sie „doppelte Mediation“ nennen. Sie argumentieren, dass wir Social Media und Künstliche Intelligenz nicht länger als getrennte Probleme betrachten können. Stattdessen wird die Erfahrung eines Kindes nun zweifach geformt. Die erste Schicht ist die vertraute: der Algorithmus der Plattform, der Inhalte sortiert und auswählt, basierend darauf, was einen Nutzer binden kann. Die zweite Schicht ist die neue: die generative Künstliche Intelligenz, die über dieser Auswahl sitzt und neue Texte, Bilder und Gespräche bas Farbigkeit der eigenen Trainingsdaten erstellt. Die Forscher legen nahe, dass diese beiden Schichten nicht einfach nur addiert werden; sie verstärken sich gegenseitig. Das System der Künstlichen Intelligenz reagiert nicht nur auf das Kind; es reagiert mit seinen eigenen eingebauten Annahmen über Kultur, Sprache und Identität, welche dann zurück in den Algorithmus der Plattform fließen und dadurch dessen Auswahl dessen, was das Kind sieht und erlebt, weiter einschränken.
Um diese Idee zu testen, konzentrieren sich die Autoren auf Ägypten und die breitere arabische Region – ein Ort, an dem die Auswirkungen dieser doppelten Schicht deutlich und weitgehend unbeachtet sind. Während die meiste Forschung über Kinder und Technologie aus den USA und Europa stammt, weisen die Autoren darauf hin, dass die Künstliche Intelligenz, die diese globalen Apps antreibt, primär auf englischen Daten und westlichen kulturellen Normen trainiert wurde. In Ägypten, wo das Internet von fast 8-2 Prozent der Bevölkerung genutzt wird und in dem Social Media für Millionen junger Menschen eine Selbstverständlichkeit des Lebens darstellt, schafft dieses Missverhältnis ein spezifisches Problem. Wenn ein ägyptischer Teenager eine App nutzt, drängt ihn die erste Schicht der Mediation zu Inhalten, die global populär und oft westlich kodiert sind. Die zweite Schicht, die Künstliche Intelligenz, generiert dann Antworten oder Vorschläge, die auf westliche kulturelle Referenzen, Lebensmittel und soziale Normen zurückfallen und oft die Nuancen des ägyptischen arabischen Dialekts, lokaler religiöser Praktiken oder Familienstrukturen nicht verstehen oder respektieren.
Die Forscher heben hervor, dass dies kein geringfügiger technischer Fehler ist, sondern eine systematische Voreingenommenheit. Studien zeigen, dass KI-Modelle, wenn sie gebeten werden, Inhalte in fließendem, natürlichem Arabisch zu generieren, oft auf westliche Entitäten und Ideen zurückgreifen, selbst wenn der Nutzer in seinem lokalen Dialekt spricht. Für ein Kind in Ägypten bedeutet dies, dass die Werkzeuge, die eigentlich dazu dienen sollen, sich auszudrücken – wie etwa ein Chatbot-Gefährte oder ein Generator für Bildunterschriften –, seine Identität subtil in Richtung eines kulturellen Registers lenken können, das nicht das eigene ist. Dies ist besonders bedeutsam, da die familiäre und gemeinschaftliche Vermittlung in Ägypten oft auf kollektiver Verantwortung und religiösen Rahmenbedingungen beruht, die sich von den individualistischen, therapeutischen Modellen unterscheiden, die in vielen dieser KI-Begleiter eingebaut sind. Ein Kind könnte sich an eine KI wenden, um ein privates Gespräch zu führen, in der Erwartung eines nicht wertenden Gegenübers, nur um festzustellen, dass das System seinen kulturellen Kontext missversteht oder die Bedeutung seines Familiennetzwerks nicht erkennt.
Die Autoren untersuchen auch, wie aktuelle Gesetze versuchen, Kinder zu schützen, und stellen fest, dass diese Regulierungen die zweite Hälfte des Problems oft auslassen. Sie betrachten das jüngste Gesetz Australiens, das Kindern unter sechzehn Jahren den Zugang zu Social Media verbietet, sowie ähnliche Vorschläge in Großbritannien und Frankreich. Während diese Gesetze auf Altersverifizierung und Zugangskontrolle fokussieren, argumentieren die Forscher, dass sie nur die erste Schicht der Mediation adressieren. Selbst wenn ein Gesetz es einem Kind erfolgreich verwehrt, auf eine Plattform zuzugreifen, ändert es nichts an den Systemen der Künstlichen Intelligenz, die die Erfahrung der Jugendlichen prägen werden, sobald sie sechzehn Jahre alt werden und Zugang erhalten. Das Gesetz mag ein Kind davon abhalten, sich einzuloggen, aber es stellt nicht sicher, dass der KI-Begleiter, der darauf wartet, kulturell responsiv ist oder dass die generierten Inhalte die lokale Identität respektieren. Die Autoren schlagen vor, dass Ägyptens eigene entstehende legislative Debatte eine Chance bietet, es besser zu machen, indem sie fordert, dass Plattformen offenlegen müssen, wann Kinder mit Künstlicher Intelligenz interagieren, und dass sie ihre Systeme auf kulturelle Voreingenommenheit in lokalen Sprachen testen müssen, statt sich nur auf Englisch oder Standardarabisch zu verlassen.
Letztlich dient das Paper als Aufruf zum Handeln für Forscher und politische Entscheidungsträger, aufzuhören, Social Media und Künstliche Intelligenz als getrennte Felder zu behandeln. Die Autoren schlagen vor, dass wir neue Studien benötigen, die direkt untersuchen, wie Kinder im Globalen Süden diese doppelten Schichten der Mediation navigieren. Sie argumentieren, dass wir ohne ein Verständnis dafür, wie die kulturellen Vorurteile der Künstlichen Intelligenz mit der datengesteuerten Logik der Plattformen interagieren, die digitale Kindheit von Millionen junger Menschen nicht vollständig verstehen können. Das Ziel ist nicht zu sagen, dass Künstliche Intelligenz inhärent schädlich ist, sondern anzuerkennen, dass ihr derzeitiges Design eine spezifische, ungleiche Erfahrung für Kinder schafft, deren Sprachen und Kulturen nicht der primäre Fokus der Technologieentwickler sind. Durch die Zusammenführung dieser beiden Literaturbereiche hoffen die Forscher, ein klareres Bild der digitalen Welt zu zeichnen, in der sie aufwachsen – einer Welt, in der die unsichtbare Hand der Künstlichen Intelligenz endlich als das gesehen wird, was sie ist: eine mächtige, zweite Schicht der Mediation, die Identität, Kultur und Verbindung auf eine Weise formt, die wir gerade erst zu begreifen beginnen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.