Plurification in/of language technology -- The integration of culture in next-generation AI
Dieses Paper argumentiert, dass das Erreichen echter kultureller Ausrichtung in der nächsten Generation der KI ein Überschreiten der bloßen Datendiversifizierung erfordert, um einen reflexiven, pluralen soziotechnischen Ansatz zu übernehmen, der diverse Epistemologien integriert und tiefere Fragen von Macht und Governance über alle Ebenen des Designs von Sprachtechnologie hinweg adressiert.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, einem Roboter das Sprechen und das Verstehen von Menschen beizubringen. Das Papier argumentiert, dass es nicht ausreicht, dem Roboter einfach mehr Bücher, mehr Websites oder mehr Beispiele verschiedener Sprachen zuzuführen. Wenn Sie einfach nur mehr „andere“ Kulturen in den Mix mischen, ohne die Art und Weise zu ändern, wie der Roboter denkt, wird er die Welt immer noch missverstehen.
Die Autoren, Gertraud Koch und Fausto Giunchiglia, schlagen vor, dass wir das gesamte „Betriebssystem“ des Roboters ändern müssen, um Pluralität zu respektieren – das heißt, viele verschiedene Arten des Wissens und des Seins zuzulassen, anstatt alles in eine einzige, dominante Box zu pressen.
Hier ist eine Aufschlüsselung ihres Arguments unter Verwendung einfacher Analogien:
Das Kernproblem: Die „Einheitsgröße“-Falle
Derzeit sind die meisten KI-Sprachmodelle wie eine riesige, einspurige Autobahn. Alle werden gezwungen, in dieselbe Richtung zu fahren, mit derselben Geschwindigkeit, unter denselben Regeln.
- Das Problem: Wenn man versucht, ein Auto aus einem anderen Land auf diese Autobahn zu führen, mögen die Schilder vertraut aussehen, aber die Verkehrsregeln (die Kultur) sind anders. Die KI könnte eine höfliche Begrüßung wörtlich übersetzen, aber die Tatsache übersehen, dass es in dieser Kultur tatsächlich unhöflich ist, sie auf diese Weise zu sagen.
- Die Behauptung des Papiers: Man kann das nicht beheben, indem man einfach nur mehr „Spuren“ für verschiedene Kulturen hinzufügt. Man muss das gesamte Straßensystem neu gestalten, damit viele verschiedene Arten von Verkehr natürlich fließen können.
Die Lösung: Ein fünfschichtiges „Haus“ der Technologie
Um dies zu beheben, schlagen die Autoren vor, Sprachestechnologie nicht nur als Code zu betrachten, sondern als ein fünfstöckiges Haus. Man kann nicht einfach nur die Haustür (den Output) neu streichen und es dann als „kultur-bewusst“ bezeichnen. Man muss jedes Stockwerk überprüfen.
1. Das Fundament (Die Kerntechnologie)
- Die Analogie: Stellen Sie sich vor, das Fundament ist nur aus englischen Ziegeln gebaut.
- Die Lösung: Die Autoren schlagen die Verwendung eines „Universellen Wissenskerns“ vor. Denken Sie an ein neutrales Übersetzungshub (wie einen universellen Adapterstecker). Anstatt jede Sprache dazu zu zwingen, zuerst ins Englische zu übersetzen, verbindet dieses Hub alle Sprachen direkt über gemeinsame Konzepte. Es ermöglicht einem Swahili-Wort, sich direkt mit einem japanischen Wort zu verbinden, ohne vorher zu Englisch werden zu müssen.
2. Die Bibliothek (Daten und Wissen)
- Die Analogie: Die KI lernt aus einer Bibliothek. Derzeit sind 90 % der Bücher von einigen wenigen wohlhabenden Menschen geschrieben, und die Geschichten von Minderheiten fehlen oder sind von Außenstehenden geschrieben worden.
- Die Lösung: Wir müssen ändern, wer die Bücher schreibt und wie sie katalogisiert werden. Es geht nicht nur darum, mehr Bücher hinzuzufügen; es geht darum, anzuerkennen, dass die Bibliothek selbst mit Vorurteilen aufgebaut wurde. Wir müssen dokumentieren, wer gesprochen hat, wo und wann, damit die KI den Kontext der Geschichte kennt und nicht nur die Wörter.
3. Das Regelwerk (Normen, Gesetze und Ethik)
- Die Analogie: Jede Nachbarschaft hat ihre eigenen ungeschriebenen Regeln darüber, wie man sich verhält. Ein „globales Regelwerk“ ignoriert oft lokale Bräuche.
- Die Lösung: Das Papier stellt fest, dass aktuelle Regeln (wie „Verantwortungsbewusste KI“) oft zu vage oder bloße Marketing-Slogans sind. Wir brauchen Regelwerke, die lokale Gesetze und Gemeinschaftswerte respektieren, anstatt nur einem unternehmerischen Profitplan zu folgen. Es geht darum, sicherzustellen, dass die KI den Regeln der lokalen „Nachbarschaftswache“ folgt und nicht nur dem Hauptpolizeicode der Stadt.
4. Die Wirtschaft (Wer zahlt und wer profitiert)
- Die Analogie: Stellen Sie sich eine Fabrik vor, in der Menschen aus einem Dorf die Rohstoffe (ihre Sprachdaten) liefern, aber die Fabrikbesitzer in einer Großstadt den gesamten Gewinn behalten und alle Entscheidungen treffen. Dies nennt man „Extraktivismus“.
- Die Lösung: Das Papier argumentiert, dass wir eine fairere Wirtschaft brauchen. Die Menschen, die die Sprachdaten bereitstellen, sollten Miteigentümer sein, nicht nur unbezahlte Arbeitskräfte. Wenn eine Gemeinschaft hilft, die KI aufzubauen, sollte sie auch einen Anteil am Nutzen erhalten und mitbestimmen können, wie diese genutzt wird.
5. Das Wohnzimmer (Kontext der Nutzung)
- Die Analie: Ein Werkzeug mag in einem Labor perfekt funktionieren, aber im echten Wohnzimmer versagen. Zum Beispiel könnte ein Roboter etwas sagen, das grammatikalisch korrekt ist, aber in einer bestimmten Gemeinschaft sozial beleidigend wirkt.
- Die Lösung: Wir können die KI nicht nur an einem Computerbildschirm testen. Wir müssen sie im „Wohnzimmer“ der tatsächlichen Gemeinschaft testen. Ergibt es für sie Sinn? Respektiert es ihre Grenzen? Die Mitglieder der Gemeinschaft selbst müssen die Richter darüber sein, ob die KI „gut“ ist, nicht nur die Ingenieure.
Die wichtigste Erkenntnis
Das Papier kommt zu dem Schluss, dass „Kultur“ kein Schalter ist, den man umlegt, oder eine Variable, die man einer mathematischen Gleichung hinzufügen kann. Es ist etwas Lebendiges, Atmendes, das sich im Laufe der Zeit verändert und von Person zu Person variiert.
Um KI wirklich kulturell zu machen, müssen wir aufhören zu versuchen, die gesamte menschliche Vielfalt in ein einziges Standardmodell zu pressen. Stattdessen müssen wir Systeme bauen, die flexibel genug sind, um viele verschiedene Welten gleichzeitig zu beherbergen. Es geht nicht darum, die KI im traditionellen Sinne „schlauer“ zu machen; es geht darum, sie demütig genug zu machen, um auf viele verschiedene Arten des Wissens zu hören.
Kurz gesagt: Fügen Sie nicht einfach nur mehr Sprachen zu derselben alten Maschine hinzu. Bauen Sie eine neue Art von Maschine, die von Grund auf darauf ausgelegt ist, viele verschiedene Stimmen, Regeln und Lebensweisen zu respektieren.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.