Social and Ethical Risks Posed by General-Purpose LLMs for Settling Newcomers in Canada

Stellen Sie sich Kanadas Sektoren für die Integration von Neuankömmlingen als riesiges, geschäftiges Willkommenszentrum für Menschen vor, die aus der ganzen Welt anreisen. Seine Aufgabe besteht darin, Neuankömmlingen zu helfen, Wohnungen, Arbeitsplätze, Schulen und Ärzte zu finden, damit sie ein neues Leben aufbauen können. Im Moment ist dieses Zentrum überlastet. Es kommen mehr Menschen an als je zuvor, und das Personal ist überdehnt.

Da das Personal ausgelastet ist, wenden sich viele Neuankömmlinge (und sogar die Helfer) an einen „magischen Roboter" in ihrer Tasche: Allgemeine KI (wie das beliebte ChatGPT). Sie fragen ihn alles: „Wo finde ich einen Job?" „Welche Impfungen braucht mein Kind?" „Wie eröffne ich ein Bankkonto?"

Dieser Artikel ist ein Warnhinweis auf diesem magischen Roboter. Die Autoren sagen, dass dieser Roboter zwar intelligent ist, aber nicht für dieses spezifische Willkommenszentrum gebaut wurde. Die Nutzung „vom Regal" ohne Überprüfung seiner Arbeit ist so, als würde man einen brillanten, aber ungeschulten Touristen nach Wegbeschreibungen in einer fremden Stadt fragen – sie mögen selbstbewusst klingen, könnten Sie aber leicht den falschen Weg schicken.

Hier ist eine Aufschlüsselung der spezifischen Gefahren, die der Artikel unter Verwendung einfacher Analogien gefunden hat:

1. Der „Job-Bias" (Der Stereotypen-Filter)

Die Behauptung: Als die Autoren die KI baten, Jobs für Neuankömmlinge vorzuschlagen, änderten sich die Antworten je nach Herkunftsland der Person.
Die Analogie: Stellen Sie sich einen Personalmanager vor, der heimlich glaubt, dass Menschen aus Land A nur für Reinigungsarbeiten geeignet sind, während Menschen aus Land B natürliche Führungskräfte sind.

• Was passierte: Als die KI nach einem Neuankömmling aus den Philippinen oder Afghanistan gefragt wurde, schlug sie niedrig bezahlte Jobs wie „Verwaltungsassistent" vor. Als nach jemandem aus Großbritannien oder Deutschland gefragt wurde, schlug sie hochbezahlte Jobs wie „Softwareentwickler" vor.
• Das Risiko: Die KI wirkt wie ein voreingenommener Filter, der Menschen von den Karrieren ablenkt, für die sie tatsächlich qualifiziert sind, nur wegen ihres Geburtsortes.

2. Die „Sprachlücke" (Der ungleiche Übersetzer)

Die Behauptung: Die KI funktioniert hervorragend auf Englisch, hat aber Schwierigkeiten oder versagt völlig in vielen anderen Sprachen.
Die Analogie: Stellen Sie sich einen Arzt vor, der perfektes Englisch spricht, aber nur ein paar Wörter Französisch oder Spanisch kennt. Wenn Sie ihn in Ihrer Muttersprache nach Ihrer Gesundheit fragen, nickt er vielleicht nur und sagt etwas Vages oder gibt Ihnen im schlimmsten Fall falsche Ratschläge.

• Was passierte: Als die Autoren auf Englisch nach Impfungen für Kinder fragten, gab die KI eine gute Antwort. Aber als sie auf Sprachen wie Somali, Igbo oder Tamil fragten, lieferte die KI keine korrekten Informationen, sondern sprach manchmal über Bücher oder Verhütungsmittel statt über Impfungen.
• Das Risiko: Neuankömmlinge, die weniger verbreitete Sprachen sprechen, erhalten eine „defekte" Version des Dienstes, was zu schwerwiegenden Gesundheitsproblemen führen könnte.

3. Das „Zweiköpfige Monster" (Englisch vs. Französisch)

Die Behauptung: Selbst in Kanadas zwei Amtssprachen ist die KI nicht fair.
Die Analogie: Stellen Sie sich ein Reiseführerbuch vor, das eine detaillierte, 10-stufige Karte auf Englisch enthält, aber eine vage, 8-stufige Karte auf Französisch, die wichtige Abzweigungen auslässt.

• Was passierte: Als gefragt wurde, wie man ein Bankkonto eröffnet, war die englische Antwort eine klare 10-stufige Liste. Die französische Antwort war eine 8-stufige Liste, die wichtige Details vermisste. Darüber hinaus ließ die englische Version den Benutzer seine eigene Bank wählen, während die französische Version einfach eine für sie auswählte, ohne zu fragen.
• Das Risiko: Französischsprachige Neuankömmlinge erhalten weniger Kontrolle und weniger Informationen als ihre englischsprachigen Nachbarn.

4. Der „Hologramm des Hasses" (Stereotype und Bilder)

Die Behauptung: Die KI erstellt gefälschte Bilder und Geschichten, die schädliche Stereotype über Flüchtlinge und Einwanderer verstärken.
Die Analogie: Stellen Sie sich einen Filmregisseur vor, der nur Flüchtlinge als traurige, nahöstliche Familien mit Kopftuch besetzt und ignoriert, dass Flüchtlinge aus der ganzen Welt kommen und wie alle anderen aussehen.

• Was passierte: Als gebeten wurde, ein Bild einer „Flüchtlingsfamilie" zu generieren, zeichnete die KI immer eine muslimische Familie aus dem Nahen Osten. Als nach einem „Einwanderer" gefragt wurde, zeichnete sie meist südasianische Familien. Sie ging auch davon aus, dass Väter hochgebildet und Mütter weniger gebildet sind.
• Das Risiko: Dies schafft eine falsche Realität im Kopf der Menschen, lässt die Gesellschaft glauben, alle Flüchtlinge sähen gleich aus und handelten gleich, was Vorurteile schürt und die wahre Vielfalt der Gemeinschaft ignoriert.

5. Der „Selbstbewusste Lügner" (Halluzinationen)

Die Behauptung: Die KI erfindet Fakten, die real klingen, aber völlig falsch sind.
Die Analogie: Stellen Sie sich einen Reiseleiter vor, der selbstbewusst auf ein Gebäude zeigt und sagt: „Das ist die berühmte Bibliothek", obwohl es tatsächlich ein leerer Platz ist. Der Reiseleiter klingt so sicher, dass Sie ihm glauben.

• Was passierte: Die KI erfand Namen von Schulen und Gemeindezentren, die es nicht gibt. Sie gab falsche Adressen für echte Kliniken an. Sie sagte Leuten, eine Klinik sei „ohne Termin", obwohl sie es nicht war.
• Das Risiko: Neuankömmlinge, die die Stadt noch nicht kennen, könnten zu einem Gebäude kommen, das es nicht gibt, und dabei Zeit und Hoffnung verschwenden.

6. Der „Veraltete Almanach" (Fehlinformationen)

Die Behauptung: Die KI weiß nicht, was gerade jetzt passiert.
Die Analogie: Stellen Sie sich vor, Sie fragen einen Bibliothekar nach dem heutigen Wetter, aber er liest aus einem Buch, das vor drei Jahren gedruckt wurde. Er wird Ihnen eine „korrekte" Antwort für die Vergangenheit geben, aber sie ist für heute nutzlos.

• Was passierte: Als nach dem Mindestlohn in Ontario gefragt wurde, gab die KI Zahlen aus den Jahren 2021 oder 2022 an, obwohl der aktuelle Satz viel höher war.
• Das Risiko: Ein Neuankömmling könnte einen Job für weniger Geld annehmen, als das Gesetz erfordert, weil der „Roboter" ihm sagte, dass dies der korrekte Satz sei.

7. Der „Wolf im Schafspelz" (Böswillige Nutzung)

Die Behauptung: Böswillige Akteure können diese KI nutzen, um Neuankömmlinge zu täuschen.
Die Analogie: Stellen Sie sich einen Betrüger vor, der einen High-Tech-Stimmwandler verwendet, um genau wie ein Polizeibeamter oder Bankmanager zu klingen, um Ihr Geld zu stehlen.

• Was passierte: Die Autoren zeigten, dass die KI zwar einige Sicherheitsvorkehrungen hat, aber clevere Betrüger sie dazu bringen können, gefälschte Mietanzeigen zu schreiben, gefälschte Ausweisdokumente zu erstellen oder Skripte für Telefonbetrug zu verfassen, die verwundbare Neuankömmlinge ins Visier nehmen.
• Das Risiko: Neuankömmlinge, die ohnehin verwirrt sind darüber, wie das System funktioniert, sind leichte Ziele für diese KI-generierten Betrugsversuche.

Die Lösung: Den Roboter nicht feuern, sondern besser ausbilden

Der Artikel sagt nicht, dass wir KI verbieten sollten. Stattdessen sagt er, dass wir aufhören müssen, den „vom Regal" stammenden Roboter für diesen spezifischen Job zu verwenden.

• Anpassen des Werkzeugs: Wir müssen eine spezielle KI bauen, die nur auf verifizierten kanadischen Integrationsdaten trainiert ist, nicht auf dem gesamten Internet.
• Mensch im Kreislauf: Genau wie ein Pilot einen Co-Piloten braucht, sollte die KI ein Helfer für die Integrationsarbeiter sein, kein Ersatz. Ein menschlicher Experte muss die Arbeit der KI überprüfen, bevor sie den Neuankömmling erreicht.
• Digitale Kompetenz lehren: Neuankömmlinge müssen lernen, dass der „magische Roboter" lügen kann, damit sie wichtige Fakten doppelt überprüfen.

Kurz gesagt: Die aktuelle KI ist wie ein wohlmeinender, aber ungeschulter Praktikant, der gerne hilft, aber ständig Fakten erfindet und Vorurteile zeigt. Für die Sicherheit der Neuankömmlinge müssen wir diesen Praktikanten durch einen spezialisierten, überwachten und sorgfältig ausgebildeten Assistenten ersetzen.