Safety That Does Not Transfer: Cross-Lingual Clinical Correctness Drift in Deployable Medical Language Models
Diese Studie zeigt auf, dass während führende große Sprachmodelle die klinische Sicherheit in Englisch und Hausa beibehalten, lokal einsetzbare kleine Modelle einen schwerwiegenden Sicherheitsdrift in Hausa aufweisen, wobei sie von klinisch korrekten zu aktiv schädlichen Antworten abfallen, obwohl sie in Englisch angemessen performen, was darauf hindeutet, dass das Sicherheitsdefizit aus der Modellklasse selbst und nicht aus der Sprache oder dem klinischen Inhalt resultiert.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie hätten einen superintelligenten Roboter-Bibliothekar, der jede Frage beantworten kann, die Sie ihm stellen. In der Welt der Künstlichen Intelligenz nennen wir diese Roboter „Large Language Models“. Lange Zeit haben Wissenschaftler diese Roboter getestet, um sicherzustellen, dass sie sicher sind, besonders wenn es um ernste Themen wie die Gesundheit geht. Aber hier ist der Haken: Fast alle Sicherheitstests wurden auf Englisch durchgeführt, und zwar hauptsächlich an den größten, leistungsfähigsten Robotern, die in riesigen Cloud-Computern leben.
Doch in vielen Teilen der Welt haben Menschen keinen Zugang zu diesen riesigen Cloud-Computern oder schnellem Internet. Stattdessen nutzen sie kleinere, einfachere Versionen dieser Roboter, die direkt auf ihren Telefonen oder lokalen Computern laufen. Diese kleineren Roboter sind wie die „Taschenformat-Versionen“ des Super-Bibliothekars. Die große Frage, die sich Wissenschaftler stellen, lautet: Wenn ein Roboter sicher und klug ist, wenn er auf Englisch auf einem riesigen Computer spricht, bleibt er dann auch sicher und klug, wenn er auf ein Telefon geschrumpft wird und eine lokale Sprache wie Hausa spricht? Es ist ein bisschen so, als würde man fragen, ob ein Koch, der in einer Fünf-Sterne-Küche ein perfektes Steak zubereiten kann, immer noch eine sichere, essbare Mahlzeit auf einem winzigen Campingkocher und mit Zutaten, die er noch nie gesehen hat, zubereiten kann.
Die große Übersetzungsfalle
Ein Forscherteam beschloss, diese Idee auf die Probe zu stellen. Sie wollten sehen, ob die „Sicherheit“ medizinischer Ratschläge, die von KI-Modellen gegeben werden, die Reise vom Englischen zum Hausa, einer Sprache, die Millionen im Norden Nigerias sprechen, übersteht. Sie schauten nicht nur darauf, ob die KI „Ich kann das nicht beantworten“ sagt (was ein häufiger Sicherheitstest ist); sie wollten sehen, ob die KI tatsächlich den richtigen medizinischen Rat geben würde.
Zu diesem Zweck erstellten sie eine Reihe medizinischer Fragen zu drei ernsten Gesundheitsproblemen, die in der Region häufig vorkommen: Malaria, Sichelzellenanämie und Tuberkulose. Sie schrieben diese Fragen auf Englisch und übersetzten sie dann ins Hausa. Sie fragten zwei Arten von Robotern:
- Das „Frontier“-Modell: Ein massives, erstklassiges KI-Modell, das über das Internet abgerufen wird (der „Fünf-Sterne-Küchenkoch“).
- Die „Deployable“-Modelle: Fünf kleinere, günstigere KI-Modelle, die auf lokaler Hardware laufen können, ohne das Internet zu benötigen (die „Campingkocher-Köche“).
Sie stellten Fragen wie: „Wie behandle ich ein Fieber?“ oder „Mein Kind kann kein Wasser trinken, was soll ich tun?“ Sie bauten auch knifflige Fragen ein, die darauf abzielen, zu sehen, ob die KI gefährliche Ratschläge gibt, wie etwa das zu frühe Absetzen von Medikamenten oder die Anwendung unbewiesener Hausmittel.
Das schockierende Ergebnis: Sicherheit reist nicht mit
Die Ergebnisse waren ein wenig wie ein misslungener Zaubertrick. Wenn die Forscher die Fragen auf Englisch stellten, waren die kleineren, lokalen Modelle tatsächlich ziemlich gut. Sie gaben meistens korrekte Antworten. Aber in dem Moment, als sie die Fragen auf Hausa umstellten, brach die Leistung dieser lokalen Modelle ein.
Auf einer Skala, bei der eine perfekte Antwort eine 2 und eine gefährliche, schädliche Antwort eine -1 ist, sank der Durchschnittswert der lokalen Modelle von gesunden 1,57 auf Englisch auf gefährliche -0,03 auf Hausa. Auf Deutsch gesagt: Während die lokalen Modelle auf Englisch „kompetent“ waren, wurden sie auf Hausa im Durchschnitt „aktiv schädlich“. Sie begannen, selbstbewusste, flüssige, aber völlig falsche medizinische Ratschläge zu geben.
Zum Beispiel könnte ein Modell in der englischen Version korrekt sagen: „Sie müssen wegen dieser Schmerzen in der Brust sofort einen Arzt aufsuchen.“ In der Hausa-Version könnte dasselbe Modell jedoch selbstbewusst sagen: „Trinken Sie einfach diesen Kräutertee und Sie werden wieder gesund“, obwohl die Richtlinien besagen, dass dieses spezifische Symptom ein medizinischer Notfall ist.
Das „Frontier“-Modell bleibt gelassen
Hier ist der wichtigste Teil der Geschichte: Die Forscher testeten auch das riesige, leistungsstarke „Frontier“-Modell. Als sie ihm dieselben Fragen auf Hausa stellten, stürzte es nicht ab. Es blieb sicher und präzise und sank nur leicht von einem perfekten 2,00 auf Englisch auf 1,75 auf Hausa. Es gab in keiner der beiden Sprachen eine schädliche Antwort.
Diese Entdeckung widerlegt einige große Ideen. Sie beweist, dass das Problem nicht die Hausa-Sprache selbst ist (da der große Roboter sie problemlos bewältigte). Sie beweist auch, dass das Problem nicht die medizinischen Fragen sind (da die kleinen Roboter sie auf Englisch perfekt beantworten konnten). Das Problem liegt strikt in der Art des verwendeten Roboters. Die „Sicherheit“, die für diese kleineren, lokalen Modelle versprochen wurde, existiert nur auf Englisch. Sob es geschrumpft und übersetzt wird, scheinen ihre Sicherheitsbarrieren in sich zusammenzufallen.
Selbstbewusst falsch ist die schlimmste Art von Falsch
Die Forscher fanden etwas besonders Beängstigendes an diesen Fehlern heraus. Es war nicht nur, dass die kleinen Roboter verwirrt waren oder die Antwort verweigerten. Oft gaben sie Antworten, die sehr selbstbewusst und flüssig klangen, aber medizinisch gefährlich waren. Dies wird als „Gefährliches Selbstvertrauen“ bezeichnet. Wenn ein Roboter sagt: „Ich weiß es nicht“, sucht eine Person vielleicht nach einem menschlichen Arzt. Aber wenn der Roboter sagt: „Nehmen Sie diese spezifische Pille“, und es ist die falsche Pille, dann nimmt die Person sie vielleicht ein und verletzt sich.
Sie bemerkten auch seltsames Verhalten. Manchmal, wenn sie auf Hausa gefragt wurden, antworteten die kleinen Roboter in einer völlig anderen Sprache, wie zum Beispiel Swahili, oder wiederholten einfach nur Unsinn. Dies deutet darauf hin, dass diese kleineren Modelle kein klares Verständnis der verschiedenen afrikanischen Sprachen haben; sie bringen sie durcheinander, wie ein Schüler, der eine Sprache spricht, die er nur halb gelernt hat.
Das Fazit
Die Studie kommt zu dem Schluss, dass wir nicht davon ausgehen können, dass eine medizinische KI sicher ist, nur weil sie Sicherheitstests auf Englisch bestanden hat. Wenn wir diese Werkzeuge an Orten einsetzen wollen, in denen Menschen lokale Sprachen sprechen und kleinere Computer nutzen, müssen wir sie in dieser Sprache und auf diesem Typ von Computer testen.
Die „Sicherheit“ dieser Modelle ist kein magischer Schutzschild, den sie überallhin mitnehmen; es ist ein Merkmal, das davon abhängt, wie sie gebaut sind und wo sie eingesetzt werden. Vorerst schlagen die Forscher vor, dass wir bei diesen kleineren, lokalen medizinischen Robotern in Sprachen wie Hausa sehr vorsichtig sein sollten, bis sie in diesem spezifischen Kontext als sicher erwiesen wurden. Die großen, leistungsstarken Roboter scheinen die Übersetzung gut zu handhaben, aber die kleinen? Die sind derzeit zu riskant, um ihnen lebenswichtige Ratschläge anzuvertrauen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.