CodeNER: Code Prompting for Named Entity Recognition
Das Papier stellt CodeNER vor, eine Methode, die durch die Einbettung von Code in Prompts die Fähigkeit von Large Language Models verbessert, Named Entity Recognition präziser durchzuführen, indem sie detaillierte BIO-Schema-Anweisungen bereitstellt und damit Text-basierte Ansätze auf mehreren Datensätzen übertrifft.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das Problem: Der „Übersetzer", der die Regeln vergisst
Stellen Sie sich vor, Sie haben einen sehr intelligenten Assistenten (eine große KI wie ChatGPT), der Texte lesen und verstehen kann. Ihre Aufgabe ist es, ihm zu sagen: „Markiere alle Namen von Personen, Orten und Organisationen in diesem Satz."
Das Problem ist: Wenn Sie dem Assistenten das nur auf normalem Deutsch (Text) erklären, passiert oft ein Missverständnis.
- Die Aufgabe: Sie wollen, dass der Assistent jedes einzelne Wort im Satz prüft und sagt: „Das ist ein Name" oder „Das ist kein Name". Das ist wie eine detaillierte Liste, bei der jedes Wort ein kleines Schild bekommt.
- Die KI: Sie ist daran gewöhnt, ganze Sätze zu schreiben und ganze Sätze zu lesen. Wenn Sie sie bitten, Namen zu finden, neigt sie dazu, ganze Sätze als „Antwort" zu produzieren, statt jedes Wort einzeln zu markieren. Es ist, als würde man einem Koch sagen: „Mach mir einen Salat", und er bringt Ihnen einen ganzen Garten, statt die einzelnen Zutaten zu schneiden.
Bisherige Methoden (die nur Text-Prompts nutzten) waren wie ein Gespräch mit einem Freund, der die genauen Regeln für das Markieren von Wörtern oft vergisst oder durcheinanderbringt.
Die Lösung: CodeNER – Der „Programmier-Code" als Anleitung
Die Forscher haben eine clevere Idee entwickelt: CodeNER.
Statt dem Assistenten die Aufgabe auf „normalem Deutsch" zu geben, geben sie ihr die Anweisungen in Programmiersprache (wie Python).
Die Analogie:
Stellen Sie sich vor, Sie wollen einem Roboter sagen, wie er ein Auto repariert.
- Text-Methode: Sie sagen: „Mach das Ding da, das rote, vorsichtig ab, und dann das andere." Der Roboter ist verwirrt.
- Code-Methode (CodeNER): Sie geben ihm einen genauen Bauplan mit einer Schleife:
Für jedes Wort im Satz: Prüfe, ob es ein Name ist. Wenn ja, klebe ein 'B' (Beginn) oder 'I' (Innerhalb) auf das Wort. Wenn nein, klebe ein 'O' (Nichts) drauf.
Durch die Verwendung von Code zwingen die Forscher die KI, sich an eine starre, logische Struktur zu halten. Programmiersprachen sind wie ein strenger Chef, der keine Interpretationsspielräume lässt. Die KI muss sich genau an die „Schleife" (Loop) halten und jedes Wort nacheinander abarbeiten, genau wie es für die Aufgabe nötig ist.
Was bringt das? (Die Ergebnisse)
Die Forscher haben CodeNER an zehn verschiedenen Tests (in Englisch, Arabisch, Finnisch, Dänisch und Deutsch) getestet.
- Präzision: Da die KI durch den Code gezwungen wird, Wort für Wort zu arbeiten, macht sie viel weniger Fehler. Sie verwechselt nicht mehr ganze Sätze mit einzelnen Wörtern.
- Bessere Grenzen: Sie erkennt viel besser, wo ein Name aufhört und das nächste Wort beginnt. (Beispiel: Bei einer langen Internet-Adresse erkennt sie, dass die ganze Adresse ein einziger „Name" ist, und nicht zerhackt sie in einzelne Wörter).
- Weniger Wiederholungen: Wenn ein Wort im Text mehrmals vorkommt, markiert die Code-Methode jedes Mal korrekt, während die Text-Methode manchmal vergisst, das zweite Mal zu markieren.
Ein kleiner Haken:
Es gibt Situationen, in denen die „Text-Methode" besser ist. Wenn man ganze lange Sätze als „Handlung" (Plot) markieren soll (z. B. in Filmbesprechungen), ist der strenge Code manchmal zu starr. Aber für die meisten normalen Aufgaben (Personen, Orte, Firmen) ist CodeNER deutlich überlegen.
Zusammenfassung für den Alltag
Stellen Sie sich vor, Sie wollen jemandem beibringen, wie man ein Buch korrekt mit Lesezeichen versieht.
- Der alte Weg (Text-Prompt): Sie sagen: „Suche alle Namen und markiere sie." Der Schüler markiert manchmal ganze Absätze oder vergisst Wörter.
- Der neue Weg (CodeNER): Sie geben dem Schüler ein Skript: „Nimm das erste Wort. Ist es ein Name? Ja -> Klebe ein rotes Lesezeichen. Nein -> Kein Lesezeichen. Nimm das nächste Wort. Wiederhole."
Durch diesen „Skript"-Ansatz wird die KI viel zuverlässiger. Die Forscher haben gezeigt, dass man große Sprachmodelle (LLMs) nicht nur mit Worten, sondern auch durch den „Code-Gedanken" viel besser steuern kann, um komplexe Aufgaben wie das Erkennen von Namen in Texten zu lösen.
Kurz gesagt: CodeNER nutzt die logische Strenge von Programmiersprachen, um die KI zu zwingen, genau das zu tun, was sie soll: Wort für Wort zu lesen und zu markieren, statt nur zu „raten".
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.