Swiss Parliaments Corpus Re-Imagined (SPC_R): Enhanced Transcription with RAG-based Correction and Predicted BLEU
Diese Arbeit stellt eine neuartige Langform-Version des Schweizer Parlamentskorpus vor, die durch eine Pipeline aus Whisper-Transkription, GPT-4o-basierter Korrektur und Predicted-BLEU-Filterung 555 Stunden hochwertige Schweizerdeutsch-zu-Hochdeutsch-Sprachdaten mit einer um 6 Punkte verbesserten BLEU-Leistung gegenüber dem ursprünglichen Satzlevel-Korpus bereitstellt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie haben einen riesigen, alten Schatzkeller voller Tonaufnahmen. Es sind stundenlange Debatten aus dem Berner Grossen Rat, auf Schweizerdeutsch gesprochen. Das Problem: Niemand kann diese Aufnahmen direkt nutzen, weil sie nur als Töne existieren. Um sie zu verstehen, müsste man sie in Text umwandeln. Aber Schweizerdeutsch ist tricky – es ist wie ein Dialekt, der sich ständig verändert und für Computer oft wie ein verschlüsseltes Rätsel klingt.
Die Autoren dieses Papers (Vincenzo Timmel und sein Team) haben nun eine neue Methode entwickelt, um diesen Schatzkeller zu öffnen und die Töne in perfekte Texte zu verwandeln. Hier ist die Geschichte, wie sie das gemacht haben, einfach erklärt:
1. Der erste Versuch: Der schnelle Übersetzer (Whisper)
Zuerst haben sie einen sehr starken KI-Übersetzer namens Whisper eingesetzt. Stellen Sie sich Whisper wie einen extrem schnellen, aber etwas nervösen Dolmetscher vor. Er hört sich die langen Debatten an und schreibt alles mit, was er versteht.
- Das Ergebnis: Er ist schnell und macht bei den allgemeinen Sätzen einen guten Job. Aber bei schwierigen Namen (wie Politiker oder Orte) oder speziellen Wörtern stolpert er oft. Er schreibt zum Beispiel "Alba Rutschi" statt "Alberucci". Das ist wie ein Dolmetscher, der die Geschichte versteht, aber die Namen der Hauptfiguren verwechselt.
2. Die Korrektur: Der weise Bibliothekar (GPT-4o mit RAG)
Da der erste Dolmetscher bei den Namen so viele Fehler macht, holen sie einen zweiten, sehr klugen Helfer hinzu: GPT-4o. Aber dieser Helfer ist nicht blind. Er hat einen besonderen Trick: RAG (Retrieval-Augmented Generation).
Stellen Sie sich RAG so vor:
Der Dolmetscher (Whisper) sagt: "Ich habe gehört, Herr Müller hat über das Bärenpark-Gesetz gesprochen."
Der weise Bibliothekar (GPT-4o) schaut sofort in sein riesiges Archiv (die offiziellen Protokolle des Parlaments). Er findet dort den echten Text und sagt: "Moment mal, im Protokoll steht Bärenpark, aber der Name des Politikers ist Alberucci, nicht Müller. Und das Gesetz heißt eigentlich Bärenpark-Verordnung."
Der Bibliothekar korrigiert also den Text des Dolmetschers, indem er sich auf das offizielle Protokoll stützt. Er wirkt wie ein Lektor, der neben dem Autor sitzt und sagt: "Das hier ist falsch, hier steht im Original anders."
3. Der Qualitäts-Check: Der strenge Prüfer (GPT-4o-mini)
Nachdem der Text korrigiert wurde, kommt ein dritter Akteur ins Spiel: Ein kleinerer, aber sehr strenger Prüfer (GPT-4o-mini).
Seine Aufgabe ist es, jede einzelne korrigierte Passage zu bewerten. Er fragt sich:
- "Ist der Text jetzt perfekt?" (Note 3)
- "Sind nur kleine Grammatikfehler übrig?" (Note 2)
- "Sind immer noch wichtige Namen falsch?" (Note 1)
- "Ist der Text unsinnig?" (Note 0)
Nur die Texte, die eine sehr hohe Note bekommen, dürfen in den endgültigen Schatzkeller.
4. Der Wahrsager: Die Vorhersage (Predicted BLEU)
Bevor sie überhaupt anfangen zu korrigieren, nutzen sie eine cleveren Trick, um zu wissen, welche Aufnahmen überhaupt vielversprechend sind. Sie nutzen eine Art "Wahrsager", der auf die Unsicherheit des ersten Dolmetschers (Whisper) schaut.
Stellen Sie sich vor, der Dolmetscher flüstert: "Ich bin mir bei diesem Satz zu 90 % sicher." Der Wahrsager sagt dann: "Wenn du so sicher bist, ist der Satz wahrscheinlich gut." Wenn der Dolmetscher aber zögert ("Ich bin mir nur zu 40 % sicher"), sagt der Wahrsager: "Lass diesen Satz weg, er wird wahrscheinlich schlecht sein."
Dadurch filtern sie sofort die schlechtesten Aufnahmen heraus, ohne sie erst mühsam korrigieren zu müssen.
Das Endergebnis
Am Ende haben sie aus den ursprünglichen 801 Stunden roher Aufnahmen 555 Stunden von extrem hochwertigem Material gewonnen.
- Das Besondere: Früher gab es nur kurze Sätze (wie einzelne Sätze aus einem Buch). Jetzt haben sie ganze Debatten (ganze Kapitel), die perfekt aufeinander abgestimmt sind.
- Der Nutzen: Diese Daten sind wie ein perfektes Trainingsbuch für neue KI-Systeme. Wenn eine KI mit diesen 555 Stunden lernt, wird sie Schweizerdeutsch viel besser verstehen – nicht nur die Wörter, sondern auch die Namen und den Kontext.
Zusammengefasst: Die Autoren haben einen schnellen, fehleranfälligen Roboter (Whisper) genommen, ihn mit einem klugen Bibliothekar (GPT-4o) und einem strengen Prüfer (GPT-4o-mini) zusammengebracht, und so aus einem Haufen roher Tonaufnahmen einen glänzenden, perfekten Datenschatz gezaubert.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.