FreeTxt-Vi: A Benchmarked Vietnamese-English Toolkit for Segmentation, Sentiment, and Summarisation

FreeTxt-Vi ist ein kostenloses, webbasiertes Toolkit, das eine integrierte Pipeline für die Segmentierung, Sentiment-Analyse und Zusammenfassung von vietnamesisch-englischen Texten bietet und dabei durch eine hybride Segmentierungsstrategie sowie feinabgestimmte Transformer-Modelle eine wettbewerbsfähige Leistung erzielt, um die textbasierte Forschung in unterrepräsentierten Sprachen zu erleichtern.

Das Wesentliche

Stellen Sie sich vor, Sie haben einen riesigen Haufen aus Briefen, Feedback-Zetteln und Umfragen. Manche sind auf Englisch, andere auf Vietnamesisch. Jetzt wollen Sie herausfinden: Was sagen die Leute eigentlich? Sind sie glücklich oder wütend? Was sind die wichtigsten Themen? Und wie können wir das alles schnell zusammenfassen, ohne jeden einzelnen Zettel mit der Hand zu lesen?

Das ist genau das Problem, das FreeTxt-Vi löst. Hier ist eine einfache Erklärung, wie dieses Werkzeug funktioniert, gemischt mit ein paar bildhaften Vergleichen:

1. Der Übersetzer, der auch "Zerlege-Meister" ist

Vietnamesisch ist eine besondere Sprache. Im Englischen oder Deutschen sind die Wörter durch Leerzeichen getrennt (wie Perlen auf einer Kette). Im Vietnamesischen sind es oft Silben, die wie eine lange Kette ohne Unterbrechung daherkommen. Ein Computer sieht das oft als einen riesigen, unleserlichen Block.

• Die Analogie: Stellen Sie sich vor, Sie bekommen einen riesigen, zusammengeklebten Papierstreifen mit einem ganzen Roman darauf, aber ohne Leerzeichen. Um ihn zu lesen, müssen Sie ihn erst in die richtigen Wörter zerreißen.
• Die Lösung: FreeTxt-Vi nutzt einen speziellen "Zerlege-Meister" (eine Kombination aus VnCoreNLP und einer modernen KI-Technik namens BPE). Er schneidet den Text genau dort durch, wo die Wörter enden, und sorgt dafür, dass der Computer versteht: "Ah, das ist ein Wort, das ist ein Satz." Ohne diesen Schritt wäre alles nur ein Haufen Kauderwelsch.

2. Der Emotions-Detektiv

Nachdem der Text zerkleinert wurde, muss das System herausfinden: Ist der Schreiber fröhlich, traurig oder wütend?

• Die Analogie: Stellen Sie sich vor, Sie haben einen sehr gut ausgebildeten Detektiv, der nicht nur auf Englisch, sondern auch auf Vietnamesisch fließend spricht. Er liest nicht nur die Wörter, sondern spürt die Stimmung dahinter.
• Die Lösung: Das System nutzt eine trainierte KI (ein "TabularisAI"-Modell), die gelernt hat, ob jemand "sehr positiv" oder "sehr negativ" schreibt. Es zeigt Ihnen dann sofort ein buntes Diagramm an: "Schauen Sie, 60 % der Leute sind glücklich, 20 % sind wütend." Das geht viel schneller, als wenn Sie tausende Kommentare selbst lesen müssten.

3. Der Zusammenfassungs-Künstler (Der "Zauberer")

Oft sind die Antworten so lang und verworren, dass man den Wald vor lauter Bäumen nicht sieht. FreeTxt-Vi bietet zwei Arten, das zu lösen:

• Der Schere-Mann (Extraktive Zusammenfassung): Er sucht die besten Sätze aus dem Text aus und klebt sie zu einer kurzen Version zusammen. Er nimmt nichts Neues hinzu, sondern hebt nur das Wichtigste hervor.
• Der Zauberer (Abstraktive Zusammenfassung): Hier kommt ein moderner KI-Zauberer (Qwen2.5) ins Spiel. Er liest den ganzen Text, versteht die Geschichte und schreibt dann eine neue, kurze Zusammenfassung in eigenen Worten.
  • Das Besondere: Sie können dem Zauberer sogar einen Auftrag geben! Sagen Sie: "Fasse nur das zusammen, was die Leute über Umweltschutz sagen." Der Zauberer ignoriert dann alles andere und konzentriert sich nur auf dieses Thema. Das ist wie ein persönlicher Assistent, der genau das für Sie filtert, was Sie brauchen.

4. Die visuelle Landkarte (Wolken und Bäume)

Manchmal wollen Sie nicht lesen, sondern sehen.

• Wortwolken: Stellen Sie sich eine Wolke vor, in der die wichtigsten Wörter groß und fett geschrieben sind, während unwichtige Wörter klein und blass sind. FreeTxt-Vi kann diese Wolken sogar so erstellen, dass sie zeigen, welche Wörter in Ihrem Text besonders "auffällig" sind im Vergleich zur normalen Sprache.
• Wort-Bäume: Wenn Sie ein bestimmtes Wort suchen (z. B. "Schule"), zeigt Ihnen das System einen Baum, dessen Äste zeigen, welche Wörter vor und nach "Schule" stehen. So sehen Sie sofort, in welchem Kontext das Wort verwendet wird.

Warum ist das so wichtig?

Bisher gab es für Vietnamesisch kaum einfache Werkzeuge, die man ohne Programmierkenntnisse nutzen konnte. Es war wie ein Schloss, das nur mit einem komplizierten Schlüssel (Code) zu öffnen war.

FreeTxt-Vi ist wie ein Schlüsselbund für alle. Es ist kostenlos, läuft im Browser und verbindet die alte, bewährte Methode der Sprachanalyse mit der neuen, mächtigen KI. Es hilft Lehrern, Forschern und Sozialarbeitern, die Stimmen von Millionen Menschen zu verstehen, ohne selbst Linguisten oder Programmierer sein zu müssen.

Kurz gesagt: FreeTxt-Vi ist der Übersetzer, der Zerleger, der Emotions-Detektiv und der Zusammenfassungs-Künstler in einem – speziell dafür gemacht, die Lücke zwischen englischen und vietnamesischen Texten zu schließen und komplexe Daten in einfache, verständliche Bilder zu verwandeln.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „FreeTxt-Vi: A Benchmarked Vietnamese–English Toolkit for Segmentation, Sentiment, and Summarisation" auf Deutsch:

1. Problemstellung

Die Analyse von unstrukturierten Freitextdaten (z. B. aus Umfragen oder Feedback-Formularen) stellt insbesondere in mehrsprachigen und ressourcenarmen Umgebungen eine große Herausforderung dar. Während für Englisch mature NLP-Pipelines und vortrainierte Modelle verfügbar sind, leiden Sprachen wie Vietnamesisch unter einer Unterrepräsentation in der Sprachtechnologie-Forschung.

• Spezifische linguistische Herausforderungen: Im Vietnamesischen werden Wörter nicht durch Leerzeichen getrennt, sondern Silben. Dies erfordert eine präzise Wortsegmentierung (Word Segmentation), da eine falsche Segmentierung Frequenzzählungen, Kollokationsanalysen und nachgelagerte NLP-Aufgaben verfälscht.
• Praxislücke: Bestehende Tools (wie Voyant Tools oder FreeTxt) unterstützen Vietnamesisch nicht oder erfordern Programmierkenntnisse für den Einsatz lokaler NLP-Bibliotheken (wie VnCoreNLP oder PhoBERT). Es fehlte an einer offenen, benutzerfreundlichen Plattform, die sowohl corpuslinguistische Methoden als auch moderne NLP-Funktionen (Sentiment, Zusammenfassung) für Vietnamesisch und Englisch kombiniert.

2. Methodik und Architektur

FreeTxt-Vi ist ein webbasiertes, quelloffenes Toolkit, das eine einheitliche Pipeline für die Verarbeitung von Vietnamesisch-Englisch-Texten bereitstellt. Die Architektur integriert traditionelle Korpuslinguistik mit modernen Transformer-Modellen.

• Datenvorverarbeitung & Segmentierung:

  • Das System unterstützt verschiedene Formate (.txt, .xlsx, .csv) und erkennt automatisch die dominante Sprache.
  • Hybride Segmentierungsstrategie: Für Vietnamesisch wird eine Kombination aus VnCoreNLP (für linguistisch fundierte Wortsegmentierung, POS-Tagging und NER) und Byte Pair Encoding (BPE) verwendet. Diese Hybrid-Lösung sorgt für eine korrekte Behandlung von Mehrwortausdrücken (z. B. „học sinh" als ein Token) und gleichzeitig für Robustheit gegenüber seltenen Wörtern im Kontext von Transformer-Architekturen.
  • Für Englisch werden Standard-Bibliotheken (NLTK, spaCy) genutzt.

• Sentiment-Analyse:

  • Es wird ein feinabgestimmtes (fine-tuned) multilinguales Transformer-Modell (TabularisAI) eingesetzt.
  • Das Modell wurde gemeinsam auf dem vietnamesischen VLSP2016-Datensatz und dem englischen IMDb-Datensatz trainiert, um eine einheitliche Klassifikation für beide Sprachen zu ermöglichen.
  • Es unterstützt grobe (positiv/negativ/neutral) und feine (5-stufige) Sentiment-Klassen.

• Zusammenfassung (Summarisation):

  • Extraktive Methode: Basierend auf dem TextRank-Algorithmus zur Identifizierung salienter Sätze.
  • Abstraktive Methode: Ein feinabgestimmtes Qwen2.5-Modell (7B Parameter) generiert fließende, paraphrasierende Zusammenfassungen.
  • Innovation: Das System unterstützt Prompt-gesteuerte und aspektbasierte Zusammenfassungen. Nutzer können spezifische Themen (z. B. „Umwelt" oder „Lehrer-Herausforderungen") auswählen, um fokussierte Ergebnisse zu erhalten.

• Visualisierung & Korpus-Tools:

  • Interaktive Wortwolken (Frequenz, Log-Likelihood, Keyness) mit sprachspezifischen Referenzkorpora (BNC für Englisch, VietNews für Vietnamesisch).
  • Wortbäume (Word Trees): Interaktive KWIC-Analyse (Key Word In Context), die durch VnCoreNLP sicherstellt, dass Mehrwortausdrücke nicht zerlegt werden.
  • Konkordanz: Zeigt Kontextzeilen an und nutzt LLMs, um semantisch verwandte Alternativen (Synonyme) vorzuschlagen.

3. Wichtige Beiträge

1. Entwicklung einer einheitlichen bilingualen Pipeline: Integration einer hybriden VnCoreNLP+BPE-Segmentierung, eines feinabgestimmten Sentiment-Modells und eines abstraktiven Zusammenfassungsmodells in einer einzigen Plattform.
2. Verfügbarkeit und Zugänglichkeit: Bereitstellung eines Open-Source-Tools, das keine Programmierkenntnisse erfordert und somit die Lücke zwischen akademischer NLP-Forschung und praktischer Anwendung in Bereichen wie Bildung und Sozialwissenschaften schließt.
3. Umfassende Evaluation: Das Paper liefert eine dreiteilige Evaluation (Segmentierung, Sentiment, Zusammenfassung) mit Benchmark-Vergleichen, die die Leistungsfähigkeit des Systems untermauern.
4. Erweiterung des FreeTxt-Frameworks: Die Anpassung des ursprünglich für Walisisch/Englisch entwickelten FreeTxt-Tools auf die spezifischen linguistischen Anforderungen des Vietnamesischen.

4. Ergebnisse (Evaluation)

Die Evaluation wurde auf etablierten Datensätzen durchgeführt (VLSP2013/2016, VNDS, IMDb, CNN/DailyMail).

• Segmentierung: Der hybride Ansatz (VnCoreNLP + BPE) erreichte eine F1-Score von 98,1 % auf dem vietnamesischen VLSP2013-Datensatz und eine Tokenisierungsgenauigkeit von 99,94 % für Englisch. Er bietet dabei eine hohe Verarbeitungsgeschwindigkeit (4.900 Sätze/Sekunde für Vietnamesisch) und ist effizienter als reine linguistische Baselines bei gleichzeitiger Kompatibilität mit Transformern.
• Sentiment-Analyse: Das feinabgestimmte TabularisAI-Modell erzielte die höchste Genauigkeit für beide Sprachen: 95,2 % (Vietnamesisch) und 95,0 % (Englisch). Dies übertrifft sowohl das Basis-TabularisAI-Modell als auch starke monolinguale Baselines wie PhoBERT (Vietnamesisch) und RoBERTa (Englisch).
• Zusammenfassung: Das feinabgestimmte Qwen2.5-Modell erzielte die besten ROUGE-Werte auf VNDS (Vietnamesisch) und CNN/DailyMail (Englisch).
  • VNDS: ROUGE-1: 53,1 / ROUGE-2: 27,5 / ROUGE-L: 48,4.
  • CNN/DailyMail: ROUGE-1: 52,4 / ROUGE-2: 27,0 / ROUGE-L: 48,0.
  • Dies entspricht einer Verbesserung von ca. +3 bis +4 ROUGE-Punkten gegenüber starken Baselines wie Flan-T5 oder Gemma-7B.

5. Bedeutung und Ausblick

FreeTxt-Vi schließt eine kritische Lücke in der mehrsprachigen Textanalyse, indem es eine evaluierte, benutzerfreundliche Infrastruktur für Vietnamesisch bereitstellt.

• Wissenschaftlicher Impact: Es fördert die Reproduzierbarkeit von Forschung und die Entwicklung von Sprachressourcen für eine Sprache mit 80 Millionen Sprechern, die in der NLP oft vernachlässigt wird.
• Praktische Relevanz: Das Tool ermöglicht Forschern, Pädagogen und Fachleuten in den Geistes- und Sozialwissenschaften die qualitative Analyse großer Textmengen ohne technische Hürden.
• Zukünftige Arbeiten: Die Autoren planen die Erweiterung auf weitere südostasiatische Sprachen und eine weitere Domain-Adaption für Sektoren wie Gesundheitswesen und öffentliche Politik.

Das gesamte Toolkit, einschließlich Quellcode und feinabgestimmter Modelle, ist unter https://github.com/VinNLP/Free-txt-vi frei verfügbar.