Semantic Hashtag LDA for Clustering Short Texts: Twitter Use Case

Soziale Medien haben die Art und Weise, wie wir unser Leben teilen, transformiert, indem sie jeden Moment in eine potenzielle Übertragung verwandelt haben. Auf Plattformen wie Twitter posten Nutzer kurze Nachrichten, die oft nur wenige Sätze lang sind, um Neuigkeiten, Meinungen oder tägliche Beobachtungen zu teilen. Da diese Beiträge so kurz sind, fehlt ihnen oft der Kontext, der in längeren Artikeln oder Büchern zu finden ist, was es für Computer schwierig macht, zu verstehen, worum es wirklich geht. Um diesen Informationsfluss zu organisieren, fügen Nutzer oft spezielle Etiketten namens Hashtags hinzu – Wörter, denen ein Doppelkreuzzeichen vorangestellt ist, die als schnelle Zusammenfassung des Themas eines Beitrags dienen. Diese Etiketten werden jedoch von Menschen und nicht von Maschinen erstellt, was bedeutet, dass dasselbe Ereignis auf Dutzende verschiedene Arten getaggt werden kann oder ein einzelner Tag für völlig unzusammenhängende Themen verwendet werden kann. Forscher im Bereich der Datenwissenschaft suchen ständig nach besseren Wegen, um diese kurzen, chaotischen Nachrichten in aussagekräftige Kategorien zu gruppieren – ein Prozess, der als Clustering bekannt ist –, damit die zugrunde liegenden Geschichten und Trends entdeckt und verstanden werden können.

Ein Team von Forschern der Universität Urmia und der Freien Universität Bozen-Bolzano stellte sich dieser Herausforderung, indem sie eine neue Methode entwickelten, um diese kurzen Nachrichten zu sortieren. Sie konzentrierten sich auf ein spezifisches Problem: Standard-Computermodelle, die bei langen Dokumenten gut funktionieren, scheitern oft beim Gruppieren kurzer Texte, weil in einem einzelnen Tweet schlichtweg nicht genügend Informationen vorhanden sind, um sein Thema zu bestimmen. Die Forscher erkannten, dass ein einzelner Tweet zwar zu kurz sein mag, aber eine Sammlung von Tweets, die denselben Hashtag teilen, genügend Kontext bieten könnte, um ein klares Thema zu enthvüllen. Ihr Ziel war es, ein System zu bauen, das diese verwandten Nachrichten sammeln, das Rauschen herausfiltern und die Hashtags als Leitfaden nutzen kann, um größere, informativere Textgruppen zu erstellen.

Um ihre Idee zu testen, sammelte das Team in einem Zeitraum von zehn Tagen im Oktober 2017 fast neun Millionen Tweets. Sie erkannten schnell, dass nicht alle diese Daten nützlich waren. Eine große Mehrheit der Tweets, etwa 81 Prozent, enthielt überhaupt keine Hashtags, was sie für ihre spezifische Methode unbrauchbar machte. Sie mussten auch mit Spam und qualitativ minderwertigen Beiträgen umgehen, wie etwa Nachrichten, die nur aus Hashtags oder einer übermäßigen Anzahl von Hashtags bestanden. Um die Daten zu filtern, wandten sie eine Reihe von Regeln an, um diese Ausreißer zu entfernen. Sie verworfen Tweets ohne Hashtags, solche mit mehr als zehn Hashtags und solche, die ausschließlich aus Labels ohne tatsächlichen Text bestanden. Sie verwendeten auch ein mathematisches Maß, um Hashtags zu identifizieren und zu entfernen, die zu häufig vorkamen, wie etwa generische Begriffe wie „Freitag“, die in so vielen verschiedenen Kontexten auftauchten, dass sie keinen spezifischen Themenbereich definierten. Sie machten jedoch eine Ausnahme für Hashtags, die für ein spezifisches, kurzlebiges Ereignis im Trend lagen, um sicherzustellen, dass wichtige, zeitkritische Gespräche nicht verloren gingen. Nach diesem strengen Reinigungsprozess blieben ihnen ein Datensatz von über 684.000 hochwertigen Tweets.

Der Kern ihres neuen Ansatzes, den sie Semantic Hashtag LDA nannten, beinhaltet eine clevere Art, diese bereinigten Tweets zu organisieren. Anstatt jeden Tweet als separates, isoliertes Dokument zu behandeln, gruppiert das System alle Tweets, die denselben Hashtag teilen. Dies erstellt ein viel größeres „Dokument“, das der Computer analysieren kann, indem die Wörter vieler verschiedener Nutzer kombiniert werden, die über dasselbe Ereignis sprachen. Die Forscher fügten dieser Gruppierung dann eine Ebene der Intelligenz hinzu. Sie brachten dem System bei, zu erkennen, dass Wörter, die oft zusammen in diesen Gruppen verwendet werden, semantisch ähnlich sind, was bedeutet, dass sie eine gemeinsame Bedeutung oder einen gemeinsamen Kontext teilen, selbst wenn sie nicht identisch sind. Durch die Kombination der Kraft dieser größeren, Hashtag-basierten Gruppen mit einem Verständnis von Wortbeziehungen konnte das System ein viel klareres Bild der diskutierten Themen erstellen.

Die Ergebnisse zeigten, dass diese neue Methode signifikant effektiver war als bisherige Techniken. Als die Forscher ihr System mit anderen Standardmethoden des Clusterings kurzer Texte verglichen, erzeugte ihr Ansatz Gruppen, die wesentlich kohärenter und logisch konsistenter waren. Vereinfacht gesagt, waren die vom Computer identifizierten Themen deutlicher und weniger verwirrend. Das System demonstrierte erfolgreich eine signifikante Reduzierung der Fehlerrate, wobei die Ergebnisse eine Abnahme von bis zu -0,02 zeigten, was bedeutete, dass es viel weniger wahrscheinlich war, unzusammenhängende Themen zu vermischen oder das Hauptthema eines Gesprächs zu übersehen. Die Forscher fanden heraus, dass sie durch die Nutzung der Hashtags als Leitfaden und die sorgfältige Bereinigung der Daten die Einschränkungen kurzer Texte überwinden konnten, indem sie einen chaotischen Strom von Millionen kurzer Nachrichten in organisierte, verständliche Informationscluster verwandelten. Diese Arbeit zeigt, dass Computer, indem sie die Art und Weise nutzen, wie Menschen ihre eigenen Inhalte natürlich kennzeichnen, lernen können, die laute, schnelllebige Welt der sozialen Medien sinnvoll zu interpretieren.