Stellen Sie sich vor, Sie betreten eine riesige, chaotische Bibliothek, in der Millionen von Menschen lautstark verkünden, welche Bücher sie mochten, aber der Raum ist so laut, dass Sie sie kaum verstehen können. Einige Leute flüstern, andere schreien, und ein paar machen nur zufällige Geräusche, die so klingen, als würden sie ein Buch mögen, es aber eigentlich nicht tun. Dies ist die Welt der Empfehlungssysteme, der digitalen Motoren hinter Netflix, Spotify und Amazon, die versuchen zu erraten, was Sie als Nächstes wollen könnten. Um diese Vermutungen anzustellen, nutzen Computer etwas, das man Graph Neural Networks (GNNs) nennt. Stellen Sie sich ein GNN wie einen superintelligenten Bibliothekar vor, der nicht nur auf die Liste einer einzelnen Person schaut, sondern auf das gesamte Geflecht der Verbindungen zwischen jedem Leser und jedem Buch. Dieser Bibliothekar hat jedoch ein Problem: Wenn die Bibliothek zu leise ist (dünne Daten/Sparse Data) oder zu laut (schlechtes Feedback/Noise), wird der Bibliothekar verwirrt und beginnt, Bücher zu empfehlen, die Sie hassen werden.

Die große Frage, die sich Wissenschaftler stellen, lautet: Wie bringen wir diesen Bibliothekar bei, den Lärm zu ignorieren und die echten Muster zu finden, selbst wenn die Daten unordentlich sind? Die Antwort besteht meistens aus kontrastivem Lernen (contrastive learning), was so ist, als würde man den Bibliothekar bitten, zwei leicht unterschiedliche Versionen derselben Geschichte zu vergleichen, um zu sehen, was gleich bleibt (die Wahrheit) und was sich verändert (das Rauschen). Die meisten aktuellen Methoden versuchen jedoch, das Rauschen zu beheben, indem sie die Regale der Bibliothek wahllos schütteln oder gefälschte Bücher hinzufügen, was aber versehentlich auch das Gute zusammen mit dem Schlechten wegwerfen kann.

Dieses Paper stellt einen neuen, cleveren Bibliothekar namens COMPASS (Contrastive Multi-Decomposition Approach with Social-Guided Signals) vor. Anstatt die Regale wahllos zu schütteln, nutzt COMPASS eine spezielle Brille, mit der es die Bibliothek in Schichten sehen kann. Es betrachtet das „Große Ganze“ dessen, was alle mögen (globale Muster), und zoomt dann heran, um die winzigen, spezifischen Details dessen zu sehen, was nur wenige Menschen mögen (lokale Details). Es hört auch darauf, was Ihre Freunde über Bücher sagen, aber nur als sanfte Empfehlung, nicht als strikte Regel. Die Forscher haben dies mit echten Daten aus Musik, Filmen und Büchern getestet und festgestellt, dass COMPASS viel besser darin ist, das Rauschen zu ignorieren und großartige Empfehlungen zu geben, selbst wenn die Daten sehr unordentlich sind oder Nutzer noch nicht viele Bücher gelesen haben.

Das Problem: Eine verrauschte Bibliothek

Stellen Sie sich vor, Sie versuchen herauszufinden, was Ihr Freund gerne isst. Sie fragen ihn: „Magst du Pizza?“ und er sagt „Ja“. Aber was, wenn er nur höflich war oder vielleicht einfach nur hungrig war und zu allem „Ja“ gesagt hat? In der Welt der Online-Empfehlungen passiert das ständig. Nutzer klicken auf Dinge, die sie eigentlich nicht mögen, oder stöbern einfach nur herum, ohne zu kaufen. Dies wird als verrauschtes implizites Feedback (noisy implicit feedback) bezeichnet.

Aktuelle Computerprogramme, die versuchen zu erraten, was Sie mögen (Empfehlungssysteme), behandeln jeden Klick oft als absolute Wahrheit. Sie bauen eine riesige Karte (einen Graphen), die Nutzer mit Artikeln verbindet. Aber wenn die Karte zu viele falsche Verbindungen hat, verirrt sich der Computer. Es ist, als würde man versuchen, durch eine Stadt zu navigieren, in der die Hälfte der Straßenschilder in die falsche Richtung zeigt. Die meisten bestehenden Methoden versuchen, dies zu beheben, indem sie wahllos Verbindungen löschen oder gefälschte hinzufügen, um zu sehen, was passiert. Aber das ist ein wenig so, als würde man versuchen, eine kaputte Karte zu reparieren, indem man Pfeile darauf wirft und hofft, den richtigen Punkt zu treffen. Oft entfernt man dabei die guten Hinweise zusammen mit den schlechten.

Die Lösung: COMPASS und seine spezielle Brille

Die Autoren dieses Papers, Mohammad Aliabadi, Alireza Abdollahpouri und Parham Moradi, haben ein neues System namens COMPASS entwickelt. Anstatt wahllos zu raten, welche Verbindungen echt sind, nutzt COMPASS einen mathematischen Trick namens Singular Value Decomposition (SVD).

Betrachten Sie SVD als eine Methode, ein riesiges, unordentliches Foto der Bibliothek zu nehmen und es in Schichten der Klarheit aufzuteilen:

1. Die Low-Rank-Schicht (Das Große Ganze): Diese Schicht zeigt die offensichtlichsten Muster. Es ist, als würde man die Bibliothek aus einer Drohne heraus betrachten: Man kann die Hauptgänge und die populärsten Abschnitte klar erkennen. Dies ist ideal für Nutzer, die noch nicht viele Bücher gelesen haben (Sparse User), da es ihnen eine sichere, allgemeine Empfehlung basierend auf dem gibt, was alle mögen.
2. Die High-Rank-Schicht (Die feinen Details): Diese Schicht zoomt heran, um die winzigen, spezifischen Details zu zeigen. Es ist, als würde man durch den Gang gehen und bemerken, dass eine ganz bestimmte Person ein sehr obskures Genre liebt. Dies ist ideal für Nutzer, die schon viele Bücher gelesen haben (aktive Nutzer), da es deren einzigartigen, spezifischen Geschmack erfasst.

Die meisten Systeme schauen nur auf eine dieser Schichten. COMPASS hingegen setzt eine Gumbel-Softmax-Brille auf. Diese Brille entscheidet automatisch, wie viel man auf das „Große Ganze“ im Vergleich zu den „feinen Details“ schauen soll – und zwar für jeden Menschen individuell. Wenn Sie ein neuer Nutzer sind, konzentriert sich die Brille auf das Große Ganze. Wenn Sie ein Super-Fan sind, zoomt die Brille auf die Details. Dies geschieht automatisch, ohne dass der Computer angewiesen werden muss.

Das soziale Flüstern

COMPASS hört auch auf Ihre Freunde, aber es tut dies vorsichtig. In vielen Systemen wird, wenn Ihr Freund etwas mag, der Computer Sie dazu zwingen, es auch zu mögen. Aber was, wenn Ihr Freund gerade einfach nur seltsam ist? COMPASS behandelt soziale Verbindungen als ein sanftes Flüstern (soft whisper). Es sagt: „Hey, dein Freund mag das, also magst du es vielleicht auch“, aber es erzwingt es nicht. Wenn der Computer sieht, dass der Geschmack Ihres Freundes nicht mit Ihrem tatsächlichen Verhalten übereinstimmt, ignoriert er das Flüstern. Dies hilft dem System, robust zu bleiben, selbst wenn einige soziale Verbindungen gefälscht oder schwach sind.

Der Balanceakt

Einem Computer beizubringen, all diese Dinge gleichzeitig zu tun, ist knifflig. Der Computer muss lernen, Artikel zu empfehlen (die Hauptaufgabe), während er gleichzeitig lernt, das Rauschen zu ignorieren (die Zusatzaufgabe). Wenn er sich zu sehr darauf konzentriert, das Rauschen zu ignorieren, könnte er vergessen, wie man empfiehlt. Wenn er sich zu sehr auf das Empfehlen konzentriert, könnte er durch das Rauschen verwirrt werden.

Die Autoren verwendeten eine gradienten-balancierte Gewichtungsstrategie (gradient-balanced weighting strategy). Stellen Sie sich eine Wippe vor, bei der sich die Gewichte ständig selbst anpassen. Der Computer beobachtet, wie schwer es ist, jeden Teil zu lernen, und verschiebt das Gewicht automatisch, um die Wippe im Gleichgewicht zu halten. Dies stellt sicher, dass der Computer beide Fähigkeiten perfekt lernt, ohne dass die eine die andere überlagert.

Was sie herausgefunden haben

Das Team testete COMPASS auf drei realen Datensätzen: Yelp (Unternehmen), LastFM (Musik) und Douban (Bücher). Sie verglichen es mit zehn anderen Top-Systemen.

• Bessere Genauigkeit: COMPASS war den anderen Systemen konsistent überlegen. Auf dem Douban-Datensatz verbesserte es die Genauigkeit der Empfehlungen um bis zu 5,76 % (gemessen an NDCG@20) im Vergleich zum nächstbesten System. Das mag klein klingen, aber in der Welt der Empfehlungsmaschinen ist das ein riesiger Sieg.
• Umgang mit Rauschen: Die Forscher haben absichtlich „Rauschen“ in die Daten eingefügt und 20 % der Interaktionen gefälscht. Selbst mit dieser Menge an Verfälschungen blieb COMPASS leistungsstark, während andere Systeme einbrachen. Dies deutet darauf darauf hin, dass COMPASS sehr gut darin ist, falsche Signale zu ignorieren.
• Hilfe für neue Nutzer: Das System war besonders gut darin, Nutzern mit sehr wenigen Interaktionen zu helfen (Sparse User). Durch die Konzentration auf das „Große Ganze“ konnte es immer noch gute Vermutungen anstellen, selbst wenn es kaum Daten zur Verfügung hatte.
• Geschwindigkeit: Trotz all der zusätzlichen Mathematik wurde das System nicht wesentlich langsamer. Die zusätzlichen Berechnungen (die SVD-Schichten) wurden einmalig vor dem Training durchgeführt, sodass es während des eigentlichen Lernprozesses genauso schnell war wie die anderen Systeme.

Das Fazit

Das Paper legt nahe, dass das Geheimnis eines großartigen Empfehlers nicht nur darin besteht, mehr Daten zu haben oder mehr Rauschen in die Mischung zu werfen. Es geht darum, die Daten aus verschiedenen Blickwinkeln zu betrachten. Indem wir die Verbindungen zwischen Nutzer und Artikel in Schichten des „Großen Ganzen“ und der „feinen Details“ aufteilen und das System entscheiden lassen, welchen Winkel es für jede Person fokussieren soll, können wir Systeme bauen, die intelligenter, robuster und besser darin sind, die unordentliche Realität des menschlichen Verhaltens zu handhaben.

Die Autoren merken an, dass dies zwar gut funktioniert, es aber noch Raum für Wachstum gibt. Zukünftige Arbeit könnte darin bestehen, das „soziale Flüstern“ noch intelligenter zu gestalten, indem man herausfindet, welche Freunde vertrauenswürdig sind, oder dieselbe Multi-Layer-Idee auf soziale Netzwerke selbst anzuwenden. Aber für den Moment zeigt COMPASS, dass ein wenig strukturelle Dekomposition einen langen Weg geht, um unsere digitalen Empfehlungen ein Stück weit menschlicher wirken zu lassen.