Unified Semantic Modeling Framework for Large-Scale Job Understanding at LinkedIn

Stellen Sie sich vor, Sie betreten eine riesige, chaotische Bibliothek, in der jedes Buch eine Stellenausschreibung ist. Einige sind in perfekten, ordentlichen Sätzen geschrieben; andere sind auf Servietten gekritzelt, voller Tippfehler, Jargon und verwirrender Details. Stellen Sie sich nun vor, Sie müssten diese Millionen von Büchern in perfekte Kategorien sortieren, damit jeder, der nach einer „Krankenschwester“ oder einem „Software-Ingenieur“ sucht, sofort genau das findet, was er braucht. Dies ist die Welt des Natural Language Understanding (Verstehen natürlicher Sprache), eines Zweigs der Informatik, bei dem Maschinen versuchen, menschlichen Text zu lesen und zu verstehen. Die große Herausforderung besteht darin, dass die menschliche Sprache chaotisch ist, und ein System zu erschaffen, das sie perfekt für Millionen verschiedener Jobs verstehen kann, ist so, als würde man versuchen, einem Roboter beizubringen, jeden Dialekt jeder Sprache der Erde gleichzeitig zu sprechen. Normalerweise müssen Unternehmen dafür einen separaten, teuren Roboter für jede einzelne Jobkategorie bauen, was langsam, kostspielig und schwer zu verwalten ist.

Dieses Papier von LinkedIn erzählt die Geschichte, wie sie einen klügeren, flexibleren „Super-Roboter“ gebaut haben, um dieses Problem zu lösen. Anstatt tausende kleiner, spezialisierter Roboter zu bauen, haben sie ein einziges Small Language Model (SLM) erschaffen – denken Sie an einen sehr begabten, effizienten Schüler, der fast alles lernen kann, wenn man ihn richtig unterrichtet. Das Team stellte fest, dass dieser Schüler, indem man ihm eine enorme Menge an Übungsaufgaben fütterte, die von einer superintelligenten KI (GPT-4) erstellt wurden, lernen konnte, Stellenbeschreibungen mit unglaublicher Genauigkeit zu verstehen, selbst für Jobs, die er noch nie zuvor gesehen hatte. Dann gaben sie diesem Schüler eine Reihe von „spezialisierten Brillen“ (genannt Adapter), die sofort ausgetauscht werden konnten. Wenn der Schüler eine Stelle für eine Krankenschwester verstehen musste, setzte er die „Krankenhaus-Brille“ auf; für einen Anwalt wechselte er zur „Anwalts-Brille“. Dies ermöglichte es ihnen, eine riesige Vielfalt an Jobs mit nur einem einzigen Gehirn zu bewältigen, was das System schneller, kostengünstiger und viel genauer machte. Als sie dieses neue System in der realen Welt testeten, arbeitete es besser als ihre alten Methoden und half Menschen dabei, die richtigen Jobs leichter zu finden.

Die chaotische Bibliothek der Jobs

LinkedIn ist ein riesiger Marktplatz, auf dem Menschen nach Jobs suchen und Unternehmen nach Talenten suchen. Aber die „Bücher“ in ihrer Bibliothek – die Stellenausschreibungen – sind oft ein Chaos. Eine einzige Stellenbeschreibung kann ein langer, abschweifender Absatz voller Tippfehler, seltsamer Formatierungen und verborgener Details sein. Um dies nützlich zu machen, muss LinkedIn diesen chaotischen Text in saubere, organisierte Fakten umwandeln, wie zum Beispiel: „Dies ist eine Stelle als erfahrene Krankenschwester“, „Es ist eine Remote-Position“ oder „Sie zahlt 80.000 $“. Dieser Prozess wird als Job Understanding bezeichnet.

Lange Zeit versuchte LinkedIn dies zu lösen, indem sie für jede Art von Job-Attribut ein separates maschinelles Lernmodell bauten. Wenn sie die „Seniorität“ eines Jobs wissen wollten, bauten sie ein Modell. Wenn sie den „Arbeitsplatztyp“ wissen wollten, bauten sie ein anderes. Es war, als würde man für jedes einzelne Regal in der Bibliothek einen anderen Bibliothekar einstellen. Dies war teuer, langsam zu aktualisieren und oft nicht besonders gut darin, die subtile Bedeutung des Textes zu verstehen.

Der „Super-Schüler“ und das magische Lehrbuch

Die Autoren beschlossen, etwas anderes auszuprobieren. Anstatt viele Bibliothekare einzustellen, trainierten sie einen unglaublich klugen Small Language Model (SLM). Denken Sie bei diesem SLM an einen super schnellen Schüler, der gut im Lesen ist, aber das richtige Lernmaterial benötigt, um glänzen zu können.

Das Team stellte fest, dass sie nicht genügend reale Beispiele mit perfekten Antworten (Annotationen) hatten, um diesen Schüler in allem zu unterrichten. Also nutzten sie einen cleveren Trick: Sie baten eine viel größere, leistungsfähigere KI (GPT-4), ein synthetisches Lehrbuch für sie zu schreiben. Dies war nicht nur eine Liste von Fakten; es war eine Reihe von Übungsaufgaben, bei denen GPT-4 eine chaotische Stellenbeschreibung nahm, die Antwort ermittelte und – am wichtigsten – ihre Begründung aufschrieb. Es erklärte, warum eine bestimmte Stelle eine „Senior“-Rolle war oder warum sie „Remote“ war.

Indem sie ihren Schüler (das SLM) mit diesen reich an Begründungen behafteten Beispielen trainierten, lernte das Modell nicht nur die Antworten, sondern auch, wie man denkt. Dies gab dem Modell eine Superkraft namens Zero-Shot Learning. Das bedeutet, dass das Modell eine völlig neue Art von Job, die es noch nie gesehen hatte, ansehen und trotzdem die Antwort korrekt erraten konnte, indem es einfach die Logik anwandte, die es aus seinem Training gelernt hatte.

Die Strategie der „austauschbaren Brillen“

Selbst mit einem superintelligenten Schüler gab es ein Problem: Manche Jobs sind sehr spezifisch. Eine Stelle für eine „Krankenschwester“ hat spezielle Details wie „Schicht“ oder „Lizenz“, während eine Stelle für einen „Lehrer“ andere Details hat. Wenn das Modell versuchte, all dies gleichzeitig zu lernen, könnte es verwirrt werden.

Um dies zu beheben, führte das Team ein Multi-Adapter-System ein. Stellen Sie sich vor, der Schüler trägt ein Paar klarer, neutraler Brillen (das Basismodell). Wenn er eine Stelle für eine Krankenschwester verstehen muss, muss er nicht alles neu lernen; er klickt einfach ein Paar „Krankenhaus-Brillen“ (einen Adapter) auf. Diese Adapter sind winzige, leichte Ergänzungen, die dem Modell gerade genug beibringen, um diese spezifische Gruppe von Jobs zu handhaben, ohne das Wissen zu beeinträchtigen, das es bereits besitzt.

Um die Ordnung zu wahren, erstellten sie nicht für jede einzelne Stelle ein eigenes Paar Brillen. Stattdessen nutzten sie eine intelligente Gruppierungsstrategie. Sie untersuchten, wie ähnlich sich verschiedene Jobs waren, und gruppierten sie zusammen. Zum Beispiel könnten alle schichtbezogenen Attribute für Krankenschwestern und Lagerarbeiter ähnlich genug sein, um dieselbe Brille zu teilen. Dies bedeutete, dass sie hunderte verschiedene Job-Attribute mit nur wenigen Dutzend Adaptern verwalten konnten, was das System viel einfacher zu betreiben machte.

Die Ergebnisse: Schneller, schlauer und günstiger

Das Team testete dieses neue System auf zwei Arten. Zuerst ließen sie es auf einem Computer (offline) laufen, um zu sehen, wie gut es die Antworten errät. Sie verglichen es mit ihren alten, separaten Modellen und stellten fest, dass ihr neuer „Super-Schüler“ mit den austauschbaren Brillen viel genauer war. Zum Beispiel, beim Erraten der „Berufsgruppe“ (Occupation) einer Stelle, lag das alte Modell in etwa 71 % der Fälle richtig, aber das neue Modell lag in 83 % der Fälle richtig. Für den „Arbeitsplatztyp“ war das neue Modell zu 98 % korrekt, im Vergleich zu 95 % beim alten Modell.

Dann testeten sie es in der realen Welt (online), indem sie es echten LinkedIn-Nutzern zeigten. Sie führten einen Test durch, bei dem die Hälfte der Nutzer das alte System sah und die andere Hälfte das neue. Die Ergebnisse waren eindeutig: Das neue System half den Nutzern, bessere Jobs zu finden. Metriken wie „Job Sessions“ (wie oft Leute nach Jobs suchten) stiegen an, und die Wahrscheinlichkeit, dass Menschen ein „Daumen runter“ bei schlechten Empfehlungen gaben, sank.

Das System ist auch unglaublich effizient. Es läuft auf einer Flotte von 50 leistungsstarken Computerchips (GPUs) und kann Stellenbeschreibungen in durchschnittlich etwa 0,8 Sekunden verarbeiten. Da es ein kleines, effizientes Modell anstelle eines massiven, teuren Modells verwendet, kostet es viel weniger im Betrieb.

Zusammenfassend zeigt das Papier, dass man, indem man ein kleines KI-Modell lehrt, wie ein Mensch zu denken (mittels synthetischer Begründung), und ihm dann die Fähigkeit gibt, für verschiedene Jobs spezialisierte „Brillen“ auszutauschen, ein System bauen kann, das intelligenter, schneller und günstiger ist als der alte Weg. Das ist ein Gewinn für das Unternehmen und ein Gewinn für jeden, der nach seinem nächsten großen Karriereschritt sucht.