Deep Generalised Mixed Models: a Novel Neural Network Structure for Analysing Hierarchical Data
Dieses Paper schlägt eine neuartige Architektur eines Deep Generalised Mixed Model vor, die gemischte Effekte in das Deep Learning integriert, um Selektionsbias durch unter zufälligen Bedingungen fehlende Daten in hochdimensionalen Längsschnittstudien, wie etwa dem GrowIt!-Datensatz zu jugendlicher Emotion, zu adressieren, wenngleich der Ansatz derzeit vor Herausforderungen hinsichtlich der Modellinstabilität steht.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen zu verstehen, wie sich eine Gruppe von Freunden jeden einzelnen Tag fühlt. Sie bitten sie, mehrmals täglich über Wochen hinweg ihre Stimmung, ihr Stresslevel und ihre Langeweile zu protokollieren. Dies nennt man „Experience Sampling“ (Erlebnis-Stichproben), und es ist so, als würde man tausend winzige Schnappschüsse aus dem Leben einer Person machen, anstatt nur ein einziges großes Foto am Ende des Jahres. Das Problem ist: Das Leben wird chaotisch. Manchmal vergessen Ihre Freunde, sich zu melden, oder sie hören ganz auf, sich zu melden, weil sie einen wirklich schlechten Tag haben. In der Welt der Datenwissenschaft nennt man das „fehlende Daten“ (missing data).
Lange Zeit haben Statistiker ein Werkzeug namens „Mixed Models“ (gemischte Modelle) genutzt, um dies zu handhaben. Denken Sie bei diesen Modellen an einen klugen Trainer, der die allgemeinen Regeln des Spiels kennt (wie die meisten Menschen sich fühlen), aber auch ein spezielles Notizbuch für jeden Spieler führt, um dessen einzigartige Eigenheiten zu sich zu merken. Diese Oldschool-Trainer werden jedoch überfordert, wenn die Daten zu groß oder zu komplex werden. Auf der anderen Seite sind moderne „Machine Learning“-Trainer super schnell und können riesige Mengen an Daten bewältigen, aber sie lassen sich leicht austricksen. Wenn ein Spieler aufhört zu spielen, weil er traurig ist, ignoriert ein Standard-Machine-Learning-Trainer diesen Umstand vielleicht einfach und vermutet, dass der Spieler völlig in Ordnung ist, was zu falschen Vorhersagen führt. Die große Frage, die Wissenschaftler stellen, laet sich so formulieren: Können wir einen Trainer bauen, der sowohl schnell genug ist, um riesige Datenmengen zu bewältigen, als auch klug genug, um zu verstehen, warum Menschen aussteigen, damit wir nicht die falsche Antwort erhalten?
Dieses Paper stellt einen neuen, experimentellen Trainer namens Deep Generalised Mixed Model (DGMM) vor. Die Autoren, ein Forscherteam aus den Niederlanden, wollten sehen, ob sie die besten Teile der alten statistischen Trainer und der neuen Machine-Learning-Trainer zu einer Superstruktur kombinieren können. Sie bauten diesen neuen Modelltyp mithilfe einer Art künstlicher Intelligenz namens „Neural Network“ (neuronales Netz), das wie ein digitales Gehirn aus Schichten verbundener Knoten funktioniert. Speziell verwendeten sie einen cleveren Trick namens „Variational Auto-Encoder“. Man kann sich das wie eine zweiteilige Maschine vorstellen: Ein Teil (der Encoder) versucht, das unvollständige, chaotische Tagebuch einer Person zu einer einfachen Zusammenfassung ihres „verborgenen Gefühlszustands“ zu komprimieren, und der andere Teil (der Decoder) versucht, diese Zusammenfassung wieder zu erweitern, um vorherzusagen, wie ihre zukünftigen Tage aussehen werden.
Die Forscher testeten dieses neue Modell mit echten Daten aus einer App namens „Growit!“, die von Teenagern während der Pandemie verwendet wurde, um ihre Emotionen zu verfolgen. Sie führten zudem hunderte Computersimulationen durch, um zu sehen, wie das Modell unter verschiedenen Bedingungen reagiert, einschließlich Fällen, in denen Daten fehlten, weil Menschen sich besonders negativ fühlten.
Die Ergebnisse waren eine Mischung aus Verheißung und Realitätscheck. Selbst als die Daten perfekt und vollständig waren, erreichte das neue DGMM nicht ganz die Vorhersageleistung der Standard-Machine-Learning-Modelle; tatsächlich zeigte es eine etwas schlechtere Genauigkeit als ein Standard „Recurrent Neural Network“ (RNN). Doch als die Daten chaotisch und lückenhaft waren (was in der realen Welt genau so passiert), wurde die Situation komplexer. Im Realwelt-Test mit den Teenagern zeigte das DGMM eine schlechtere Gesamtanpassung an die Daten im Vergleich zum RNN. Das RNN wurde jedoch als „sehr instabil“ beschrieben, da es Vorhersagen lieferte, die wild schwankten. Im Gegensatz dazu folgte das DGMM für einige Individuen den tatsächlichen Trends besser als das RNN, das manchmal große, ungenaue Einbrüche in der Stimmung vorhersagte.
Die Autoren vermuten, dass diese Instabilität darauf zurückzuführen sein könnte, dass das Modell sehr empfindlich auf seine Konfiguration reagiert und mit der spezifischen Art und Weise, wie die Daten der Teenager fehlten, zu kämpfen hatte. In ihren Computersimulationen hingegen, als das Modell korrekt arbeitete, war es tatsächlich besser darin, die Zukunft für Menschen vorherzusagen, die aus der Studie ausgeschieden waren, als die Standardmodelle. Es gelang ihm, die Tatsache zu berücksichtigen, dass Menschen, die aufgehört hatten, sich zu melden, wahrscheinlich eine schwerere Zeit hatten, während die Standardmodelle diesen Hinweis übersehen hatten.
Letztendlich kommt das Paper zu dem Schluss, dass das Deep Generalised Mixed Model zwar eine faszinierende neue Idee ist, die ein mächtiges Werkzeug zum Verständnis komplexer menschlicher Verhaltensweisen sein könnte, aber es noch nicht ganz bereit ist, die alten Werkzeuge zu ersetzen. Es ist wie ein Prototyp eines Autos, das einen fantastischen Motor hat, aber ein Lenkrad, das wackelt. Die Forscher fanden heraus, dass Ärzte und Psychologen vorerst wohl eher bei den Daten bleiben sollten, die sie tatsächlich vorliegen haben, anstatt sich auf die Vorhersagen des Modells darüber zu verlassen, was hätte passieren können. Sie argumentieren jedoch, dass diese neue Architektur mit etwas Feinabstimmung und besseren Stabilitäts-Tricks eines Tages zum Goldstandard für die Analyse dessen werden könnte, wie wir fühlen, denken und uns im Laufe der Zeit verändern.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.