AI-Driven Feature Selection Using Only Survey Variable Descriptions: Large Language Models Identify Adolescent Vaping Predictors

Die Studie zeigt, dass instruierte Large Language Models allein anhand von Textbeschreibungen von Umfragevariablen zuverlässige Prädiktoren für das Einsetzen des E-Zigarettenkonsums bei Jugendlichen identifizieren können, was einen skalierbaren und datenschutzkonformen Ansatz für die Verhaltensforschung bietet.

Das Wesentliche

🧠 Der digitale Detektiv: Wie KI-Modelle ohne Daten die Zukunft vorhersagen

Stellen Sie sich vor, Sie wollen herausfinden, welche Teenager in der Zukunft mit dem Vaping (dem Dampfen von E-Zigaretten) beginnen werden. Normalerweise müssten Forscher dafür riesige Datenbanken durchwühlen, Tausende von Fragen beantworten lassen und dann mit komplexen Statistiken versuchen, Muster zu finden.

Diese Studie hat jedoch einen völlig neuen, fast magischen Weg gewählt. Sie fragte sich: Können wir die Antwort finden, ohne jemals die echten Daten der Jugendlichen zu sehen?

Die Antwort ist ein klares Ja. Hier ist, wie sie es gemacht haben:

1. Das Problem: Der Ozean an Fragen

Die Forscher hatten Zugriff auf eine riesige Umfrage (die PATH-Studie) mit 214 verschiedenen Fragen. Das ist wie ein riesiger Werkzeugkasten, der voller Schrauben, Hämmer, Sichten und Schraubenzieher steckt. Die meisten dieser Werkzeuge sind für die Aufgabe vielleicht gar nicht nötig, aber man weiß nicht, welche.

2. Die Lösung: Die "KI-Lesemeister"

Anstatt die echten Antworten der Teenager zu analysieren, gaben die Forscher den Fragen nur ihre Beschreibungen in vier verschiedene, sehr intelligente KI-Modelle (die sogenannten "Large Language Models" oder LLMs).

• Die Analogie: Stellen Sie sich diese KIs als vier hochintelligente Bibliothekare vor. Sie haben nie die Bücher (die echten Daten) gelesen, aber sie kennen den Inhalt der Buchrücken und der Zusammenfassungen (die Fragenbeschreibungen) perfekt.
• Die Forscher fragten die Bibliothekare: "Basierend nur auf dem Titel und der Beschreibung dieser 214 Fragen: Welche 30 Fragen sind die wichtigsten, um vorherzusagen, wer später mit dem Vaping anfängt?"

Die KIs antworteten, ohne jemals eine einzige echte Person gesehen zu haben. Sie nutzten ihr allgemeines Wissen über menschliches Verhalten, Psychologie und Risikofaktoren.

3. Der Test: Der "Koch-Wettbewerb"

Nachdem die KIs die wichtigsten Fragen ausgewählt hatten, nahmen die Forscher diese kleinen Listen (z. B. nur die Top 30 Fragen) und fütterten sie in einen klassischen Computer-Algorithmus (LightGBM), um zu sehen, ob diese Auswahl funktioniert.

• Das Ergebnis: Es war erstaunlich! Die Modelle, die nur mit den von der KI ausgewählten Fragen arbeiteten, waren genau so gut oder sogar besser als Modelle, die alle 214 Fragen benutzt hatten.
• Besonders das Modell Qwen 2.5 war ein Gewinner: Mit nur 30 Fragen erreichte es eine Vorhersagegenauigkeit von fast 80 %.

4. Die Übereinstimmung: Vier Köpfe, eine Meinung

Das Spannendste war, dass alle vier KI-Modelle fast die gleichen Fragen auswählten.

• Die Analogie: Es ist, als würden vier verschiedene Detektive, die sich nie getroffen haben, unabhängig voneinander denselben Fall lösen. Wenn sie alle auf die gleichen drei Verdächtigen zeigen, dann sind diese Verdächtigen fast sicher die Schuldigen.
• Die KIs wählten Fragen aus, die logisch Sinn ergeben: "Haben Freunde geraucht?", "Wie sieht es zu Hause aus?", "Wie gefährlich empfindet der Teenager das Vaping?". Das bestätigt, dass die KIs wirklich "verstanden" haben, worum es geht, und nicht nur zufällig geraten haben.

Warum ist das so wichtig? (Die Vorteile)

1. Datenschutz wie ein Safe: Da die KIs nur die Beschreibungen der Fragen lesen und nicht die echten Antworten der Teenager, müssen keine sensiblen personenbezogenen Daten ausgetauscht werden. Das ist wie ein Architekt, der einen Hausplan entwirft, ohne jemals die Bewohner gesehen zu haben.
2. Schnelligkeit: Statt Monate zu brauchen, um Daten zu säubern und Modelle zu trainieren, kann man so schnell neue Fragen identifizieren.
3. Verständlichkeit: Man weiß genau, warum eine Frage wichtig ist (weil die KI es uns erklärt hat), und nicht nur, dass ein Computer sie "irgendwie" als wichtig eingestuft hat.

Fazit

Diese Studie zeigt, dass wir künstliche Intelligenz nutzen können, um menschliches Verhalten zu verstehen, ohne dabei die Privatsphäre der Menschen zu verletzen.

Statt einen riesigen Datenberg zu bewegen, reicht es manchmal aus, die "Landkarte" (die Fragenbeschreibungen) von einem sehr klugen digitalen Navigator lesen zu lassen. Dieser Navigator sagt uns dann genau, welche Wege wir gehen müssen, um das Ziel zu erreichen. Ein großer Schritt für die Gesundheitsforschung!

Technische Zusammenfassung

Technische Zusammenfassung: KI-gestützte Merkmalsauswahl mittels nur von Umfragen beschriebenen Variablen

Titel: AI-Driven Feature Selection Using Only Survey Variable Descriptions: Large Language Models Identify Adolescent Vaping Predictors
Veröffentlichung: medRxiv Preprint (Stand: März 2026)

---

1. Problemstellung

Die Forschung zu Tabakkonsumverhalten, insbesondere bei Jugendlichen und dem Aufkommen von elektronischen Nikotindelivery-Systemen (ENDS, z. B. E-Zigaretten), stützt sich stark auf große, hochdimensionale Umfragedatensätze (wie die PATH-Studie).

• Herausforderung: Herkömmliche statistische Ansätze (z. B. Regression) und traditionelle Merkmalsauswahlmethoden (RFE, Lasso, Mutual Information) stoßen bei der Verarbeitung dieser komplexen Daten an Grenzen. Sie erfordern oft manuelle Expertenkenntnisse zur Auswahl von Kovariaten, sind datenintensiv, instabil über verschiedene Datensätze hinweg und anfällig für Stichprobenverzerrungen.
• Datenschutz und Skalierbarkeit: Viele Forschungsansätze erfordern den Zugriff auf Rohdaten, was Datenschutzbedenken aufwirft und die Skalierbarkeit einschränkt.
• Ziel: Es wurde untersucht, ob Large Language Models (LLMs) in der Lage sind, zuverlässige Prädiktoren für den Beginn des ENDS-Konsums bei Jugendlichen zu identifizieren, indem sie ausschließlich die textuellen Beschreibungen der Umfragevariablen nutzen, ohne Zugriff auf die eigentlichen Rohdaten der Teilnehmer zu haben.

2. Methodik

Datenbasis:

• Quelle: Population Assessment of Tobacco and Health (PATH) Study.
• Kohorte: 7.943 nikotinfreie (tobacco-naïve) Jugendliche im Alter von 12–16 Jahren aus der Welle 4.5 (Dez 2017–Dez 2018).
• Zielvariable: Status des ENDS-Konsums in den letzten 30 Tagen in Welle 5 (Dez 2018–Nov 2019).
• Vorverarbeitung: Aus den ursprünglichen 1396 Variablen wurden nach Bereinigung (Fehlende Werte, geringe Varianz) 214 relevante Variablen aus Welle 4.5 für die Merkmalsauswahl ausgewählt.

LLM-basierte Merkmalsauswahl (Text-Driven Feature Selection):

• Modelle: Vier instruktionsfine-tuned LLMs wurden systematisch evaluiert:
  1. GPT-4o
  2. LLaMA 3.1-70B
  3. Qwen 2.5-72B-Instruct
  4. DeepSeek-V3
• Prozess:
  • Den Modellen wurden Name und textuelle Beschreibung jeder der 214 Variablen präsentiert.
  • Die Modelle erhielten den Auftrag, jedem Merkmal einen Wichtigkeits-Score (0–1) zuzuweisen, der den Einfluss auf die Vorhersage des zukünftigen ENDS-Konsums angibt.
  • Stabilitätstest: Jeder LLM wurde 15 unabhängige Male durchlaufen, um die Konsistenz der Scores zu gewährleisten (Berechnung des Mittelwerts der Scores).
  • Hyperparameter: Temperatur 0.7, Top-p 0.7, Top-k 50.
• Auswahlstrategie: Für jedes Modell wurden Top-Listen mit 50, 45, ..., bis hin zu 10 Merkmalen erstellt.

Vorhersagemodellierung:

• Algorithmus: LightGBM (Gradient Boosting Decision Trees) wurde verwendet, um den ENDS-Konsum basierend auf den von den LLMs ausgewählten Merkmalen vorherzusagen.
• Validierung: Die Daten wurden in Trainings- (80%) und Testsets (20%) aufgeteilt.
• Optimierung: Hyperparameter wurden mittels Optuna (Bayesian Optimization) optimiert.
• Metrik: Die Leistung wurde primär anhand der Fläche unter der ROC-Kurve (AUC) gemessen.

3. Wichtige Beiträge

1. Zero-Shot Merkmalsauswahl ohne Rohdaten: Die Studie demonstriert erstmals systematisch, dass instruktionsfine-tuned LLMs in der Lage sind, hochpräzise Merkmalsauswahlen für epidemiologische Studien durchzuführen, indem sie nur semantische Informationen (Variablendefinitionen) nutzen. Dies ermöglicht einen datenschutzkonformen Workflow.
2. Vergleich mehrerer State-of-the-Art-Modelle: Im Gegensatz zu früheren Arbeiten, die oft nur ein Modell nutzten, wurde hier ein direkter Vergleich zwischen vier unterschiedlichen LLM-Architekturen (OpenAI, Meta, Alibaba, DeepSeek) gezogen.
3. Stabilitätsanalyse: Durch die 15-fache Wiederholung wurde gezeigt, dass die von den LLMs generierten Wichtigkeits-Scores über verschiedene Runs hinweg stabil sind (niedrige Varianz und Variationskoeffizient).
4. Konsistenz der Prädiktoren: Trotz unterschiedlicher Architekturen zeigten alle vier Modelle eine hohe Übereinstimmung bei den identifizierten Top-Prädiktoren (31 gemeinsame Variablen in den Top-50-Listen).

4. Ergebnisse

• Stabilität: Die Scores der LLMs waren hochkonsistent (Relative Mean Deviation: 0–0.15; Variance: 0–0.018).
• Vorhersageleistung (AUC):
  • Baseline: Ein LightGBM-Modell, das mit allen 214 Variablen trainiert wurde, erreichte einen durchschnittlichen AUC von 0,768.
  • LLM-Auswahl: Modelle, die mit den von den LLMs ausgewählten reduzierten Merkmalsätzen trainiert wurden, erreichten teilweise höhere AUC-Werte als das Baseline-Modell.
  • Bestes Ergebnis: Das Modell Qwen 2.5-72B-Instruct erreichte mit nur 30 ausgewählten Merkmalen einen AUC von 0,791 (SD: 0,024).
  • Andere Modelle:
    • LLaMA 3.1-70B: AUC 0,789 (mit 40 Merkmalen).
    • GPT-4o: AUC 0,784 (mit 35 Merkmalen).
    • DeepSeek-V3: AUC 0,772 (mit 35 Merkmalen).
• Inhaltliche Validierung: Die von den LLMs identifizierten Top-Prädiktoren deckten kritische Domänen ab, die mit der bestehenden Literatur übereinstimmen: Einfluss von Gleichaltrigen und Haushalt, Risikowahrnehmung, Exposition gegenüber Tabakkonsum und Werbung sowie persönliche Einstellungen.

5. Bedeutung und Schlussfolgerung

• Effizienz und Interpretierbarkeit: Der Ansatz ermöglicht es, komplexe Umfragedaten auf die wichtigsten Prädiktoren zu reduzieren, ohne dass Rohdaten verarbeitet werden müssen. Dies erhöht die Interpretierbarkeit und reduziert den Rechenaufwand.
• Datenschutz: Da keine individuellen Daten an die LLMs gesendet werden müssen (nur Variablendefinitionen), ist dieser Ansatz besonders für sensible Gesundheitsdaten geeignet.
• Validierung: Die hohe Übereinstimmung der LLM-Ergebnisse mit früheren Studien, die auf SHAP-Werten oder traditionellen ML-Methoden basierten, bestätigt die Zuverlässigkeit dieser neuen Methode.
• Ausblick: Die Studie legt nahe, dass LLMs als skalierbare, datenschutzkonforme Werkzeuge für die Verhaltensgesundheitsforschung und die Überwachung des Tabakkonsums etabliert werden können.

Einschränkungen: Die Studie weist darauf hin, dass die Modelle nicht spezifisch auf PATH-Sprache feinabgestimmt waren und dass die Qualität der Umfragebeschreibungen entscheidend für den Erfolg ist. Zudem bestehen potenzielle Risiken durch "Halluzinationen" oder Prompt-Sensitivität.

Fazit: Instruktionsfine-tuned Large Language Models können effektiv Merkmalsauswahlen allein basierend auf textuellen Beschreibungen durchführen und dabei Vorhersageleistungen erzielen, die mit oder sogar besser sind als Modelle, die auf vollständigen Datensätzen trainiert wurden.