From Carb Counting to Diagnosis: Real World Patient Uses and Attitudes Toward Large Language Models in Diabetes Management

Dit onderzoek onderzocht hoe patiënten met diabetes large language models (LLMs) in de praktijk gebruiken voor taken zoals klinische interpretatie, voeding en emotionele ondersteuning, en bespreekt de implicaties voor de integratie van deze tools in het zelfmanagement.

De kern

Van Koolhydraat Tellen tot Diagnose: Hoe Mensen met Diabetes AI Gebruiken (en Wat We Ervan Moeten Vinden)

Stel je voor dat je diabetes hebt. Het is alsof je 24 uur per dag een onzichtbare, strenge chef-kok en een boze leraar wiskunde in je hoofd hebt. Je moet constant tellen, meten, plannen en beslissingen nemen: Hoeveel koolhydraten zit er in deze appel? Moet ik nu extra insuline spuiten? Waarom is mijn bloedsuiker zo hoog? Het is een zware mentale last, 24/7.

In de afgelopen jaren zijn er nieuwe, slimme hulpmiddelen opgedoken: Grote Taalmodellen (LLMs), zoals ChatGPT. Mensen met diabetes beginnen deze digitale "superhulp" te gebruiken om hun dagelijkse strijd makkelijker te maken. Maar wat doen ze er precies mee? En is het veilig?

Dit onderzoek van de Universiteit van Wisconsin-Milwaukee duikt in de echte wereld (specifiek op Reddit) om te zien hoe mensen deze AI-tools echt gebruiken. Hier is wat ze hebben ontdekt, vertaald naar simpele taal.

1. De "Digitale Vriend" in de Keuken en de Kamer

De onderzoekers keken naar duizenden berichten van mensen die AI gebruiken. Ze ontdekten dat mensen de AI niet alleen gebruiken als een naslagwerk, maar als een multitasker die verschillende rollen speelt:

• De Slimme Kok (Voeding & Dieet): Dit is de populairste rol. Mensen vragen: "Wat kan ik eten als ik 10 gram koolhydraten wil?" of "Geef me een recept dat veilig is voor diabetes." De AI fungeert hier als een snelle, creatieve assistent die helpt met het plannen van maaltijden.
• De Wiskundeleraar (Data Analyse): Mensen uploaden soms hun bloedsuikercijfers (van hun meetapparatuur) naar de AI en vragen: "Kijk eens naar deze grafiek, wat zie jij?" De AI helpt patronen te vinden, zoals "Je suiker gaat altijd omhoog na het slapen." Het is alsof je een supercomputer hebt die je dagboek leest in een seconde.
• De Diagnose-Detective (Symptomen & Uitleg): Voordat iemand naar de dokter gaat, of als ze een labresultaat niet begrijpen, vragen ze de AI: "Betekenen deze symptomen diabetes?" of "Wat betekent dit HbA1c-getal?" De AI probeert de medische taal te vertalen naar begrijpelijk Nederlands.
• De Therapeut (Emotionele Steun): Soms is het gewoon even nodig om te praten. Mensen delen hun frustraties of angst met de AI. Het is een veilige plek om even te ventileren zonder oordeel.

2. Het Gevaar: De "Gouden Kooi" van Vertrouwen

Hoewel de AI een fantastische helper kan zijn, is er een groot risico. Stel je voor dat je een auto bestuurt die een zelfrijdend systeem heeft. Soms werkt het perfect, maar soms maakt de computer een rare berekening.

In dit onderzoek zagen ze drie grote gevaren:

1. Verkeerde Adviezen: Soms geeft de AI raar advies. Bijvoorbeeld: "Eet 6 eieren per dag" (terwijl een diëtist dat juist afraadt). Of het suggereert dure medicijnen die de patiënt zich niet kan veroorloven.
2. Te Zelfverzekerd: De AI spreekt soms met een zelfverzekerdheid die niet klopt. Een gebruiker vertelde hoe de AI dacht dat een kind diabetes had op basis van een paar symptomen, wat de ouders in paniek bracht.
3. De "Gevaarlijke Sprong": Het grootste risico is dat mensen de AI gebruiken om hun insulinedosering aan te passen. Dat is alsof je een vliegtuig laat besturen door een chatbot die de handleiding heeft gelezen, maar nooit heeft gevlogen. Als de AI een fout maakt, kan dat levensgevaarlijk zijn.

3. Wat Moeten We Doen? De "Verkeersregels"

De onderzoekers concluderen dat we AI niet moeten verbieden, maar dat we slimme verkeersregels moeten maken.

• Voor de Ontwikkelaars (De Bouwers): De AI moet leren zeggen: "Ik ben niet zeker" of "Raadpleeg altijd je arts voordat je je medicatie aanpast." Het moet duidelijk zijn waar de "educatie" ophoudt en waar het "medische advies" begint.
• Voor de Artsen (De Kapiteins): Artsen moeten niet boos worden als patiënten AI gebruiken. In plaats daarvan moeten ze vragen: "Wat heb je met die chatbot besproken?" en samen met de patiënt controleren of het advies klopt.
• Voor de Patiënten (De Bestuurders): Mensen moeten leren dat AI een hulp is, geen vervanging. Het is als een navigatiesysteem in je auto: het helpt je de weg te vinden, maar jij bent nog steeds de bestuurder die moet opletten of er geen gaten in de weg zitten.

Conclusie: Een Nieuw Hulpje, Geen Wondermiddel

Kortom: Mensen met diabetes gebruiken AI als een multitaskende assistent die helpt met eten, rekenen, begrijpen en zelfs praten. Het kan de last van het dagelijks leven verlichten. Maar het is geen magische oplossing.

Het is alsof je een zeer slimme, maar soms verwarde, nieuwe assistent in huis haalt. Hij kan wonderen doen, maar je moet hem niet laten beslissen over je leven zonder dat je zelf goed kijkt. De uitdaging voor de toekomst is niet of mensen AI gaan gebruiken, maar hoe we ervoor zorgen dat deze tools veilig blijven en de patiënt niet in de problemen brengen.

Technische samenvatting

Titel: Van Koolhydraat telling tot Diagnose: Real-world Gebruik en Attitudes van Patiënten ten opzichte van Groot Taalmodellen (LLM's) in Diabetesbeheer

1. Probleemstelling

Het managen van diabetes is een tijdsintensieve en cognitief veeleisende taak voor patiënten en verzorgers, waarbij voortdurende glucosemonitoring, dieetregulatie, fysieke activiteit en aanpassing van de levensstijl vereist zijn. Ondanks de groei van digitale gezondheidsoplossingen (zoals apps en wearables), blijft er een kloof bestaan in het empirisch inzicht in hoe patiënten Groot Taalmodellen (LLM's) zoals ChatGPT daadwerkelijk inzetten voor medische taken.

• De Gaten: Er is beperkte kennis over welke specifieke diabetes-taken patiënten delegeren aan LLM's en wat hun ervaringen hiermee zijn. Bestaande studies focussen vaak op systeemmetrieken (zoals nauwkeurigheid) in plaats van organisch, door patiënten gerapporteerd gebruik.
• Risico's: Er bestaat bezorgdheid over de betrouwbaarheid van LLM-adviezen (bijv. verkeerde medicatievoorstellen, gebrek aan context) en de risico's van het delegeren van klinische beslissingen aan niet-gereguleerde systemen.

2. Methodologie

De auteurs voerden een mixed-methods analyse uit op openbare data van Reddit, een platform waar patiënten actief informatie uitwisselen.

• Dataverzameling:
  • Bron: Reddit-subreddits gericht op diabetes (o.a. r/diabetes, r/Type1Diabetes, r/prediabetes).
  • Periode: 1 januari 2023 tot 29 januari 2026 (de periode van brede adoptie van LLM's).
  • Zoekopdracht: Gebruik van trefwoorden zoals "LLM", "GPT", "Gemini", "AI", "ChatGPT".
  • Dataset: 852 posts en 1.848 commentaren (totaal 2.700 tekstentiteiten).
• Data-analyse:
  • Kwalitatieve Thematische Analyse: Drie onderzoekers ontwikkelden een codeboek via open codering van een subset (60 posts), gevolgd door iteratieve verfijning. Inter-rater betrouwbaarheid werd berekend (Attitude: 0,77; Use Cases: 0,65).
  • LLM-gestuurde Analyse: Vanwege de omvang van de dataset werd gebruik gemaakt van geavanceerde LLM's (Gemini-2.5-Flash, Gemini-3.1-Pro en GPT-5) om de volledige dataset te classificeren.
  • Validatie: De prestaties van de LLM's werden getest tegen een handmatig geannoteerde set van 115 posts. Gemini-3.1-Pro presteerde het beste en werd gebruikt voor de definitieve classificatie van alle data.
  • Classificatietaken: Detectie van relevantie, houding (positief/neutral/negatief) en gebruiksscenario's (use cases).

3. Belangrijkste Bijdragen

• Empirisch Bewijs: Dit is een van de eerste studies die kwantitatief en kwalitatief inzicht geeft in het real-world gebruik van generatieve AI door diabetespatiënten.
• Conceptueel Kader: De auteurs ontwikkelen een mapping van LLM-gebruik langs een continuüm van "laag-intensieve informatieve ondersteuning" tot "hoog-intensieve therapeutische delegering" (zie Figuur 1 in het paper).
• Risicodomeinen: Identificatie van specifieke risicogebieden, waaronder therapeutische delegering (insuline-aanpassingen), diagnostische framing en blootstelling van gevoelige gezondheidsdata.
• Aanbevelingen: Een meerlaags kader voor verantwoorde integratie van LLM's, variërend van technologische guardrails tot beleidsmatige regulering en patiënteneducatie.

4. Resultaten

De analyse van 1.590 relevante datapunten (623 posts + 967 comments) leverde de volgende inzichten op:

A. Houding ten opzichte van LLM's:

• Neutraal (59,2%): De meerderheid van de posts beschreef ervaringen zonder expliciete positieve of negatieve oordelen.
• Positief (21%): Patiënten prezen de snelheid, de mogelijkheid om complexe data te analyseren, en het verminderen van de zelfmanagementlast (bijv. automatische insulineberekeningen).
• Negatief (19,9%): Kritiek richtte zich op onbetrouwbare adviezen (bijv. voedseladviezen die in strijd zijn met dieetplannen), hallucinaties, en het gebrek aan medische context.

B. Gebruiksscenario's (Use Cases):
De auteurs identificeerden negen hoofdcategorieën, gerangschikt op frequentie:

1. Voeding en Dieetondersteuning (25,9%): Het meest voorkomende gebruik. Patiënten vragen om maaltijdideeën, schatting van koolhydraten en het optimaliseren van maaltijdplannen.
2. Ziektemanagement (22,5%): Praktisch advies voor dagelijkse routines, symptoombeheer en algemene zelfmanagementstrategieën.
3. Diabeteseducatie en Zelfleren (18,3%): Het uitleggen van fysiologische mechanismen, onderzoek en complexe medische concepten.
4. Kwantitatieve Analyse van PGHD (13%): Het analyseren van Continue Glucosemonitoring (CGM) data, slaapdata en insulineverstrekkingsgegevens om patronen te identificeren.
5. Klinische Interpretatie (11,4%): Het interpreteren van symptomen (vaak pre-diagnose) of labresultaten (bijv. HbA1c) om een diagnose te bevestigen of te verduidelijken.
6. Emotionele Ondersteuning (2,3%): Het zoeken naar geruststelling, reflectie en emotionele uitlaatklep.
7. Navigatie in Gezondheidszorg (1,4%): Informatie over verzekeringen en toegang tot zorg.
8. Problemen oplossen met Medische Apparatuur (1,3%): Foutoplossing voor CGM-sensoren en pompen.

C. Kritieke Bevindingen over Risico's:

• Therapeutische Delegering: Patiënten delegeerden soms klinische redenering, zoals het aanpassen van insulineratio's of basale profielen, op basis van LLM-advies zonder arts.
• Gegevensprivacy: Patiënten uploadden gevoelige labresultaten en persoonlijke gezondheidsdata naar niet-HIPAA-compliant systemen.
• Diagnostische Impact: LLM's beïnvloedden de perceptie van symptomen en de urgentie om zorg te zoeken, soms met tegenstrijdige resultaten vergeleken met artsen.

5. Significantie en Implicaties

De studie benadrukt dat LLM's niet langer alleen informatieve bronnen zijn, maar fungeren als interpretatieve, analytische en beslissingsondersteunende tools in het zelfmanagement van patiënten.

• Veiligheid en Regulering: Er is een dringende noodzaak voor "context-aware guardrails" (bijv. waarschuwingen bij insuline-vragen) en duidelijke communicatie over onzekerheid door de AI.
• Klinische Integratie: Artsen moeten anticiperen op het gebruik van AI door patiënten en dit bespreken in plaats van het te verbieden. Co-review van AI-generatie plannen wordt aanbevolen.
• Patiënteneducatie: Diabeteseducatie moet digitale geletterdheid omvatten, waarbij patiënten leren om de probabilistische aard van LLM-outputs te begrijpen en deze niet als medische autoriteit te beschouwen.
• Toekomst: De studie pleit voor verder onderzoek (RCT's) om de veiligheid en effectiviteit van AI-gestuurde gezondheidsapplicaties te valideren en voor de ontwikkeling van AI-systemen die specifiek zijn ontworpen voor de klinische context van diabetes.

Conclusie: Hoewel LLM's het zelfvertrouwen van patiënten kunnen vergroten en de last van zelfmanagement kunnen verlichten, introduceren ze nieuwe risico's op het gebied van therapeutische delegering en privacy. De uitdaging ligt niet in of patiënten deze tools zullen gebruiken, maar hoe zorgsystemen en regelgevers kunnen zorgen dat dit gebruik veilig en klinisch verantwoord gebeurt.