Perception of Safety in Behavioral Health Crisis Units among Patients and Care Partners versus Artificial Intelligence (AI): A Multimethod Study

Deze multimethodestudie toont aan dat de waargenomen veiligheid een cruciale rol speelt bij de keuze voor crisiscentra voor geestelijke gezondheid, waarbij een combinatie van menselijke perceptie en AI-gestuurde risicobeoordeling waardevolle inzichten biedt voor het creëren van veiligere omgevingen.

De kern

Titel: Hoe veilig voelen we ons? Mens versus Robot in Crisiscentra

Stel je voor dat je op zoek bent naar een veilige plek voor iemand die in een emotionele crisis zit. Je wilt een plek waar niemand zichzelf of anderen kan verwonden. Maar hoe kies je die plek? Kijk je naar de cijfers, of naar je eigen gevoel? En wat als een slimme computer (kunstmatige intelligentie of AI) meekijkt?

Dit onderzoek doet precies dat: het vergelijkt wat mensen voelen dat veilig is, met wat een computer berekent dat veilig is.

Het Experiment: Een Digitale Keuzestelling
De onderzoekers hebben een grote online enquête gemaakt, alsof het een spelletje is. Mensen kregen foto's te zien van verschillende crisiscentra. Op sommige foto's stonden gevaarlijke dingen (zoals touwen of scherpe hoeken waar iemand zich aan kan verwonden), op andere niet.

Deelnemers moesten kiezen: "Welke van deze plekken zou jij kiezen voor een geliefde?"
Tegelijkertijd moesten ze op de foto's wijzen waar ze gevaar zagen.

De Robot in de Hoek
Naast de mensen keek ook een slimme AI mee. Deze computer was getraind door experts om gevaarlijke objecten op foto's te herkennen, net als een zeer oplettende bewakingscamera die alles scant.

Wat Vonden Ze?

1. Het Menselijke Oog is een Krachtige Kompasnaald:
   Het bleek dat als mensen op een foto veel gevaarlijke dingen zagen, ze die plek direct afwezen. Het was alsof je een huis kiest: als je ziet dat de ramen kapot zijn en de deur niet sluit, ga je er niet wonen, zelfs als de eigenaar zegt dat het "technisch veilig" is. Mensen kiezen voor hun gevoel van veiligheid.

2. Mensen en Robot: Vrienden met Verschillende Meningen:
   De AI en de mensen waren het vaak eens over de grote gevaren. Maar er was een belangrijk verschil:

   • De AI is als een zeer strenge inspecteur die alleen kijkt naar de lijst: "Is er een touw? Ja. Is er een raam dat open kan? Ja."
   • De Mensen kijken verder. Ze zien niet alleen het touw, maar ook hoe het touw hangt, van welk materiaal de muren zijn, of er iets raars aan de muur hangt dat de computer niet kent. Mensen voelen gevaar soms aan de "sfeer" of details die een computer nog niet leert.

De Grote Les
Het onderzoek concludeert dat we de AI niet moeten zien als de enige waarheid, maar als een superhandige assistent.

Stel je voor dat je een huis bouwt. De AI is de calculator die precies rekent of de balken sterk genoeg zijn. Maar de mens is de bewoner die zegt: "Deze kamer voelt koud en onveilig, ook al zijn de balken sterk."

Conclusie in Eenvoudige Woorden:
Om crisiscentra echt veilig te maken, moeten we de slimme rekenkracht van computers combineren met het menselijke gevoel voor veiligheid. De computer helpt om de grote gevaren te vinden, maar de mens moet vertellen welke kleine details het verschil maken tussen een plek waar je je veilig voelt, en een plek waar je je angstig voelt. Samen maken ze de beste keuze.

Technische samenvatting

Probleemstelling

Veiligheid is een kritieke factor in crisisafdelingen voor gedragsgezondheid (Behavioral Health Crisis Units of BHCU's). Deze omgevingen brengen specifieke risico's met zich mee, zoals het aanwezig zijn van ligature-punten (plekken waar men zich kan ophangen), wat kan leiden tot zelfverwonding of letsel bij anderen. Er is echter beperkter onderzoek beschikbaar over hoe patiënten en hun zorgpartners deze veiligheid waarnemen en hoe deze perceptie hun keuze voor een specifieke faciliteit beïnvloedt. Daarnaast is er een kennislacune over de mate waarin deze menselijke waarneming overeenkomt met risicobeoordelingen die door kunstmatige intelligentie (AI) worden gegenereerd. Het onderzoek richt zich op het identificeren van deze discrepanties en de potentieel van AI als ondersteunend hulpmiddel.

Methodologie

De studie hanteerde een multimethodische aanpak met een nationale, online discrete keuze-experiment (Discrete Choice Experiment - DCE).

• Datacollectie: Er werden beeldgebaseerde scenario's van BHCU-omgevingen gebruikt. Deelnemers (patiënten en zorgpartners) moesten voorkeurskeuzes maken tussen verschillende faciliteiten op basis van diverse attributen, waaronder de aanwezigheid van milieurisico's zoals ligature-punten.
• Risicoidentificatie: Naast de keuzevragen werden deelnemers gevraagd om specifieke veiligheidsrisico's in de afbeeldingen te markeren.
• AI-Integratie: Een door experts getrainde AI-tool werd ingezet om dezelfde afbeeldingen te analyseren en omgevingsrisico's te detecteren.
• Data-analyse:
  • Kwantitatief: Conditionele logit-modellen werden gebruikt om de invloed van attributen op de keuze voor een faciliteit te analyseren.
  • Ruimtelijk: Er werden vergelijkingen gemaakt tussen de door deelnemers gemarkeerde gebieden en de door AI gegenereerde "heatmaps" om de uitlijning tussen menselijke perceptie en AI-detectie te beoordelen.

Belangrijkste Bijdragen

1. Kwantificering van Perceptie: Het onderzoek levert empirisch bewijs dat de waargenomen veiligheid een directe en significante invloed heeft op de keuze van gebruikers voor een zorgfaciliteit.
2. AI-Mens Vergelijking: Het biedt een zeldzame, systematische vergelijking tussen de risicowaarneming van niet-experts (patiënten/zorgpartners) en geavanceerde AI-systemen in de context van de gezondheidszorgomgeving.
3. Identificatie van Gaps: De studie identificeert specifiek welke factoren door AI worden gemist of anders worden geïnterpreteerd dan door mensen, wat waardevolle inzichten biedt voor de ontwikkeling van toekomstige detectiesystemen.

Resultaten

• Invloed op Keuze: Een hogere frequentie van zichtbare veiligheidsrisico's in de afbeeldingen leidde tot een significant lagere kans dat een faciliteit werd geselecteerd ($p < .001$, Odds Ratio $\approx$ 1,28). Dit onderstreept dat de perceptie van veiligheid een cruciale determinant is in de besluitvorming.
• Uitlijning en Afwijkingen: Hoewel er een opmerkelijke overeenkomst was tussen de door deelnemers en AI gegenereerde heatmaps (waar risico's zich bevonden), waren er ook significante verschillen.
• Beperkingen van AI: Deelnemers reageerden op kenmerken die door de AI niet volledig werden vastgelegd, zoals het specifieke type materiaal of onbekende, niet-gelabelde veiligheidsrisico's in de afbeeldingen. Dit suggereert dat menselijke contextuele interpretatie nog steeds een rol speelt die AI (op dit stadium) niet volledig kan repliceren.

Betekenis en Conclusie

De studie concludeert dat, ondanks de beperkingen van huidige AI-systemen in het volledig nabootsen van menselijke perceptie, er grote waarde zit in het integreren van AI-gestuurde hulpmiddelen. Deze tools kunnen dienen als ondersteuning voor niet-experts bij het beoordelen van veiligheidsrisico's. Door AI en menselijke perceptie te combineren, kunnen veiligere BHCU-omgevingen worden ontworpen en kunnen patiënten en zorgpartners beter geïnformeerde beslissingen nemen over hun zorgkeuze. Dit vormt een belangrijke stap naar datagedreven en veiliger inrichting van crisiszorgfaciliteiten.