Bridging Cybersecurity Expertise Gaps through Human-LLM Collaboration: Trust, Reliance, and Design Imperatives from a Mixed-Methods Study
Deze mixed-methods studie onder 58 cybersecurityprofessionals onthult dat hoewel mens-LLM-samenwerking de triage-nauwkeurigheid verbetert, de mate van afhankelijkheid van AI-advies significant varieert op basis van taaktransparantie, wat leidt tot specifieke ontwerpimperatieven voor het bouwen van betrouwbare, contextbewuste cybersecurity-assistenten die automatisering-bias mitigeren en gekalibreerd menselijk oordeel ondersteunen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de digitale wereld worden beveiligingsteams geconfronteerd met een constante vloedgolf aan alarmen. Elke dag moeten ze door duizenden verdachte e-mails en netwerkwaarschuwingen zoeken om te beslissen welke onschuldig lawaai zijn en welke echte aanvallen. Dit proces, bekend als triage, wordt vaak uitgevoerd door mensen die moe zijn, onder druk staan en soms een gebrek aan diepgaande expertise hebben. Naarmate het aantal cyberdreigingen sneller groeit dan het aantal getrainde experts, wenden organisaties zich tot kunstmatige intelligentie voor hulp. Specifiek testen ze grote taalmodellen — computerprogramma's die kunnen lezen, schrijven en redeneren met menselijke taal — om als assistenten te fungeren. De hoop is dat deze hulpmiddelen gevaren kunnen opsporen die mensen missen. Er is echter een nieuwe vraag ontstaan: als een computer advies geeft, zal een mens het dan te veel vertrouwen, of juist niet genoeg? De echte uitdaging is niet alleen of de computer slim is, maar of de mens de redenering van de computer goed genoeg kan begrijpen om de uiteindelijke beslissing te nemen.
Een team van onderzoekers van de Commonwealth Scientific and Industrial Research Organisation in Australië zette zich af om deze relatie tussen menselijke werkers en kunstmatige intelligentie te verkennen. Ze testten niet simpelweg hoe goed een computer op eigen kracht slechte e-mails of netwerkaanvallen kon vinden. In plaats daarvan bestudeerden ze hoe mensen en computers samenwerkten. Ze rekruteerden 58 deelnemers, van wie velen over technische kennis beschikten maar geen professionele cybersecurity-analisten waren. Deze vrijwilligers kregen de opdracht om twee zeer verschillende soorten beveiligingscontroles uit te voeren. De eerste taak hield in het lezen van e-mails om te zien of dit phishingpogingen waren — frauduleuze berichten die ontworpen zijn om informatie te stelen. Deze e-mails bevatten zichtbare aanwijzingen, zoals vreemde afzenderadressen of verdachte links, die een persoon zelf kan zien en controleren. De tweede taak hield in het bekijken van netwerkrecords, wat tabellen met gegevens zijn die laten zien hoe computers met elkaar communiceren. Deze records zijn veel moeilijker te lezen; de aanwijzingen zijn verborgen in complexe getallen en patronen die niet voor het blote oog zichtbaar zijn.
In de studie namen de deelnemers eerst hun eigen beslissingen over de vraag of een e-mail of een netwerkrecord veilig of gevaarlijk was. Daarna kregen ze de kans om met een AI-assistent samen te werken. De assistent kon zijn redenering uitleggen, specifieke details aanwijzen en een aanbeveling doen. De onderzoekers keken nauwlettend naar hoe de mensen reageerden. Ze ontdekten dat de manier waarop mensen de AI gebruikten, volledig afhing van hoe gemakkelijk zij de bewijzen zelf konden controleren. Wanneer de taak de e-mailcontrole was, waarbij de aanwijzingen zichtbaar waren, gebruikten de deelnemers de AI als een nuttige tweede mening. Ze konden de e-mail bekijken, de verdachte link zien die de AI noemde, en zelf beslissen of ze het ermee eens waren. De AI hielp hen om een paar meer fouten te vangen, maar de mensen bleven de baas.
De situatie veranderde drastisch toen de deelnemers overgingen naar de netwerkrecords. Omdat de aanwijzingen verborgen zaten in complexe gegevens, konden de mensen de beweringen van de AI niet gemakkelijk op eigen kracht verifiëren. In deze setting werd het zelfvertrouwen van de AI de machtigste factor. Wanneer de AI met zekerheid sprak, hadden de mensen de neiging om het advies op te volgen, zelfs als de AI ongelijk had. De onderzoekers observeerden dat zelfverzekerd maar onjuist advies leidde tot meer fouten dan aarzelend advies. Dit creëerde een gevaarlijke kloof: in de taken waar mensen de meeste hulp nodig hadden, waren ze ook het meest geneigd om blindelings de machine te vertrouwen. De studie toonde aan dat hoewel de AI de algehele nauwkeurigheid van de groep verbeterde, dit gebeurde door de manier waarop mensen dachten te veranderen. Bij de moeilijke netwerktaken fungeerde de AI minder als een hulpmiddel en meer als een gids, die de mens door een pad leidde dat zij alleen niet konden zien.
De onderzoekers keken ook naar hoe mensen vragen stelden. Bij het controleren van e-mails stelden mensen directe vragen zoals: "Is dit een phishing-e-mail?" Maar bij het bekijken van netwerkgegevens stelden ze meer verkennende vragen, zoals: "Wat maakt deze verbinding ongebruikelijk?" of "Kun je dit vergelijken met normaal verkeer?" Deze verschuiving toonde aan dat mensen bij complexe problemen niet alleen een ja-of-nee antwoord wilden; ze wilden de redenering erachter begrijpen. De studie vond dat de meest nuttige AI-reacties diegene waren die wezen op specifieke bewijzen en uitlegden waarom dat bewijs belangrijk was. Wanneer de AI simpelweg een label gaf zonder bewijs, of wanneer de AI met te veel zelfvertrouwen over onzekere situaties sprak, maakten de mensen slechtere beslissingen.
De bevindingen suggereren dat kunstmatige intelligentie, om echt nuttig te zijn in cybersecurity, anders ontworpen moet worden afhankelijk van de taak. Voor eenvoudige taken waarbij mensen het bewijs kunnen zien, moet de AI een stille helper zijn die details benadrukt. Voor complexe taken waarbij het bewijs verborgen is, moet de AI een zorgvuldige partner zijn die zijn onzekerheid uitlegt en de mens aanmowt om dubbel te controleren. De studie concludeerde dat het doel niet is om menselijke experts te vervangen door machines, maar om een partnerschap te creëren waarin de machine het menselijk oordeel ondersteunt zonder het te overstemmen. Door de AI te leren om zijn werk te tonen en toe te geven wanneer hij het niet zeker weet, kunnen beveiligingsteams de kloof overbruggen tussen het groeiende aantal dreigingen en het beperkte aantal experts die beschikbaar zijn om ze te stoppen. Het onderzoek geeft aan dat de toekomst van beveiliging niet alleen ligt in slimmere algoritmen, maar in slimmere manieren waarop mensen en machines met elkaar kunnen communiceren.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.