💻 computer science

Explainable artificial intelligence in interface design influences user outcomes and cybersecurity literacy

본 연구는 설명 가능한 인공지능(XAI)을 인터페이스 디자인 도구에 통합하는 것이 UI 디자인 작업 중 창의적 자신감, 인지된 학습, 신뢰, 자율성 및 사용성을 포함한 사용자 성과를 유의미하게 향가시킨다는 것을 입증하며, 이는 XAI가 AI 권장 사항에 대한 비판적 참여를 촉진한다는 점을 시사하는 동시에 사이버 보안 및 개인정보 보호 리터러시 행동에 미치는 영향을 직접적으로 측정하기 위한 향후 연구의 필요성을 강조한다.

원저자: Ahmed Al-sa'di, Mahmoud Al-Sarayreh, Esraa Ahmad

게시일 2026-09-25

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Ahmed Al-sa'di, Mahmoud Al-Sarayreh, Esraa Ahmad

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

디지털 세상에서 우리가 만지는 화면과 클릭하는 버튼은 중립적이지 않습니다. 그것들은 특정한 의도를 가지고 설계되었으며, 때로는 우리를 부드럽게 안내하기도 하지만, 때로는 우리가 더 신중하게 생각했다면 내리지 않았을 선택으로 우리를 유도하기도 합니다. 흔히 '다크 패턴(dark patterns)'이라 불리는 이러한 조작적 디자인은 우리 뇌가 작동하는 방식을 이용합니다. 이들은 시각적 속임수, 혼란스러운 레이아웃, 자동 설정 등을 사용하여 우리가 개인 데이터를 공유하거나, 침해적인 권한에 동의하거나, 비용을 완전히 인지하지 못한 채 정기 결제에 가입하도록 만듭니다. 문제는 이러한 디자인이 존재한다는 사실 그 자체보다, 우리의 속도와 부주의함을 이용한다는 점에 있습니다. 결정이 쉽고 노력이 거의 들지 않을 때, 우리는 의문을 품지 않고 클릭하곤 합니다. 우리 자신을 보호하기 위해서는 단순한 지식 이상의 것이 필요합니다. 즉, 우리로 하여금 멈춰 서서 자세히 살펴보고, 우리에게 무엇을 요구하고 있는지 이해하도록 독려하는 인터페이스가 필요합니다.

여기에서 설명 가능한 인공지능(Explainable AI)이라는 개념이 등장합니다. 컴퓨터 프로그램이 웹사이트나 앱을 설계하는 것을 돕는다고 상상해 보십시오. 표준 버전의 도구는 단순히 "이 버튼을 여기에 배치하십시오"와 같은 제안만을 제공할 것입니다. 그것은 답은 주지만 그 근거는 주지 않습니다. 그러나 설명 가능한 버전은 그 이상의 역할을 합니다. 동일한 제안을 제공하면서도 왜 그런 제안을 했는지, 어떤 절충안(trade-offs)이 고려되었는지, 그리고 시스템이 자신의 선택에 대해 얼마나 확신하는지를 명확한 설명과 함께 제공합니다. 목표는 수동적인 사용자를, 제안을 단순히 받아들이기보다는 그 조언을 평가할 수 있는 능동적인 파트너로 바꾸는 것입니다. 연구자들은 이 추가적인 투명성 층이 실제로 사람들이 배우고, 시스템을 더 신뢰하며, 자신의 결정에 대해 더 큰 통제권을 갖도록 돕는지 오랫동안 궁금해해 왔습니다.

한 연구팀은 128명의 참가자를 대상으로 통제된 실험을 통해 이 아이디어를 테스트했습니다. 그들은 참가자들에게 특정 과업을 수행하도록 요청했습니다: 바로 보건 연구팀을 위한 대시보드를 설계하는 것입니다. 이 대시보드는 연구진이 진행 중인 여러 연구의 모집 수치, 마감일, 보고 현황을 추적하는 데 도움을 주어야 했습니다. 참가자들은 AI 지원 도구를 사용하여 이 시나리오에 맞는 인터페이스 구성 요소를 만드는 데 30분을 할애했습니다. 연구진은 그룹을 두 팀으로 나누었습니다. 한 팀은 아무런 추가 맥락 없이 디자인 제안만을 제공하는 표준 AI 도구를 사용했습니다. 다른 팀은 동일한 제안을 제시하되, 디자인 원칙과 맥락, 그리고 각 권장 사항에 대한 잠재적 절충안을 설명하는 패널을 포함하는 설명 가능한 AI 도구를 사용했습니다.

결과는 두 그룹이 과업을 경험하는 방식에서 명확한 차이를 보여주었습니다. 설명 가능한 도구를 사용한 사람들은 창의적 자신감이 크게 향상되었다고 보고했습니다. 과업 전에는 아이디어를 창출하는 능력에 대한 믿음이 낮았으나, 과업 후에는 표준 도구를 사용한 그룹보다 훨씬 더 높게 상승했습니다. 또한 설명 가능한 그룹은 경험으로부터 더 많이 배웠다고 느꼈으며, AI의 제안을 더 신뢰했고, 자신의 최종 결정에 대해 더 강한 자율성을 느꼈습니다. 그들은 시스템을 훨씬 더 사용하기 쉽고 매력적이라고 평가했습니다. 실제로 설명을 제공받은 그룹은 정보 요소들을 훨씬 더 자주 클릭하며 설명 패널을 열어 상세 내용을 읽는 등 인터페이스와 더 많이 상호작용했습니다.

하지만 연구진은 이 결과가 실제로 무엇을 의미하는지에 대해 주의를 기울였습니다. 참가자들이 디자인 과업 중에 더 높은 자신감을 느끼고 더 많이 배웠음에도 불구하고, 이 실험이 그들이 현실 세계에서 기만적인 디자인을 포착하는 능력을 길러주었는지는 테스트하지 않았습니다. 이 실험에는 개인정보 보호 리터러시(privacy literacy)에 대한 테스트가 포함되지 않았으며, 참가자들이 나중에 다크 패턴에 직면했을 때 이를 저항할 수 있는지도 측정하지 않았습니다. 연구진은 설명 가능한 AI가 조작에 대한 방패를 만든다는 것을 입증했다는 주장을 명시적으로 배제했습니다. 대신, 이번 연구 결과는 이유를 함께 제공하는 것이 도구를 사용하는 즉각적인 경험을 개선하고, 사용자가 프로세스 과정에서 더 유능하고 정보가 풍부하다고 느끼도록 돕는다는 점을 시사합니다.

또한 이 연구는 그 혜택이 기술 전문가들에게만 국한되지 않는다는 점을 강조했습니다. 인공지능에 대한 친숙도가 낮은 참가자들조차 설명을 접했을 때 자신감과 학습 효과에서 향상을 보였습니다. 이는 투명성의 가치가 기술 숙련자뿐만 아니라 더 넓은 범위의 사용자들을 지원할 수 있음을 시사합니다. 그럼에도 불구하고 저자들은 이 실험이 약 45분 동안 진행된 단일 세션이었다는 점을 언급했습니다. 그들은 이러한 자신감과 신뢰의 감정이 시간이 지나도 지속될지, 혹은 개인 데이터나 보안에 관한 의사결정과 같은 다른 상황으로 전이될 수 있을지는 판단할 수 없었습니다.

궁극적으로, 이 연구는 지능형 시스템과 상호작용하는 방식에 있어 유망한 방향을 제시합니다. AI 제안에 설명을 추가함으로써, 디자이너는 사용자가 기술에 대해 더 통제권을 갖고 비판적으로 참여할 수 있는 도구를 만들 수 있습니다. 이러한 접근 방식은 고위험 AI 시스템이 사용자가 적절하게 이해하고 사용할 수 있을 만큼 투명해야 한다고 요구하는 유럽 연합(EU)의 규제 노력과 궤를 같이합니다. 이 연구가 사이버 보안이나 프라이버시 조작이라는 광범위한 문제를 해결한 것은 아니지만, AI 도구가 자신의 사고 과정을 설명하는 데 시간을 들일 때 사람들이 더 자신감을 얻고, 더 많이 배우며, 프로세스를 더 신뢰하게 된다는 것을 입증했습니다. 다음 단계의 과학적 과제는 이러한 참여도의 증가가 우리의 디지털 삶을 위협하는 기만적인 디자인으로부터 실질적인 보호로 이어질 수 있는지 확인하는 것입니다.

기술 요약: 인터페이스 디자인에서의 설명 가능한 인공지능(XAI)이 사용자 결과 및 사이버 보안 리터러시에 미치는 영향

1. 문제 제기

본 논문은 인터페이스 디자인, 인공지능(AI), 그리고 사용자의 보안 리터러시 간의 교차점을 다룹니다. 저자들은 사용자의 이익에 반하는 선택(예: 데이터 공개, 침입적 권한 요청)을 하도록 사용자를 조작하는 인터페이스 디자인인 "다크 패턴(dark patterns)"이 주의력의 제약과 빠른 의사결정을 악용한다고 주장합니다. EU 디지털 서비스법(DSA) 및 EU AI 법과 같은 규제들이 투명성을 의무화하고 있지만, 단순한 투명성만으로는 사용자의 리터러시나 보호적 행동을 보장할 수 없습니다.

연구의 핵심 문제는 **설명 가능한 인공지능(XAI)**이 인터페이스 디자인 도구에 통합되었을 때, 프라이버시 및 사이버 보안과 관련된 역량을 배양할 수 있는지 여부입니다. 구체적으로, 저자들은 AI가 생성한 권장 사항과 함께 근거(rationales) 및 트레이드오프(trade-offs)를 제공하는 것이 사용자로 하여금 시스템 출력값을 잠시 멈추어 생각하고, 비판적으로 평가하며, 더 깊이 있게 참여하도록 유도하여, 결과적으로 기만적인 인터페이스에 저항하는 데 필요한 "비판적 참여(critical engagement)"를 구축할 수 있는지 질문합니다. 본 연구는 설명이 지원된 상호작용이 실제로 이러한 역량을 개발하는지, 아니면 단순히 의사결정의 정밀도를 개선하지 못한 채 신뢰도만을 높이는지에 대한 증거가 부족하다는 점에 주목합니다.

2. 연구 방법론

본 연구는 Prolific을 통해 모집된 128명의 참가자를 대상으로 **통제된 집단 간 실험(controlled between-groups experiment)**을 수행했습니다. 참가자들은 다음 두 가지 조건 중 하나에 무작위로 배정되었습니다:

XAI 조건 ( $n=64$ ): 참가자들은 모든 디자인 제안에 설명 패널이 동반되는 AI 지원 UI 디자인 도구를 사용했습니다. 이 패널에는 디자인 근거, 맥락적 고려 사항, 잠재적 트레이드오프 및 신뢰도 지표가 포함되었습니다.
표준 AI 조건 ( $n=64$ ): 참가자들은 동일한 도구를 사용하되, 전용 설명 패널 없이 동일한 디자인 제안을 받았습니다.

과업:
참가자들은 건강 연구 행정(모집 및 마감일 모니터링)을 위한 대시보드를 개선하는 30분 분량의 UI 디자인 과업을 수행했습니다. 이 과업은 의학적 지식을 요구하지 않도록 명시적으로 비임상적(non-clinical)으로 설계되었습니다.

측정 항목:

창의적 자신감(Creative Confidence): 사전 및 사후 과업에서 3개 항목의 리커트 척도(Likert scale)를 통해 측정하여 "증가분(gain)"을 계산했습니다.
과업 후 지각(Post-Task Perceptions): 보고된 신뢰도, 인지된 자율성, 인지된 학습 정도(각각 3개 항목의 리커트 척도)를 측정했습니다.
사용성(Usability): 시스템 사용성 척도(SUS)를 사용하여 측정했습니다.
과업 품질(Task Quality): 두 명의 블라인드 평가자가 0–100 척도로 채점했습니다.
로그된 상호작용(Logged Interactions): 사용자 상호작용 횟수(XAI에서의 설명 패널 열기 vs. 표준 조건에서의 툴팁/메타데이터 클릭)를 자동으로 기록했습니다.
공변량(Covariates): 모집 과정에서 사전 AI 친숙도와 UI 디자인 경험을 층화(stratified)했습니다.

분석:
데이터는 집단 간 차이를 위한 독립 표본 t-검정, 집단 내 변화를 위한 대응 표본 t-검정, 그리고 피어슨 상관계수를 사용하여 분석되었습니다. 창의적 자신감 증가의 예측 요인을 평가하기 위해 위계적 회귀 모델이 사용되었습니다. 효과 크기는 Cohen's $d$ 를 사용하여 보고되었습니다.

3. 주요 결과

연구 결과, 여러 자기 보고 및 행동 지표에서 XAI 조건이 우세한 통계적으로 유의미한 차이가 발견되었습니다:

창의적 자신감: XAI 그룹은 표준 그룹에 비해 유의미하게 큰 창의적 자신감 증가( $d=0.68$ )를 보였습니다. 두 그룹 모두 향상되었으나, XAI 그룹의 향상 폭이 더 컸습니다.
인지된 학습: XAI 조건은 인지된 학습에 대해 큰 효과 크기( $d=1.17$ )를 나타냈으며, 이는 참가자들이 과업을 통해 더 많이 배웠다고 느꼈음을 의미합니다.
보고된 신뢰도: AI 도구에 대한 신뢰도는 XAI 조건에서 유의미하게 높았습니다( $d=0.97$ ).
인지된 자율성: XAI 조건의 참가자들은 더 높은 인지된 자율성을 보고했습니다( $d=0.42$ ).
사용성: SUS 점수는 표준 조건( $M=58.36$ )보다 XAI 조건( $M=71.52$ )에서 유의미하게 높았습니다(효과 크기 $d=1.78$ ). XAI 그룹의 평균 점수는 "평균 이상" 임계값(68)을 넘었으나, 표준 그룹은 그러지 못했습니다.
과업 품질: XAI 그룹은 표준 그룹( $M=75.54$ )보다 더 높은 품질의 디자인( $M=82.80$ )을 생성했습니다(효과 크기 $d=0.97$ ).
로그된 상호작용: 상호작용 횟수는 XAI 조건에서 유의미하게 높았습니다( $d=2.66$ ). 그러나 저자들은 이 횟수가 서로 다른 행동(패널 열기 vs. 툴팁 클릭)을 나타내므로, 이를 동일한 척도로 취급해서는 안 된다고 언급했습니다.
상관관계: 전체 표본에서 로그된 상호작용 횟수는 인지된 학습, 사용성, 보고된 신뢰도 및 과업 품질과 양의 상관관계를 보였습니다. 그러나 표준 그룹에서는 상호작용 횟수가 어떤 결과와도 상관관계를 보이지 않았습니다.

4. 주요 기여

본 논문은 XAI가 강화된 인터페이스 디자인이 AI 지원 과업 수행 중 사용자의 결과에 긍정적인 영향을 미친다는 실증적 근거를 제공합니다. 구체적으로, 제안 사항과 함께 근거 및 트레이드오프를 제공하는 것이 다음을 증명합니다:

창의적 자신감과 인지된 학습을 높입니다.
보고된 신뢰와 인지된 자율성을 향상시킵니다.
시스템 사용성 평가와 과업 품질을 개선합니다.
인터페이스와의 더 높은 수준의 상호작용을 유도합니다.

이 연구는 설명이 단순한 투명성을 넘어 사용자의 능동적 참여를 이끌어내는 인터페이스 기능으로서 작용하여, AI 권장 사항에 대한 비판적 참여를 촉진한다는 가설을 뒷받침합니다.

5. 의의 및 주장

저자들은 연구 결과의 의의에 대해 겸손하고 정밀한 범위를 유지합니다:

리터러시와의 관련성, 복원력 입증 아님: 본 논문은 결과가 프라이버시 리터러시, 사이버 보안 리터러시 또는 다크 패턴에 대한 저항력을 개선한다는 것을 증명하지 않는다고 명시적으로 밝힙니다. 본 연구는 다크 패턴 인식, 회피 행동 또는 신뢰 교정(시스템 정확도와 신뢰의 일치)을 측정하지 않았습니다.
잠재력 vs. 입증된 전이: 연구 결과는 프라이버시 및 사이버 보안 리터러시에 대한 잠재적 관련성을 시사합니다. 저자들은 디자인 과업 중에 비판적 참여와 인지된 자율성을 배양함으로써, XAI가 프라이비 결정에 관한 미래의 개입에 도움을 줄 수 있다고 주장합니다. 그러나 보안 맥례(예: 피싱이나 기만적인 동의 흐름에 대한 저항)로의 직접적인 전이는 별도의 테스트가 필요한 미해결 과제로 남아 있습니다.
신뢰 교정: 연구는 XAI 그룹에서 더 높은 보고된 신뢰를 발견했으나, 이것이 교정된 신뢰를 의미하지는 않는다고 명시했습니다. 정확도 측정이 없는 높은 신뢰는 AI가 틀렸을 경우 과도한 의존으로 이어질 위험이 있습니다.
한계점: 저자들은 종단적 데이터(효과의 지속성)의 부재, 과업의 특수성(비임상적, 비보안적), 그리고 Prolific 사용자 모집에 따른 디지털 리터러시가 낮은 인구 집단으로의 일반화 제한 가능성 등의 한계를 인정합니다.

결론적으로, 본 논문은 설명이 지원된 인터페이스가 AI 지원 디자인 작업에서 사용자 경험과 자기 효능감을 개선한다는 점을 확립합니다. 저자들은 이러한 결과들을, 이러한 인터페이스가 기만적인 디자인 패턴에 대한 행동적 복원력을 효과적으로 구축할 수 있는지에 대한 향후 연구를 위한 필수적인 토대로 규정하며, 사이버 보안 리터러시 문제를 직접 해결했다고 주장하지 않습니다.