An Intelligent Decision Support System for Detecting Coercive Control: A Privacy-Preserving Approach

당신이 범죄를 해결하려는 형사라고 상상해 보십시오. 하지만 범죄 현장은 두 사람 사이의 비밀스러운 대화입니다. 문제는 법이 매우 엄격하다는 것입니다. 사람들의 사생활을 침해할 수 있기 때문에 실제 채팅 로그를 그냥 가져올 수는 없습니다. 이로 인해 증거가 있어야 할 자리에 거대한 빈 공간, 즉 '포렌식 데이터 갭(Forensic Data Gap)'이 남게 됩니다. 이러한 범죄를 해결하기 위해 과학자들은 보통 컴퓨터에게 무엇이 '나쁜 행동'인지 가르치기 위해 수천 개의 실제 사례를 연구해야 합니다. 하지만 부모가 아이를 서서히 미치게 만들거나, 파트너가 침묵과 죄책감을 통해 서서히 통제하는 것(코ercive control, 강압적 통제라고 알려진)과 같이 나쁜 행동이 미묘할 경우, 사생활 보호법을 어기지 않으면서 실례를 찾는 것은 매우 어렵습니다.

여기서 자연어 처리(NLP)라는 과학의 한 분야가 등장합니다. NLP를 컴퓨터가 단순히 나쁜 단어가 몇 번 나타나는지를 세는 것이 아니라, 이야기와 타이밍, 그리고 분위기를 이해함으로써 인간의 언어를 읽고 이해하도록 가르치는 방법이라고 생각하십시오. 보통 컴퓨터는 명백한 혐오 표현(예: "난 네가 싫어!"라고 소리치는 것)을 찾아내는 데는 뛰어나지만, 몇 주 또는 몇 달에 걸쳐 일어나는 조용하고 은밀한 학대를 포착하는 데는 매우 서툽니다. 이 논문은 '가상 범죄 현장'을 구축함으로써 이 빈 증거의 틈을 메우려 노력합니다. 실제 개인적인 채팅을 훔치는 대신, 연구진은 강력한 AI를 사용하여 실제처럼 느껴지고 실제와 똑같아 보이지만 누구의 사생활도 해치지 않는 수천 개의 가짜 대화를 작성했습니다.

핵심 아이디어: 가상 범죄 현장 구축하기

연구자들인 드루브 파텔(Dhruv Patel), 아비셰크 카우식(Abhishek Kaushik), 안주 존슨(Anju Johnson)은 까다로운 문제에 직면했습니다. 어떻게 하면 피해자들의 개인적인 메시지를 들여다보지 않고 심리적 학대를 연구할 것인가 하는 점이었습니다. 그들은 '합성(synthetic)' 데이터셋을 구축하기로 결정했습니다. 비디오 게임 디자이너가 새로운 레벨을 테스트해야 한다고 상상해 보십시오. 실제 플레이어가 게임에 막히기를 기다리는 대신, 그들은 게임 메커니즘을 테스트하기 위해 완벽하게 시뮬레이션된 버전의 레벨을 만듭니다. 이것이 바로 이 과학자들이 인간의 행동을 대상으로 수행한 방식입니다.

그들은 스마트한 AI(구체적으로 GPT-4라는 모델)를 사용하여 '가해자'와 '피해자' 사이의 가짜 대화를 작성했습니다. 하지만 단순히 AI가 무작위로 채팅하게 내버려 둔 것이 아닙니다. 그들은 자기애적 성격 장애(NPD)라고 불리는 특정 유형의 성격 장애를 설명하는 실제 의학 교과서(DSM-5)에 기반한 엄격한 규칙을 부여했습니다. 그들은 AI에게 '과대망상'(자신이 다른 모든 사람보다 더 낫다고 행동하는 것), '공감 능력 결여'(상대방이 슬플 때 무시하는 것), '착취성'(자신의 이득을 위해 사람을 이용하는 것)과 같은 구체적인 행동을 연기하도록 지시했습니다.

그들의 레시피에서 가장 창의적인 부분은 '시간'을 혼합한 것이었습니다. 현실 세계에서 가해자들은 종 Часто 침묵을 무기로 사용합니다. 그들은 상대방을 불안하게 만들기 위해 문자에 답장하는 것을 14시간 동안 기다리거나, 슬픈 메시지에 즉각적으로 답장하여 그 상황을 일축해 버릴 수도 있습니다. 연구진은 AI에게 <DELAY: 14 HOURS>와 같은 특수한 '시간 토큰'을 가짜 채팅에 삽입하도록 가르쳤습니다. 이는 AI가 단순히 화난 말을 쓰는 것이 아니라, 실제 학대의 조종하는 듯한 속도를 시뮬레이션하도록 강제했습니다. 그들은 이 훈련의 장으로 활용하기 위해 275개의 가짜 대화 쌍을 만들었으며, 이는 총 2,400개 이상의 메시지에 달합니다.

컴퓨터에게 보이지 않는 것을 포착하도록 가르치기

가짜 증거를 확보한 후, 그들은 컴퓨터가 이를 어떻게 포착할지 가르쳐야 했습니다. 그들은 이 가짜 대화들을 바탕으로 DistilBERT라고 불리는 더 작고 빠른 AI 모델을 훈련시켰습니다. 그들의 목표는 이 컴퓨터가 단어 자체가 정중하더라도 학대의 '패턴'을 인식할 수 있는지 확인하는 것이었습니다.

결과는 꽤 흥ending했습니다. 그들이 이 새로운 AI를 기존의 더 단순한 방법(예: 나쁜 단어의 개수를 세는 프로그램)과 비교했을 때, 새로운 AI가 압도적으로 승리했습니다. 기존의 방법들은 '서브텍스트(속뜻)'를 볼 수 없었기 때문에 처참하게 실패했습니다. 예를 들어, 가해자가 "내가 너의 정신 건강을 걱정해서 하는 말이야"라고 말한다면, 단순한 단어 계산기는 '걱정'이라는 단어를 보고 이를 좋은 메시지로 판단합니다. 하지만 이 새로운 AI는 가짜 패턴을 학습했기에, 그 다정한 말 뒤에 숨겨진 통제적인 어조를 인식했습니다.

가짜 데이터로 훈련된 컴퓨터는 0.75의 F1 스코어로 강압적 통제를 감지해 냈습니다. 컴퓨터 과학의 세계에서 이는 모델이 단순히 추측하는 것이 아니라 실제로 행동을 학습하고 있다는 강력한 신호입니다. 더욱 인상적인 것은, 이 컴퓨터를 한 번도 본 적 없는 '실제' 데이터(영국의 실제 법정 기록 및 실제 레딧 스레드)로 테스트했을 때도 잘 작동했다는 점입니다. 법률 텍스트에서는 0.72, 레딧 데이터에서는 0.65를 기록했습니다. 이는 "가짜" 훈련 데이터가 컴퓨터에게 "실제"를 포착하는 법을 가르치기에 충분했다는 것을 시사합니다.

컴퓨터가 할 수 없는 것 (그리고 그것이 괜찮은 이유)

이 논문은 이 도구가 무엇이 '아닌지'를 매우 명확히 밝히고 있습니다. 이것은 어떤 사람을 정신 질환으로 진단하는 마법의 수정구슬이 아닙니다. 또한 완벽하지도 않습니다. 컴퓨터는 주로 너무 조심스럽게 반응하여 실수를 저질렀는데, 즉 정상적인 격렬한 논쟁을 학대로 잘못 분류하는 '거짓 양성(false positive)'을 발생시켰습니다. 연구진은 이것이 특정 이유 때문에 오류가 아니라 오히려 하나의 '기능'이라고 설명합니다.

집 안에 연기 감지기가 있다고 상상해 보십시오. 당신은 토스트를 태웠을 때도 경보가 울리도록 아주 민감하게 설정하고 싶을 것입니다. 왜냐냐 하면 실제 화재를 놓치는 것보다 오보를 내는 것이 낫기 때문입니다. 마찬가지로, 이 AI는 인간 조사관을 위한 '트리아지(triage, 우선순위 결정) 도구'로 설계되었습니다. 이것은 의심스러운 대화를 표시하여 실제 전문가가 검토할 수 있도록 돕는 역할을 합니다. 컴퓨터는 "이 대화에 이상한 패턴이 있으니 확인해 보세요"라고 말하고, 최종 결정은 인간이 내립니다. 논문은 컴퓨터가 두 사람 사이의 복잡한 사회적 역사를 이해하지 못하고 오직 텍와 타이밍만을 보기 때문에 인간의 판단을 대체할 수 없음을 강조합니다.

결론: 프라이버시를 보호하는 미래를 위한 새로운 도구

이 연구의 핵심 결론은 우리가 사생활을 침해하지 않고도 '포렌식 데이터 갭'을 메울 수 있다는 것입니다. 엄격한 의학적 규칙을 사용하여 가짜 대화를 생성함으로써, 연구진은 컴퓨터가 실제 세상의 학대 패턴을 성공적으로 포착할 수 있을 만큼 현실적인 데이터셋을 만들어냈습니다. 그들은 도구를 만들기 위해 누군가의 사적인 비밀을 훔칠 필요가 없다는 것을 증명했습니다.

하지만 저자들은 이것이 최종적인 해결책이 아니라 하나의 '제안적인' 진전이라고 신중하게 언급합니다. 가짜 데이터는 테스트에서 잘 작동했지만, 다양한 문화와 언어에서도 효과가 있는지 확인하기 위해 더 많은 연구가 필요합니다. 또한 가해자가 '가짜 걱정' 뒤에 통제를 숨길 때 컴퓨터가 여전히 어려움을 겪는다는 점도 언급했습니다.

결국, 이 논문은 희망적인 새로운 길을 제시합니다. 탐정과 사회복지사가 심리적 학대를 포착하도록 돕는 지능형 도구를 구축하면서도, 동시에 실제 피해자들의 사생활을 완전히 안전하게 보호하는 방법입니다. 이것은 마치 실제 동물들을 위험에 빠뜨리지 않고도, 현실적인 로봇 개를 사용하여 경비견을 훈련시키는 것과 같습니다. 경비견은 위협을 포착하는 법을 배우지만, 훈련 과정에서 어떤 실제 동물도 다치지 않았습니다.