An AI-Based Approach to Early Reporting and Justice Initiation in Image-based Sexual Abuse. A Pilot Study

디지털 시대에 인터넷은 연결을 제공하는 동시에 심각한 해악을 끼치는 새로운 통로를 만드는 양날의 검이 되었습니다. 이러한 해악 중 가장 고통스러운 형태 중 하나는 이미지 기반 성적 학대로, 이는 개인의 친밀하거나 사적인 이미지가 동의 없이 온라인에 공유되는 범죄입니다. 이는 개인 기기의 해킹, 신뢰 관계에서 공유된 사진의 비동의 유포, 또는 인공지능을 이용해 사실적이지만 가짜인 이미지를 생성하는 방식 등을 통해 발생할 수 있습니다. 이러한 행위의 생존자들에게 트라우마는 전 세계에 노출되었다는 느낌으로 인해 더욱 가중되며, 이로 인해 많은 이들이 위축되어 도움을 구하는 것을 피하게 됩니다. 정의를 향한 길은 종종 특정한 마비 증상을 일으키는 장애물, 즉 공식적인 보고서를 작성하는 것의 어려움에 의해 가로막힙니다. 생존자들은 전문가들이 말하는 '백지 공포증(blank page anxiety)', 즉 사건을 완벽하게, 혹은 올바른 법적 용어를 사용하여 설명해야 한다는 두려움 때문에 경찰이나 온라인 플랫폼에 범죄를 신고하는 첫 단계를 내딛지 못하는 상태에 직면하곤 합니다.

연구자 마티아 팔두티(Mattia Falduti)와 안카 라두(Anca Radu)는 새로운 종류의 디지털 조력자를 사용하여 이 장벽을 제거하는 방법을 탐구했습니다. 그들의 연구는 이미지 기반 성적 학대 생존자들이 초기 보고서를 작성하는 것을 돕기 위해 설계된 인공지능 도구의 파일럿 연구에 초점을 맞추고 있습니다. 핵심 아이디어는 단순하지만 혁신적입니다. 만약 컴퓨터가 적절한 질문을 던지고 생존자의 이야기를 공식적인 문서로 바꿀 수 있다면, 더 많은 사람이 정의를 구할 수 있게 할 수도 있다는 것입니다. 연구진은 생존자의 이야기를 듣는 지원적인 인터뷰어 역할을 하는 디지털 에이전트를 구축했습니다. 이 에이전트는 사용자가 경찰 보고서나 웹사이트의 콘텐츠 삭제 요청에 필요한 필수적인 사실들을 수집할 수 있도록 차분한 대화를 통해 안내합니다. 이 도구는 인간 변호사나 경찰관을 대체하는 것이 아니라, 생존자의 가공되지 않은 경험을 당국이 이해하고 조치할 수 있는 구조화된 텍스트로 번역하는 가교 역할을 합니다.

연구팀은 이 도구가 고급 언어 처리 기술을 사용하여 여러 언어로 소통하며, 코딩이 필요 없는(no-code) 온라인 솔루션으로서 접근 가능하고 안전하게 작동하도록 설계했습니다. 과정은 사용자가 도구에 접속하여 선호하는 언어를 선택하는 것으로 시작됩니다. 디지털 에이전트는 자신을 생존자를 위한 지원 자원이라고 명확히 소개한 뒤, 부드럽고 단계적인 질의를 시작합니다. 에이전트는 현재 생존자가 위치한 곳, 사건이 발생한 장소, 학대를 발견한 시점과 같은 구체적인 세부 사항을 묻습니다. 또한 사건에 대한 간략한 설명과 학대 이미지가 담긴 링크를 보유하고 있는지도 묻습니다. 이 상호작용 동안 에이전트는 이름이나 주소와 같은 민감한 개인 식별 정보를 묻지 않도록 프로그래밍되어 사용자가 안전함을 느끼게 합니다. 대신, 에이gent은 이야기의 사실적 뼈대를 수집하며, 사용자가 나중에 권한이 있는 기관에 보고서를 제출할 준비가 되었을 때 개인 정보를 추가할 수 있는 공간을 남겨둡니다.

필요한 정보가 수집되면, 도구는 가장 중요한 기능인 답변들을 공식적인 초안 보고서로 합성하는 작업을 수행합니다. 이 문서는 조사 개시나 콘텐츠 삭제 요청에 필요한 모든 시간적, 공간적 세부 사항을 포함하도록 법적 기준에 맞춰 구조화됩니다. 그 후 에이전트는 정확성을 확인하기 위해 사실을 요약하여 사용자에게 초안을 제시하고 확인을 요청합니다. 최종 결과물은 생로법 집행 기관이나 디지털 플랫폼에 직접 복사하여 붙여넣을 수 있는 텍스트입니다. 또한 이 도구는 사용자에게 개인 정보를 기입하라는 실질적인 지침을 즉각적으로 제공하며, 유럽의 112나 미국의 911과 같은 긴급 연락처를 제공하여 사용자가 정확히 어떻게 진행해야 하는지 알 수 있도록 합니다.

이 접근 방식이 실제로 효과가 있는지 테스트하기 위해, 연구진은 세 명의 법률 전문가를 초청하여 도구와 상호작용하며 그 결과물을 평가하게 했습니다. 전문가 그룹에는 법원 경험이 있는 변호사, 30년 경력의 법 집행관, 그리고 법원과 검찰직 경험을 모두 갖춘 법률 전문가가 포함되었습니다. 전문가들은 수집된 정보가 법적 절차를 시작하기에 충분한지, 지침이 명확한지, 그리고 생성된 텍스트가 학대 신고에 사용될 수 있는지를 판단하도록 요청받았습니다. 결과는 압도적으로 긍정적이었습니다. 세 전문가 모두 수집된 정보가 정의의 과정을 시작하기에 충분하다는 데 동의했습니다. 그들은 지침이 정확하며 생성된 보고서가 당국에 연락하는 데 사용 가능하다는 점을 확인했습니다. 한 전문가는 이 도구가 효과적으로 "정의의 바퀴를 돌릴 수 있다"고 언급했으며, 다른 전문가는 초안을 만드는 데 걸리는 최소한의 시간이 종종 압도당하는 상태에 있는 생존자들에게 큰 장점이 될 것이라고 강조했습니다.

유망한 결과에도 불구하고, 연구진은 이를 최종적인 해결책이라기보다 파일럿 연구로 규정하며 주의를 기울이고 있습니다. 평가는 소수의 전문가 그룹을 대상으로 진행되었으며, 저자들은 이 도구가 실제 상황에서 어떻게 작동하는지 확인하기 위해 실제 생존자들을 대상으로 테스트가 필요함을 인정했습니다. 또한 그들은 향후 버전에는 헬프라인 및 법률 구조 서비스와 같은 더 포괄적인 지원이 포함될 수 있으며, 도구가 궁극적으로 학대가 발생하는 디지털 플랫폼의 웹사이트에 직접 삽입될 수 있다고 제안했습니다. 이 연구는 현재의 인공지능 솔루션이 사건 직후 생존자들을 올바른 길로 안내할 수 있는 잠재력을 가지고 있으며, 종종 트라우마의 근원이 되는 디지털 환경을 실질적이고 효과적이며 접근 가능한 도움을 주는 공간으로 변화시킬 수 있음을 시사합니다. 보고서 작성을 향한 초기 장애물을 해결함으로써, 이 접근 방식은 이미지 기반 성적 학대를 겪은 이들에게 정의에 대한 접근을 용이하게 하는 구체적인 방법을 제시합니다.