An AI-Based Approach to Early Reporting and Justice Initiation in Image-based Sexual Abuse. A Pilot Study

デジタル時代において、インターネットは諸刃の剣となっており、つながりを提供する一方で、深刻な危害をもたらす新たな経路をも生み出しています。こうした危害の中で最も痛ましい形態の一つが、画像に基づく性的虐待です。これは、本人の同意なしに親密な画像やプライベートな画像がオンライン上で共有される犯罪です。これは、個人のデバイスのハッキング、信頼関係の中で共有された写真の非同意的な配布、あるいは人工知能を用いたリアルで偽の画像の作成などを通じて起こり得ます。これらの行為の生存者にとって、そのトラウマは、世界中にさらされているという感覚によってしばしば増幅され、多くの人が引きこもり、助けを求めることを避ける原因となっています。正義への道は、しばしば特定の、麻痺させるような障害によって阻まれます。それは、正式な報告書を作成することの難しさです。生存者は、専門家が「白紙への不安（blank page anxiety）」と呼ぶ状態、つまり、出来事を完璧に、かつ正しい法的用語を用いて記述しなければならないという恐怖が、警察やオンラインプラットフォームに犯罪を報告するための第一歩を踏み出すことを妨げる状態に直面することがよくあります。

研究者のマッティア・ファルドゥティとアンカ・ラドゥは、新しい種類のデジタルヘルパーを用いて、この障壁を取り除く方法を模索してきました。彼らの研究は、画像に基づく性的虐待の生存者が、最初の報告書を作成するのを支援するために特別に設計された人工知能ツールのパイロット研究に焦点を当てています。その核心となるアイデアはシンプルでありながら変革的です。もしコンピュータが適切な質問を行い、生存者の物語を正式な文書へと変換できるのであれば、より多くの人々が正義を求めることは可能になるかもしれない、というものです。研究チームは、サポーターとしての役割を果たすデジタルエージェントを構築しました。これは、ユーザーを穏やかな会話へと導き、警察への報告書やウェブサイトへのコンテンツ削除依頼に必要な不可欠な事実を集めるように設計されています。このツールは人間の弁護士や警察官に取って代わるものではなく、むしろ、生存者の生の体験を、当局が理解し行動に移せる構造化されたテキストへと翻訳する架け橋として機能します。

チームはこのツールを、高度な言語処理を用いて多言語でのコミュニケーションを可能にし、ノーコードのオンラインソリューションとして、アクセシブルかつ安全に動作するように設計しました。プロセスは、ユーザーがツールに到着し、希望する言語を選択することから始まります。デジタルエージェントは、自身を生存者のためのサポートリソースとして明確に紹介した後、穏やかで段階的な問いかけを開始します。それは、生存者が現在どこにいるのか、事件がどこで起きたのか、そしていつ虐待が発覚したのかといった具体的な詳細を求めます。また、起きたことの簡潔な説明と、虐待的な画像のリンクがあるかどうかについても尋ねます。このやり取りの間、エージェントは名前や住所といった機密性の高い個人識別情報を求めないようにプログラムされており、ユーザーが安全を感じられるように配慮しています。その代わりに、物語の事実的な骨組みを収集し、ユーザーが当局に報告書を提出する準備ができた時に、後から個人情報を追加できるスペースを残しておきます。

必要な情報が集まると、ツールは最も重要な機能を実行します。それは、回答を合成して正式な草案報告書を作成することです。この文書は、調査を開始したりコンテンツの削除を依頼したりするために必要な時間的および空間的な詳細を含むよう、法的基準を満たすように構成されています。その後、エージェントはこの草案をユーザーに提示し、正確性を確保するために事実を要約した上で、確認を求めます。最終的な出力は、生存者が警察機関やデジタルプラットフォームに直接コピー＆ペーストできるテキストです。また、ツールは即時的で実用的なガイダンスを提供し、個人の情報を記入することをリマインドするとともに、ヨーロッパの112やアメリカ合衆国の911といった緊急連絡先を提供し、ユーザーがどのように進めばよいか正確に理解できるようにしています。

このアプローチが実際に機能するかどうかをテストするために、研究者は3人の法律専門家を招き、ツールを操作してその出力を評価してもらいました。専門家には、裁判経験のある弁護士、30年の勤務経験を持つ法執行官、そして裁判所と検察庁の両方の背景を持つ法務専門家が含まれていました。専門家たちは、収集された情報が法的プロセスを開始するのに十分であるか、指示が明確であるか、そして生成されたテキストが虐待を報告するために使用できるかどうかを判断するよう求められました。結果は圧倒的に肯定的でした。3人の専門家全員が、収集された情報は正義のプロセスを開始するのに十分であることに同意しました。彼らは指示が正確であり、生成された報告書は当局への連絡に使用可能であると判断しました。ある専門家は、このツールが効果的に「正義の歯車を動かす」ことができると述べ、別の専門家は、草案を作成するために必要な時間が極めて短いことが、しばしば圧倒されてしまう生存者にとって大きな利点であると強調しました。

有望な結果にもかかわらず、研究者たちはこれを最終的な解決策ではなく、あくまでパイロット研究として位置づけるよう注意深く枠組みを設定しています。評価は少数の専門家グループを対象に行われたものであり、著者らは、このツールが現実世界のシナリオでどのように機能するかを確認するために、実際の生存者を用いてテストする必要があると認めています。また、彼らは将来のバージョンにおいて、ヘルプラインや法的援助サービスへのリンクなど、より包括的なサポートを含めることができること、そしてツールが最終的には、虐待が発生しているデジタルプラットフォームのウェブサイトに直接組み込まれる可能性があることも示唆しています。この研究は、現在の人工知能ソリューションには、事件直後の生存者を正しい道へと導く潜在能力があり、トラウマの源と感じられがちなデジタル環境を、現実的で効果的かつアクセシブルな助けを提供する空間へと変容させる可能性があることを示唆しています。報告書を書くという最初のハードルに対処することで、このアプローチは、画像に基づく性的虐待を受けた人々に対して、司法へのアクセスを促進するための具体的な方法を提示しています。