Confidential Pulse: Authorisation-Preserving Conversational Access to Federated Confidential Government Records
Confidential Pulseは、Hyperledger Fabricチャネル内の認可されたペイロードから回答を再構成することにより、連邦政府の記録への安全かつ対話的なアクセスを可能にするシステムであるが、範囲外のデータ開示を防止する一方で、モデルが生成する散文を通じた情報漏洩に対しては脆弱なまま残る。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
現代の世界において、政府は異なる機関の間を流れるデータによって運営されています。一人の市民の人生は、税務署、土地登記所、福祉部門、免許局などが保持する記録に触れています。これらの組織はそれぞれ、公開できない機密情報を持っていますが、サービスを提供するためにそれらを共有する必要があることがよくあります。こうした従来のやり方は欠陥があります。すべてのデータを一つの巨大な中央倉庫に集めることは、ハッカーにとって価値の高い単一の標的を作り出し、すべての機関に一つの中心的な運用者を信頼することを強いることになります。あるいは、すべての機関を他のすべての機関に直接接続する方法は、数千もの個別の接続による複雑な網の張り巡らされた状態を作り出し、誰が誰と何を共有したのかという明確な記録を残せなくなります。課題は、データの機密性を保ち、密かに改ざんされることがなく、あらゆるアクセスを独立して検証できるようにしながら、必要とされる範囲内でこれらの組織が機密記録を共有できるようにすることです。
これを解決するために、研究者たちは「コンフィデンシャル・パルス（Confidential Pulse）」と呼ばれるシステムを開発しました。これは政府機関の間の安全な架け橋として機能し、権限を持つ職員が自然言語で単純な質問を行い、許可されていないデータを見せることなく、複数の部門の記録を統合した回答を受け取れるようにします。このシステムは、参加するすべての組織が読み取ることはできるが、単独で編集することはできない、共有された変更不可能なノートブックに似た、特殊なタイプのデジタル台帳に依存しています。この台帳は、情報が共有されるたびに記録し、恒久的で改ざん防止機能のある履歴を作成します。機密性の高い詳細事項自体は、閲覧する権利を持つ特定の組織のみがアクセスできるプライベートな保管庫（ヴォルト）に保管されます。この安全な基盤の上に、知的なソフトウェア・エージェントの階層が構築されています。これらのエージェントは解釈者として機能し、人間の質問を受け取り、それを分解し、異なるプライベートな保管庫から関連する事実を集めます。決定的なのは、このシステムは回答が書かれた後にフィルタリングを行うのではなく、許可されたデータのみを使用して回答をゼロから再構築することであり、これにより、許可されていない情報が紛れ込むことを確実に防いでいます。
研究者たちは、このシステムを厳格な一連の実験を用いてテストしました。これには、ソフトウェアに秘密を漏洩させようとする2万回の試行が含まれます。最も安全な動作モードにおいて、システムは完全に成功しました。2万回の試行すべてを通じて、質問した職員が見る権利のない情報は、一つも開示されませんでした。システムは、権限のある記録から直接回答を再構成することで機能したため、テキストを生成するソフトウェアが、意図的に、あるいは悪意を持って隠れた値を挿入することは不可能でした。しかし、ソフトウェアが独自の文章を書き、その後にフィルタリングを行うという、より柔軟なモードを研究者がテストしたところ、結果は異なりました。このモードでは、2万回の試行のうち2,068回において、許可されていない情報を捉えきれないという失敗が発生しました。リークは主に、ソフトウェアが比較を行おうとした際や、フィルタリング・ルールが完全には理解できなかった複雑な数値表現を用いた際に発生しました。この発見により、研究者たちは、厳格な再構築メソッドこそが機密性の高い政府データを扱うための唯一の安全な方法であり、より会話的で散文的な執筆モードは、偶発的な開示のリスクを伴う、と結論付けました。
また、この研究は、異なる情報の断片を組み合わせることで、意図した以上のことが明らかになってしまうこともあるという、政府データの複雑な現実をどのように扱うかについても調査しました。例えば、ある個人の住居に関する単一の記録は匿名であっても、所得に関する別の記録も匿名であったとしても、それらを組み合わせることで、特定の個人を特定できてしまうことがあります。研究者たちは、1万人を想定したシミュレーション人口において、3種類の異なるタイプの記録を組み合わせることで、約3.31パーセントの人々を特定できることを発見しました。彼らはまた、初期バージョンの設計における微妙な欠陥、すなわち、記録が存在することを証明するデジタルな「レシート（領収書）」にランダムな秘密コードによるソルト（塩）が付与されていなかったことを発見しました。これにより、攻撃者はわずか2秒足らずで数百万通りの可能性を試すことで、隠された記録の内容を推測することができました。研究者がこのレシートにランダムなコードを追加したところ、攻撃は完全に失敗し、記録の回収はゼロとなりました。この修正は、システムのセキュリティが、特定の技術的詳細が正しく実装されているかどうかに依存していることを浮き彫りにしています。
コードの枠を超えて、このシステムは信頼に対する新しい考え方を導入しています。データを収集するソフトウェア・エージェントの誠実さに頼るのではなく、システムはすべてのエージェントに対して、共有台帳に基づいてその作業を証明することを強制します。もしエージェントが、職員が見ることを許可されている記録を見つけたと主張した場合、システムは公式の台帳を確認し、その記録が実際に存在し、かつその職員に閲覧権限があることを確認します。もしエージェントが、職員が見ることができない記録から値をこっそり紛れ込ませようとした場合、システムはそのエージェントのテキストを破棄し、台帳からの生データを使用して文章を再構築します。このプロセスにより、たとえソフトウェアが侵害されたり、悪意のあるユーザーに騙されたりしても、最終的な回答は安全に保たれます。研究者たちはまた、異なるクラウドリージョン間でシステムの動作速度を測定しました。複数の機関に対して、一つずつ順番にではなく、同時に問い合わせを行うことを許可することで、機関が世界の異なる場所に位置している場合でも、複雑な回答への待ち時間をほぼ半分に短縮できることが分かりました。
本研究は、技術は利用可能であるものの、効果を発揮するためには特定のガバナンス構造が必要であると結論付けています。このシステムは、互いに完全には信頼していないが協力する必要がある組織の連合体（フェデレーション）のために設計されています。これは人間の監視に代わるものではなく、むしろ、質問されたすべての内容とアクセスされたすべての記録の、明確で変更不可能なログを提供し、監査人がルールが遵守されたかを検証できるようにするものです。研究者たちは、このシステムはリスクをすべて取り除く魔法の解決策ではないが、以前は不可能であったレベルのセキュリティと透明性を提供するものであると強調しています。完成したテキストをフィルタリングしようとするのではなく、リリースする瞬間に回答を権限のあるデータに結びつけることで、システムは数学的に打破することが困難な障壁を作り出します。研究結果は、政府機関が将来、安全に機密データを共有するためには、中央のデータレイクから離れ、このような分散型で検証可能なアプローチへと移行しなければならないこと、そして、最も安全な回答は、ドラフトを磨き上げることではなく、ソースから真実を再構築するプロセスから得られるものであることを示唆しています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。