現代の職場には、メールの作成、レポートの要約、コードのドラフト作成などを、まるで人間のような速さで行うことができる、新しい種類の助け舟が登場しました。この助け舟は、生成人工知能（ジェネレーティブAI）ツールであり、インターネット上の膨大なテキストから学習したコンピュータプログラムの一種です。これらはしばしば大規模言語モデルと呼ばれ、文章の中で次にくるべき単語を予測することによって機能し、それによって、ほぼあらゆる質問に対して一貫性のある有用な回答を生成することができます。これらのツールは仕事をより簡単かつ迅速にすることを約束する一方で、隠れたコストを伴います。それは、入力した情報がプライバシーを保てなくなる可能性があるということです。これらのシステムは個人の詳細を含むデータを用いて学習されているため、患者、顧客、あるいは同僚に関する機密情報が、意図せず漏洩したり、セキュリティを損なうような方法で保存されたりする現実的なリスクがあります。これは、効率化のためにこれらのツールを使いたいと考えていながらも、情報を共有しすぎることによる結果を恐れる労働者にとって、困難な状況を生み出しています。
人々がこの緊張関係をどのように乗り越えているかを理解するために、ドイツのレーゲンスブルク大学の研究者たちは、IT、ヘルスケア、教育など様々な業界の224人の専門家を対象とした調査を実施しました。彼らは、3つの特定の要素が、人々のツール利用の有無や利用方法にどのように影響するかを調べようとしました。それは、雇用主が設定したルール、個人のプライバシーに対する懸念、そして、そのツールがデータをどのように扱うかを実際にどの程度理解しているか、という点です。研究者たちは、組織に明確なガイドラインがある場合、従業員はそのテクノロジーがどのように機能するかをより詳しく知っていることを発見しました。具体的には、ポリシーを持つ企業の労働者は、ツールが情報をどのように保存し処理しているかという質問に対して、より正確に答えることができました。しかし、こうしたルールがあったとしても、全参加者の全体的な理解レベルはかなり低く、ほとんどの人が事実の約3分の1程度しか正解できていませんでした。
この研究は、人々の行動における明確なパターンを明らかにしました。プライバシーに対して深い懸念を抱いている人々は、ツールの使用頻度が低く、用途も限定的でした。この躊躇は、会社にルールが全くない労働者の間で最も顕著に見られました。公式なガイダンスがない状況では、これらの個人は、自身の恐怖心と知識のみを頼りに、何が安全かを判断していたのです。対照的に、確立されたポリシーを持つ組織の労働者については、個人の不安の度合いがツールの使用頻度や用途に影響を与えていないようでした。ルールそのものが、テクノロジーをより幅広く利用することを可能にする構造的な感覚を提供しているようです。興味深いことに、研究者たちは、ルールの具体的な種類（誰がツールを使用できるかを制限するものか、あるいはどのように使用できるかを制限するものか）は、行動に大きな違いをもたらさないことを発見しました。ポリシーが存在すること自体が、従業員のテクノロジーへの関わり方を形作る上で最も重要な要因であるように見受けられました。
最も衝撃的な発見の一つは、これらのツールによるデータ保護に関する広範な誤解でした。調査に参加したほぼ全員が、チャットに入力した情報は、アイデンティティを保護するために自動的に隠蔽、あるいは匿名化されると信じていました。実際には、ツールの標準設定はこれを保証しておらず、データは将来のバージョンのシステムを学習するために使用される可能性があります。この「人々が起きていると考えていること」と「実際に起きていること」との間の乖離は、多くの労働者が、安全性についての誤った前提に基づいて、これらの強力なツールを使用していることを示唆しています。研究者たちは、組織のポリシーは人々がテクノロジーをより良く理解する助けにはなるものの、根本的な知識不足を自動的に解決するものではないと結論付けました。明確で正確な情報がなければ、たとえ善意のある労働者であっても、不注意なのではなく、単にリスクが現実であることを知らないために、機密データを公開し続けてしまう可能性があるのです。
テクニカル・サマリー：チャットを優先し、懸念は後回しに：職場におけるChatGPTを用いた個人のプライバシー認識の理解
問題提起
生成AI（GenAI）ツール、特にChatGPTのような大規模言語モデル（LLM）は、教育、ヘルスケア、ITなどの分野において、業務ルーチンを急速に変貌させている。これらのツールは効率性の向上をもたらす一方で、その統合は重大なプライバシーへの懸念を引き起こしている。GenAIの基盤となるモデルは、膨大なテキストのコーパス（多くの場合、ユーザー生成コンテンツを含む）に依存しており、機密性の高いトレーニングデータを不注意に記憶し、再現してしまう可能性がある。さらに、ユーザーの入力内容は、さらなるモデルのトレーニングのために保存・利用されたり、技術的な脆弱性や標的型攻撃を通じて露出したりする可能性がある。
こうしたリスクにもかかわらず、プロフェッショナルな環境において個人がこれらのプライバシーリスクをどのように認識しているのか、また、その認識が実際の利用行動にどのように影響を与えるのかについての理解には空白がある。先行研究は、主に初期のテクノロジー採用（例：技術受容モデルの使用）や一般的なプライバシーへの懸念に焦点を当てており、一般的なプライバシーに対する態度と、ChatGPTがデータをどのように処理・保存するかに関する具体的な技術的習熟度を区別できていないことが多い。加えて、個人の行動や能力を形成する上での組織的なポリシーの役割についても、十分に探求されていない。
調査手法
著者らは、ヨーロッパの様々な雇用セクターにおいてChatGPTを業務ルーチンに組み込んでいるN=224名の参加者を対象とした、定量的なユーザー調査を実施した。本研究では、Prolific Academicを通じた配布およびターゲットを絞ったメールアウトリーチにより、Google Formsでホストされたオンライン調査を用いた。
- 構成概念と尺度:
- 組織的ポリシー: GenAIガイドラインの有無およびその種類（ツールの使用権限に関する「ユーザー制約」と、使用方法に関する「使用制約」に分類）を特定する複数回答形式によって評価。
- 統合されたプライバシー懸念: 第三者への個人情報開示に関連するリスクの主観的な認識を捉えるために、確立された尺度（例：Smith et al., 1996; Dinev and Hart, 2006a）を適応させて開発された新しい構成概念。5段階のリッカート尺度で測定。
- ChatGPT習熟度: ChatGPTのデータ保存および処理メカニズムに関する明示的な知識を評価するために特別に設計された新しい構成概念。OpenAIの公式プライバシーポリシーおよび技術文書から直接導き出された11の「正誤」知識問題を用いて測定。
- 利用行動: 「利用頻度」（4段階のリッカート尺度）と「ユースケース」（8つのアプリケーションタイプから選択された異なる適用タイプの数）の2つの指標によって測定。
- データ分析: 記述統計、背景変数に関するt検定、相関分析、およびパスモデリングによる直接的・間接的効果の検討のためにMplus 8を用いた。分析にあたっては、関連するデモグラフィック変数（性別、年齢、教育水準）を制御した。
主な貢献
- 新しい構成概念の開発: 本論文は、「ChatGPT習熟度」を、一般的な技術的能力を超えて、データのプライバシーポリシーやツールの技術的機能に関するユーザーの理解を具体的に測定する独自の指標として導入している。
- プライバシー構成概念の統合: 著者らは、GenAIの文脈におけるデータ開示に対する主観的な態度をより適切に捉えるために、認識されたプライバシーリスクと懸念の要素を組み合わせた統一的なフレームワークである「統合されたプライバシー懸念」を提案している。
- 文脈への焦点: 初期の採用や一般的な利用に焦点を当てた先行研究とは異なり、本研究は、組織のガバナンス、個人の知識、および実際の利用パターンとの相互作用を検証することに焦りの、確立されたユーザーが「業務コンテキスト」においてどのように行動するかを具体的に対象としている。
- 定量的な洞察: 本研究は、組織的ポリシー、プライバシー認識、および利用行動の関係について定量的な証拠を提供しており、定性的インタビューや逸話的なフィードバックに大きく依存していたこれまでの研究の空白を埋めるものである。
結果
- 組織的ポリシーと習熟度: 組織的ポリシーは、ChatGPTの習熟度と有意に正の相関がある。確立されたポリシーを持つ組織の従業員は、そのようなポリシーを持たない従業員と比較して、ChatGPTがどのようにデータを保存し処理するかについて、より優れた理解を示した。
- 全体的な習熟度の低さ: 正の相関があるにもかかわらず、全体的なChatGPT習熟度は低いことが判明した。知識ベースの記述のうち、正しく検証されたものはわずか36%であった。顕著な誤解も観察された。参加者の90%が、自身の個人情報が自動的に匿名化されると誤って信じていた。
- プライバシー懸念の影響: 高いレベルの統合されたプライバシー懸念は、ChatGPTの利用頻度とアプリケーションの多様性の両方に負の影響を与えた。この負の影響は、GenAIポリシーを持たない組織のユーザーにおいて特に顕著であり、これは、これらの個人が自身の行動を導くために、個人の懸念と知識のみに頼っていることを示唆している。
- ポリシーの調整的役割: 確立されたポリシーを持つ組織においては、個人のプライバシー懸念および習熟度が利用行動に与える影響は有意ではなかった。これは、組織のガイドラインが、利用に関する個人の意思決定プロセスを上書き、あるいは標準化していることを示唆している。
- ポリシーの種類: 「ユーザー制約」と「使用制約」が個人の利用行動に与える影響に、有意な差は見られなかった。
- 利用の多様性: ポリシーを持つ組織の参加者は、ポリシーを持たない参加者と比較して、より幅広い用途にChatGPTを活用していた。
意義と主張
本論文は、業務コンテキストにおけるChatGPTユーザーのプライバシー主導の行動に関する定量的な洞察を提供した最初の研究であると主張している。組織的ポリシーは、ツールのデータハンドリングに関するユーザーの技術的理解（習熟度）を高めることには成功しているものの、必ずしもプライバシー懸念を排除するわけではないことを強調している。むしろ、ポリシーは、構造化されたガイダンスを提供することで、より多才な利用を促進する一方で、ポリシーの欠如は、ユーザーが（自動的な匿名化への信念といった）不正確な個人的仮定や、ツールの有用性を制限する制約的なプライバシー懸念に依存してしまう脆弱な状態を生み出す。
著者らは、構造化された組織的ガイダンスが、ユーザーの能力を向上させ、GenAIツールの多様かつ効率的な利用を可能にするための重要な要因であると控えめに結論付けている。同時に、規制された環境においても、データプライバシーに関するユーザー知識には依然として大きな隔たりがあることを認めている。本研究は、新しい技術的解決策や将来の応用を提案するものではなく、組織のポリシー策定およびユーザー教育戦略に情報を提供するための実証的な証拠を提供するものである。
毎週最高の computer science 論文をお届け。
スタンフォード、ケンブリッジ、フランス科学アカデミーの研究者に信頼されています。
受信トレイを確認して登録を完了してください。
問題が発生しました。もう一度お試しください。
スパムなし、いつでも解除可能。
週刊ダイジェスト — 最新の研究をわかりやすく。登録