AI Literacy: An Exercise in Power-Knowledge

見えない図書館と「なぜ？」と問う力

あなたが巨大で魔法のような図書館に足を踏み入れたところを想像してみてください。かつて、何かについて学びたいときは、埃をかぶった棚を捜索し、多くの本を読み、自分自身で物語を組み立てる必要がありました。今日、私たちには新しい種類の司書がいます。それが人工知能（AI）です。これは単に本を見つけてくれる司書ではありません。これまでに読んだすべての内容に基づいて、あなたのために全く新しい物語を即座に書き上げることができる司書なのです。しかし、ここに落とし穴があります。この司書は単に事実を伝えるだけではありません。どの事実を伝え、どのように伝え、何を省くかを自ら決定しているのです。

これがなぜ重要なのかを理解するために、実際に何が起きているのかを見通すための2つの大きな概念を見る必要があります。第一に、「知識は力である」という考え方です。これは、何が真実であり、何が重要であるかを決定できる者が、私たちの世界の捉え方に対して大きな支配力を持つことを意味します。第二に、「批判的意識」という考え方です。これは、私たちが聞かされている物語は単なる中立的な事実ではなく、それを語る人々やシステムによって形作られているのだと気づき、目覚める能力のことです。もし私たちが、単に宿題を素早く終わらせるためにこのAI司書を使う方法だけを学んでいるとしたら、その司書が静かに私たちの思考を形作っているという事実に気づかないままになってしまうかもしれません。この論文は大きな問いを投げかけています。私たちは人々を、AIが売るものを買うだけの「賢い消費者」として育てているのでしょうか、それとも、その店がどのように建てられているかを理解する「ボス」として育てているのでしょうか？

顧客か、設計者か

この論文は、現在のAIに関する教育方法には、パズルの極めて重要なピースが欠けていると主張しています。現在、ほとんどの学校や組織は「AIリテラシー」を、運転免許の教習クラスのように扱っています。車をどのように操り、どのようにミラーを確認し、衝突しないように道路のルールに従うかを教えているのです。彼らはこれを「コンピテンシー（習熟度）」と呼んでいます。それは、ツールを安全かつ効率的に使うことに焦点を当てています。

この論文の著者たちは、これでは不十分だと述べています。AIを単なる道具として扱うことは、誰が道路を造ったのか、なぜ道路がそこを通っているのか、あるいは次にどこに道路を作るかを誰が決めるのかを一度も説明せずに、人に車の運転を教えるようなものだと彼らは主張しています。もしあなたが運転の仕方しか知らないのであれば、あなたは単なるシステムの「消費者」に過ぎません。目的地には辿り着けますが、目的地を決める権利は持っていません。

論文は、私たちが「コンピテンシー」の教授から「エンパワーメント（権限付与）」の教授へと移行する必要があると示唆しています。単に優れたドライバーになるのではなく、私たちは「エピステミック・エージェント（認識的主体）」になる必要があります。それは、もっと難しい言い方で言えば、「知識のエージェント」あるいは「知識のボス」という意味です。エージェントは単にAIを使うのではありません。AIは、特定のバイアス（偏り）、優先順位、そして盲点を持つ人間によって構築された機械であることを理解しています。彼らは、AIが絶対的な真実を示す水晶玉ではなく、過去のあらゆる誤りや不平等を含んだまま、過去に書き記された世界を映し出す鏡であることを知っているのです。

AIを解き放つ3つの鍵

ユーザーを受動的な消費者から能動的なエージェントへと変えるために、著者たちは新しい3部構成のフレームワークを提案しています。これは、AIリテラシーの全貌を解き放つための「3つの鍵」のシステムと考えてください。

1. 文脈的活用：探偵の手帳
第一の鍵は、ツールの使い方についてです。現在の教育は「AIを使ってエッセイを書きなさい」と言います。新しいアプローチは、「AIを使いなさい。ただし、なぜそれを使うのか、そしてそれがどのようにあなたの答えを形作っているのかを知りなさい」と言います。
あなたが探偵だと想像してください。もしあなたがAIに「最高の探偵は誰ですか？」と尋ねたら、AIは英語圏の小説に出てくる有名なキャラクターのリストを出すかもしれません。「コンピタント（習熟した）」ユーザーはこのリストを受け入れます。しかし、「エンパワーされた」ユーザー（文脈的活用を用いるユーザー）はこう問いかけます。「待てよ、なぜ英語圏のキャラクターしか選ばなかったんだ？ 他の文化の探偵や、有名ではない実在の捜査官についてはどうなっているんだ？」 彼らは、AIの回答が、何を与えられたかに依存していることを理解しています。彼らはAIを単に答えを吐き出す機械としてではなく、自身の問いを探求するための思考のパートナーとして活用します。彼らはツールの限界を知っており、「答え」とは起こりうる物語の一つのバージョンに過ぎないことを理解しているのです。

2. 批判的吟味：X線ビジョン
第二の鍵は、機械の内部を見ることです。ここで私たちは、AIの言葉を鵜呑みにすることをやめ、「どのようにしてその結論に至ったのか？」と問い始めます。
著者たちは、AIの内部で回転している目に見えない歯車を見るための「X線ビジョン」が必要だと提案しています。これには、主に3つの実践が含まれます。

• 系譜学的分析： 回答の家系図を辿ること。もしAIがあることを真実だと言ったなら、私たちは「それを学ぶためにどの本やウェブサイトを読んだのか？ それを書いたのは誰か？」と問いかけます。
• バイアスの認識： パターンを見抜くこと。もしAIが常に医師を男性、看護師を女性として描写したり、歴史を一つの国からのみ理解していたりする場合、私たちはそれを世界の事実ではなく、そのトレーニングにおける欠陥として認識する必要があります。
• カウンター・プロンプティング（対抗プロンプト）： これは、機械に対して「悪魔の代弁者」を演じるようなものです。ある視点を説明するようにAIに頼み、次にその反対の視点を説明させ、さらに「あなたが完全に見落としている視点は何ですか？」と問いかけます。これにより、ユーザーは情報の受け手から、機械がどのように考えるかの分析者へと変わります。

3. 参加型ガバナンス：タウンホール（住民集会）
第三の、そして最も野心的な鍵は、ルールに対して発言権を持つことです。現在、ほとんどの人はただAIを利用しているだけで、それがどのように構築されるかに投票することはできません。
著者たちは、AIリテラシーには「市民リテラシー」が含まれなければならないと主張しています。これは、AIが公園や道路のような公共のシステムであり、その管理方法について意見を持つべきであることを理解することを意味します。それは、AIを誰が所有しているのか（通常は大企業）、政府がどのように規制しているのか、そして一般市民がいかにして声を上げられるのかを知ることです。
論文は、困難ではありますが、人々はすでにこれを始めています。例えば、欧州連合（EU）では、一般市民や団体が新しいAI法案に対してフィードバックを行うことができました。著者たちは、AIリテラシーとは、これらの会話に参加する方法、AIシステムが地域の文化や言語を尊重するよう要求する方法、そして富裕層や高学歴層のためだけでなく、すべての人に機能するシステムのために戦う方法を教えるべきであると示唆しています。

持てる者と持たざる者の格差

論文はまた、恐ろしい現実をも強調しています。それは、AIを理解している人と理解していない人の間の格差が広がっているということです。
現在、富裕層や教育水準の高い人々は、最高のAIツールにアクセスできます。彼らは、より賢く最新の情報を持つ「プレミアム版」を利用できます。さらに重要なことに、彼らは正しい質問を投げかけ、バイアスを見抜くための教育を受けています。彼らはAIを使って、さらに賢く、より強力になります。
一方で、経済力や教育が乏しい人々は、多くの場合、無料の限定版しか利用できません。彼らは単純な答えを得るためにAIを使いますが、その答えを疑ったり、システムを変えたりするためのスキルを持っていません。論文は、AIがこの格差を埋めるのではなく、むしろ拡大させてしまう可能性があると示唆しています。それは、乗り方を知っている人に超高速の自転車を与える一方で、知らない人には壊れた三輪車を与えるようなものです。前者は猛スピードで突き進みますが、後者はただ空回りするだけです。

結論

著者たちは、単に人々を「優れたユーザー」にするよう教えてはならないと結論づけています。もしそうすれば、私たちは人々を、自分たちがコントロールできないシステムにおける「より優れた消費者」へと訓練していることになるからです。私たちは、人々を「エージェント」にする必要があります。つまり、AIが自分たちの知識を形作る強力な力であることを理解し、それを疑い、異議を唱え、構築に加わるスキルを持つ人々へと育てる必要があるのです。

これは単に新しいコンピュータースキルを学ぶことではありません。これは政治的な問いです。「私たちの世界において、何が真実であるかを誰が決めるのか？」という問いです。論文は、もし私たちがAIリテラシーの教え方を修正しなければ、少数の強力なシステムがすべての人に対してすべてを決定してしまう世界を作ってしまうリスクがあると示唆しています。しかし、もし私たちが人々に対して、批判的で、好奇心旺盛で、能動的な参加者となるよう教えることができれば、AIを、人々を支配するための道具ではなく、誰もが世界をより良く理解するためのツールへと変えることができるのです。目標は、単に車を運転することではなく、道路の設計を支援することなのです。