Three Lessons from Citizen-Centric Participatory AI Design
2025年に実施された3つの参加型ワークショップに基づき、本論文は、市民中心のエージェンティックAI設計における主要な課題、具体的にはエンゲージメントの維持、専門家と非専門家の間のコミュニケーション・ギャップの解消、および投機的なインプットをシステムへと変換することの困難さを特定し、責任あるAI開発のためには、反省的かつ長期的な参加が不可欠であると論じる。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
コンピュータが単に命令に従うだけでなく、独自の個性を持って私たちと話し、意思決定を行う小さな助っ人のように振る舞う世界を想像してみてください。科学者たちはこれらを「AIエージェント」と呼んでいます。しかし、ここで大きな疑問があります。これらの助っ手がどのような存在であるべきかを、誰が決めるのでしょうか？通常は、ラボにいる少数の技術の専門家たちがそれらを設計します。しかし、もしこれらの助っ者と共に生きていかなければならない人々、つまり学生や退職者、近隣住民といった一般の人々も、設計に携われるとしたらどうでしょうか？これが「市民中心のデザイン（citizen-centric design）」の核心です。それは、運転手だけでなく、乗客にもバスのデザインを手伝ってもらうようなものです。目的は、これらの未来のAI助っ手が、単にトラブルを引き起こす可能性のあるクールなガジェットではなく、私たちの実生活、価値観、そしてコミュニティに適合するようにすることです。
この論文は、技術の専門家と一般市民の間に架け橋を築こうと試みた研究チームによる報告書です。彼らは、一般の人々と専門家を集め、これらのAIエージェントがどのような姿になり得るかを構想する3つの異なるワークショップを開催しました。ただ話し合うだけでなく、参加者たちは創造性を発揮しました。彼らは奇妙なAIの状況の中で目覚めるという物語を語り、レゴや粘土、雑誌の切り抜きを使って、理想のAI助っ手がどのような姿をしているかを示す「ローファイ（lo-fi）」なプロトタイプを作り上げました。その後、彼らはこれらの突飛なアイデアを専門家のグループに持ち込み、それが実際に構築可能かどうかを確認しました。
チームは、このアイデアは素晴らしく聞こえるものの、実際に実行するのは非常に難しいということを発見しました。彼らは3つの主な障害を特定しました。第一に、人々に関わり続けてもらうことが困難であることです。それはバンドを維持しようとするのに似ています。もし一曲のためだけに（一つのワークショップのために）人を招くだけなら、アルバム全体を逃してしまうことになります。研究者たちは、真の価値を得るためには、人々が単に短い会話に参加するだけでなく、アイデアの最初の火花から最終製品に至るまでの全行程に参加する必要があることに気づきました。
第二に、誰もが異なる言語を話しているということです。専門家は「エージェント」や「アルゴリズム」について話しますが、一般の人々は単に「賢いコンピュータ」と考えているかもしれません。研究者たちは、凝った言葉を使ったり、参加者に特定の方向で考えさせるような例を見せたりして、意図せず参加者を欺いてしまわないよう、細心の注意を払わなければならないことを見出しました。彼らは、研究者自身もまた独自のバイアスを持っている可能性があることを認め、会話を誘導することなく耳を傾けるために細心の注意を払わなければなりませんでした。
最後に、それらの楽しい創造的な絵や物語を、実際の機能するテクノロジーへと変えるという課題があります。参加者たちは14種類の異なるAIのアイデアを生み出しましたが、その中のどれが実際に現実世界で機能し得るのかを見極めることはパズルのようでした。研究者たちは、最善の方法は対話を継続することであり、それらの創造的なアイデアを、技術的および倫理的な詳細を解明できる専門家と組み合わせることであると示唆しています。これはまだ解決された問題ではありませんが、もし私たちが最初から最後まで公衆を関与させ続けることができれば、革新的でありながら、真にすべての人にとって役立つAIを構築できると彼らは信じています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。