From Punishment to Risk Identification: Rethinking the Mechanism for Determining “Serious Breaches of Trust” in China’s Social Credit Governance

現代社会において、政府や銀行は、誰が金を借りる、あるいはビジネスを運営する、あるいは旅行をするのに信頼に足る人物であるかを判断するために、信用システムに依存しています。多くの場所では、このシステムは市場原理と、記録の正確さと公平性に焦点を当てたデータ保護法に基づいて構築されています。しかし、中国のアプローチは異なります。国家は、「社会信用」システムと呼ばれる、大規模で統一されたシステムを構築しました。その目的は、行動を追跡し、情報を異なる政府部門間で共有し、ルールを破った者に結果を適用することによって、社会を管理することです。このシステムの中心的な部分は、「失信行為（重大な信頼違反）」というラベルです。個人や企業がこのラベルを付与されると、融資の拒否から特定の職種への就業禁止に至るまで、連鎖的な制限を受けることになります。長年、法学者はこのラベルが実際には何であるかについて議論してきました。それは、医師が診断を確定させるような、単なる事実の確認なのでしょうか？それとも、罰金や犯罪に対する禁固刑のような、一種の罰なのでしょうか？このラベルの真の性質を理解することは重要です。なぜなら、人々を保護する法的規則は、その行為をどのように定義するかによって完全に左右されるからです。もしそれが「罰」であれば、公平性を確保するために厳格な法律が適用されます。もしそれが単なる「事実」であれば、そうした保護は存在しない可能性があります。

アル・ファラビ・カザフ国立大学のシザン・ルオという研究者は、この議論を検証し、現在の法的定義は的外れであることを見出しました。論文は、「失信行為」の判定は、単純な事実の確認でも、伝統的な罰でもないと主張しています。代わりに、著者はこれを「リスク識別」と呼ばれる、全く異なる種類の行為であると提案しています。平易な言葉で言えば、これはシステムが、昨日行われたことを罰するために過去を振り返っているのではなく、明日何が起こり得るかを予測するために未来を見ていることを意味します。それは、政府が将来の問題が発生する前に管理できるよう、人々を異なるリスクカテゴリーに分類する方法なのです。この研究は、現在のシステムが、この新しい前向きな（未来志向の）ツールを、過去のための古い法的枠組みに無理に当てはめようとしているために、混乱、不一致、そして不公平を生み出していると示唆しています。

論文はまず、現在のシステムがいかに実務において混乱しているかを示すことから始まります。何が「重大な失信」に該当するかを正確に定義する、単一の明確な国家法は存在しません。代わりに、ルールは地域や業界ごとに分散しています。ある都市では、電気料金の支払いが遅れただけで「不誠実」というラベルを貼られるかもしれません。しかし別の都市では、同じミスが無視されることもあります。金融部門では、ある銀行は支払いが90日遅れた時点でその人を高リスクの債務不履行者と判断する一方で、別の銀行は120日待つかもしれません。このような一貫性の欠如により、全く同じことをしたとしても、住んでいる場所や取引している銀行によって、受け取るラベルが完全に異なってしまうのです。さらに、これらの決定を下すプロセスは、しばしば密室で行われます。人々は、決定が下された後に初めて「不誠実」とラベル付けされたことを知らされることが多く、使用されたデータを確認したり、異議を申し立てたりする機会はほとんどありません。ルールがこれほど分散し、手続きが不透明であるため、システムには近代的な法制度が備えるべき安定性と公平性が欠けています。

次に、著者は学者がこのラベルを理解しようとしてきた二つの主要な考え方を検証します。第一の考え方は、それが「行政的確認」であるというもので、これは政府が運転免許証の有無を確認するように、単に事実を述べているというものです。論文は、このラベルは単に何が起きたかについてではなく、将来のリスクに関する判断を含んでいるため、これは間違いであると論じています。政府は単に「支払いが遅れた」と言っているのではなく、「再び支払いが遅れる可能性が高い」と言っているのです。第二の考え方は、それが罰金や禁固刑と同様の「行政罰」であるというものです。論文はこれも否定しています。罰とは、特定の違法行為に対して科されるものです。しかし、「重大な失信」には、契約違反や道徳的な過失など、厳密には違法ではない事柄も含まれ得ます。また、もしこれが罰であったとしても、多くの人は元のミスに対してすでに罰金を科されているため、同じ行為に対して二度罰せられるという原則に抵触することになります。

旧来の定義が適合しないことを示した上で、論文は新しい概念である「リスク識別」を導入しています。これはデジタル時代における先制的なツールです。犯罪が起こるのを待ってから罰するのではなく、システムはデータを収集して、トラブルの兆候を示すパターンを特定します。個人が「重大な失信」のラベルを貼られるとき、システムは本質的に、その人物を、将来の被害を防ぐために追加の監視や制限が必要な「高リスクな個人」としてフラグ立てしているのです。目的は、過去の行為に対して苦しみを与えることではなく、将来の潜在的な損失から市場と社会を守ることです。著者は、我々が政府の行為に対する理解に、この新しいカテゴリーを加える必要があると示唆しています。すなわち、「事実の確認」、「過去の犯罪への処罰」、そして「将来のリスクの識別」という三部構成のシステムです。

このシステムを公平に機能させるために、論文はこれらのリスクラベルがどのように管理されるべきかについて、新しい枠組みを提案しています。第一に、国家法によって作成された単一の統一されたルールが存在し、「重大な失信」の定義がどこでも同じである必要があります。第二に、これらの判断を下す権限は慎重に調整されなければなりません。あらゆる小さなミスが重大なラベルを誘発すべきではなく、公衆に対して真に重大なリスクをもたらす行為のみが対象となるべきです。第三に、プロセスは透明でなければなりません。人々はなぜ自分がフラグを立てられたのか、どのようなデータが使用されているのかを知らされるべきであり、ラベルが定着する前にエラーを修正できる実質的な機会を与えられなければなりません。最後に、システムには間違いを修正し、人々が再出発できる仕組みが必要です。リスクは時間の経過とともに変化するため、ラベルは永続的なものであってはなりません。もし人物の行動が改善されたり、データが誤っていたりした場合、ラベルは削除され、信用は回復されるべきです。

研究は、中国の社会信用システムが、政府の運営方法を「悪い行動を罰するモデル」から「将来のリスクを管理するモデル」へと変容させていると結論付けています。この転換は、行政当局が継続的なデータの収集、評価、および自動スコアリングにますます依存するようになるビッグデータとアルゴリズムによって推進されています。しかし、法的なルールはこの新しい現実には追いついていません。「重大な失信」がリスク識別の形態であることを認識することで、リスクを効果的に管理しつつ、それが影響を与える人々に対して公正なシステムを構築できると論文は主張しています。デジタル時代における法の未来は、安全への追求が正義を犠牲にすることのないよう、予測システムによる拡大する権力から人々を守るためのルールをいかに作り上げられるかにかかっていると示唆しています。