From Punishment to Risk Identification: Rethinking the Mechanism for Determining “Serious Breaches of Trust” in China’s Social Credit Governance
Cet article soutient que la détermination des « manquements graves à la confiance » dans le système de crédit social en Chine devrait être reconceptualisée, passant d'un acte administratif punitif à une forme distincte d'identification des risques, en proposant un modèle tripartite d'actes administratifs et un cadre de gouvernance fondé sur les risques correspondant afin de mieux répondre aux fonctions prédictives et préventives du système.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le monde moderne, les gouvernements et les banques s'appuient sur des systèmes de crédit pour décider qui est assez digne de confiance pour emprunter de l'argent, diriger une entreprise ou même voyager. Dans de nombreux endroits, ce système est fondé sur les forces du marché et des lois de protection des données qui visent à maintenir l'exactitude et l'équité des registres. Mais en Chine, l'approche est différente. L'État a construit un système massif et unifié appelé système de « crédit social ». Son objectif est de gérer la société en suivant les comportements, en partageant les informations entre différents départements gouvernementaux et en appliquant des conséquences à ceux qui enfreignent les règles. Un élément central de ce système est l'étiquette de « manquement grave à la confiance ». Lorsqu'une personne ou une entreprise reçoit cette étiquette, elle fait face à une cascade de restrictions, allant du refus de prêts à l'interdiction de certains emplois. Pendant des années, des experts juridiques ont débattu de la nature réelle de cette étiquette. Est-ce simplement un énoncé de fait, comme un médecin confirmant un diagnostic ? Ou est-ce une punition, comme une amende ou une peine de prison pour un crime ? Comprendre la véritable nature de cette étiquette est crucial car les règles juridiques qui protègent les individus dépendent entièrement de la façon dont nous définissons l'action. S'il s'agit d'une punition, des lois strictes s'appliquent pour garantir l'équité. S'il ne s'agit que d'un fait, ces protections pourraient ne pas exister.
Un chercheur nommé Sizhang Luo, de l'Université nationale d'Al-Farabi au Kazakhstan, a examiné ce débat et a constaté que les définitions juridiques actuelles passent à côté de la plaque. L'article soutient que la détermination d'un « manquement grave à la confiance » n'est ni une simple confirmation de faits, ni une punition traditionnelle. Au lieu de cela, l'auteur propose qu'il s'agisse d'un type d'action distinct appelé « identification du risque ». En termes simples, cela signifie que le système ne regarde pas en arrière pour punir quelqu'un pour ce qu'il a fait hier, mais regarde vers l'avant pour prédire ce qu'il pourrait faire demain. C'est un moyen pour le gouvernement de classer les individus dans différentes catégories de risque afin de gérer les problèmes futurs avant qu'ils ne surviennent. L'étude suggère que, parce que le système actuel tente de faire entrer ce nouvel outil prospectif dans de vieilles boîtes juridiques conçues pour le passé, il crée de la confusion, de l'incohérence et de l'injustice.
L'article commence par montrer à quel point le système actuel est désordonné dans la pratique. Il n'existe pas de loi nationale unique et claire qui définisse précisément ce qui constitue un « manquement grave ». Au lieu de cela, les règles sont éparpillées à travers différentes régions et industries. Dans une ville, ne pas payer une facture d'électricité à temps pourrait vous faire recevoir l'étiquette de malhonnête. Dans une autre ville, la même erreur pourrait être ignorée. Dans le secteur financier, une banque peut décider qu'une personne est un débiteur à haut risque après 90 jours de paiements manqués, tandis qu'une autre banque attend 120 jours. Ce manque d'uniformité signifie que deux personnes faisant exactement la même chose peuvent recevoir des étiquettes complètement différentes selon l'endroit où elles vivent ou la banque avec laquelle elles traitent. De plus, le processus de prise de décision se déroule souvent à huis clos. Les gens sont fréquemment informés qu'ils ont été étiquetés comme malhonnêtes seulement après que la décision a été prise, avec peu de chances de voir les données utilisées ou de présenter leur défense. Parce que les règles sont si éparpillées et les procédures si opaques, le système manque de la stabilité et de l'équité qu'un système juridique moderne devrait fournir.
L'auteur teste ensuite les deux principales manières dont les chercheurs ont tenté de comprendre cette étiquette. La première idée est qu'il s'agit d'une « confirmation administrative », signifiant que le gouvernement ne fait que constater un fait, comme confirmer qu'une personne possède un permis de conduire. L'article soutient que cela est faux car l'étiquette ne porte pas seulement sur ce qui s'est passé ; elle implique un jugement sur le risque futur. Le gouvernement ne dit pas seulement « vous avez manqué un paiement » ; il dit « vous êtes susceptible de manquer des paiements à nouveau ». La deuxième idée est qu'il s'agit d'une « sanction administrative », similaire à une amende ou une peine de prison. L'article rejette également cette hypothèse. Une sanction est destinée à punir un acte illégal spécifique. Or, un « manquement grave » peut inclure des choses qui ne sont pas strictement illégales, comme la rupture d'un contrat ou même des manquements moraux. De plus, s'il s'agissait d'une punition, cela violerait la règle interdisant de punir deux fois la même personne pour le même acte, puisque beaucoup de gens sont déjà condamnés à des amendes pour l'erreur initiale avant de recevoir l'étiquette.
Après avoir démontré que les anciennes définitions ne conviennent pas, l'article introduit le nouveau concept : l'identification du risque. C'est un outil proactif utilisé à l'ère numérique. Au lieu d'attendre qu'un crime se produise pour ensuite le punir, le système collecte des données pour repérer des schémas suggérant que des problèmes arrivent. Lorsqu'une personne est étiquetée comme ayant un « manquement grave à la confiance », le système la signale essentiellement comme un individu à haut risque nécessitant une surveillance ou des restrictions supplémentaires pour prévenir des dommages futurs. Le but n'est pas de lui faire subir les conséquences de son passé, mais de protéger le marché et la société contre des pertes futures potentielles. L'auteur suggère que nous devons ajouter cette nouvelle catégorie à notre compréhension des actions gouvernementales, créant ainsi un système en trois parties : la confirmation de faits, la punition des crimes passés et l'identification des risques futurs.
Pour que ce système fonctionne équitablement, l'article propose un nouveau cadre de gestion pour ces étiquettes de risque. Premièrement, un ensemble unique et unifié de règles doit être créé par une loi nationale afin que la définition d'un « manquement grave » soit la même partout. Deuxièmement, le pouvoir de rendre ces jugements doit être soigneusement calibré. Chaque petite erreur ne doit pas déclencher une étiquette sérieuse ; seules les actions posant un risque réel et significatif pour le public devraient être qualifiées. Troisièmement, le processus doit être transparent. Les gens doivent être informés de la raison pour laquelle ils sont signalés, de quelles données sont utilisées, et ils doivent avoir une réelle chance de corriger les erreurs avant que l'étiquette ne soit apposée. Enfin, le système a besoin d'un moyen de corriger les erreurs et de permettre aux gens de passer à autre chose. Puisque le risque évolue avec le temps, une étiquette ne devrait pas être permanente. Si une personne corrige son comportement ou si les données étaient erronées, l'étiquette doit être retirée et son crédit restauré.
L'étude conclut que le système de crédit social de la Chine modifie la manière dont les gouvernements opèrent, passant d'un modèle de punition des mauvais comportements à un modèle de gestion des risques futurs. Ce changement est porté par les données massives (big data) et les algorithmes sur lesquels les autorités administratives comptent de plus en plus pour la collecte continue de données, l'évaluation et la notation automatisée. Cependant, les règles juridiques n'ont pas rattrapé cette nouvelle réalité. En reconnaissant que le « manquement grave à la confiance » est une forme d'identification du risque, l'article soutient que nous pouvons construire un système qui soit à la fois efficace pour gérer le risque et équitable pour les personnes qu'il affecte. Il suggère que l'avenir du droit à l'ère numérique dépendra de notre capacité à créer des règles qui protègent les individus du pouvoir croissant des systèmes prédictifs, garantissant que la quête de sécurité ne se fasse pas au détriment de la justice.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.