Un score social

Dans un épisode de la série dramatique dystopique de Netflix Black Mirror , les personnages vivent dans un avenir où ils ont un «score social» qui dicte les termes de presque tous les aspects de leur vie: qui sont leurs amis, où ils vivent, comment ils sont traités par des étrangers, et même combien ils paient leur loyer. Malheureuse de son score, la protagoniste prend des mesures drastiques pour l’élever, mais elle finit par perdre l’esprit et aller en prison.

Cela semble futuriste, effrayant, et peu probable d’arriver dans la vie réelle?

1446171646883684385

Malheureusement non. Une version réelle de ce scénario démarre en Chine, où le gouvernement met en œuvre ce qu’il appelle un système de crédit social. Il est déjà piloté dans la capitale provinciale de l’est de Hangzhou.

On ne sait pas trop comment certains des critères les plus difficiles à mesurer seront suivis, mais le système prévoit d’inclure des données sur tout, des violations de la circulation au retard paiement et à la façon dont les gens traitent leurs parents.

Le Wall Street Journal ramène les catégories de crédit aux valeurs traditionnelles, sociales, et sur internet. Les intrants traditionnels ne diffèrent pas beaucoup de la façon dont nos scores de crédit financier sont dérivés aux États-Unis, le suivi du paiement des factures, des prêts et des impôts.

Certains des facteurs sociaux ne sortent pas trop de l’ordinaire: le casier judiciaire et l’adhésion aux règles de la circulation, par exemple. Mais il devient un peu plus bizarre: l’honnêteté académique, l’activité bénévole, et l’observation des lois de planification familiale sont inclus. La catégorie sans doute la plus étrange est la piété filiale: la vertu confucéenne de respect pour ses parents, ses aînés et ses ancêtres. Comment mesurez-vous cela?

L’entrée « Internet » – essentiellement une version réduite de la confidentialité des données actuelles – est la pièce qui sera mise en œuvre en dernier et inclura des informations sur ce que les gens achètent en ligne et leurs interactions numériques avec d’autres internautes. Pensez y deux fois avant d’aimer cette photo sur Facebook de votre ami se tenant sur un baril …

Une laisse serrée

La surveillance gouvernementale de la vie quotidienne n’est pas une nouveauté en Chine. Tout travailleur du pays a ce qu’on appelle un dangan , ou un dossier de l’employé, qui est démarré au lycée puis transféré plus tard à son employeur.

Le Dangan contient des informations sur les diplômes, les habitudes de dépenses, les amis, les conflits juridiques, et fondamentalement toute autre information qu’un employeur peut vouloir avoir sur ses employés. L’importance accordée au dangan a diminué au cours des deux dernières décennies avec le passage de l’économie du marché planifié au marché libre, mais les fichiers peuvent encore être utilisés contre les gens de manière arbitraire et dommageable.

Le gouvernement utilise également des listes noires pour restreindre l’activité des gens ou leur interdire certains services. Cela signifie qu’une erreur peut vous coûter cher et rendre des domaines non liés de votre vie plus difficile: perdre un procès au sujet d’un paiement de loyer pourrait finir par vous interdire d’acheter des billets de train. La nouvelle liste noire est celle des touristes odieux. Le gouvernement l’a mis en œuvre pour améliorer l’image de la Chine à l’ étranger après de nombreux incidents impliquant un mauvais comportement de citoyens chinois en vacances.

Les cancans

Au milieu des inquiétudes évidentes concernant l’invasion de la vie privée et la limitation supplémentaire des libertés comme la parole et l’expression, une réverbération du système de crédit social qui n’a pas été beaucoup discuté est comment elle pourrait affecter les relations interpersonnelles et communautaires. Les données d’entrée sociale, par exemple, viendront en partie des «comités résidentiels» chargés de surveiller et de rapporter le comportement des gens.

Si vous saviez qu’un de vos voisins vous surveille, en quoi votre comportement pourrait-il changer? Et si vous saviez que quelqu’un vous surveille, mais ne savez pas qui? Si vous gardiez un oeil sur tout le monde, seriez-vous un peu plus indulgent avec les gens que vous aimez le plus?

Outre la création d’une société stratifiée où l’ascenceur social  sera plus difficile pour les faibles scores (souvent arbitrairement), le système pourrait faire surgir toutes sortes de divisions entre voisins, collègues et même amis. L’ objectif déclaré est de «permettre au personne de confiance de se déplacer partout sous le ciel et rendre cela difficile pour le discrédité. »

Je ne sais pas pour vous, mais je voudrais essayer de tout faire pour m’assurer que je ne vais pas finir dans le panier «discrédité».

Des sociétés de l’Internet comme Alibaba vont enregistrer l’ activité en ligne et attribuer une note aux utilisateurs en fonction de leur empreinte internet, et huit sociétés ont déjà été approuvées pour exécuter des expériences sur la notation du crédit social à l’ aide des données personnelles.

Une population vraiment importante signifie des données vraiment importantes

Avec près de 1,4 milliard de personnes, la Chine représente environ 19% du total de la population mondiale . C’est beaucoup de gens, et beaucoup de gens à surveiller assez étroitement pour leur assigner un score de crédit social significatif.

Si un nombre produit par un algorithme va déterminer l’accès à l’enseignement supérieur, la qualité et le montant des prêts, et même si on est oui ou non admis dans les hôtels de luxe, il est très important que ce nombre soit précis. Même avec les gouvernements locaux, les comités résidentiels et les entreprises d’Internet se rassemblant pour collecter et rapporter les données sur les citoyens, la gestion des données sera un énorme défi.

La notation du crédit social devrait être déployée d’ici à 2020 . Il reste à voir si la peur d’un faible score suffira à faire changer le comportement des gens, peu importe le nombre de personnes dans les bases de données gouvernementales.

Source

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *