Les technologies de surveillance en Chine La dystopie réalisée ?
Abel Uros, Yuanbo Zhu
Des lecteurs cérébraux pour surveiller la concentration des employés[1], la collecte d’ADN pour reconstruire des visages[2], utilisés pour la reconnaissance faciale[3], laquelle permet d’identifier les contrevenants qui traversent en dehors des clous, abaissant leur social score et leur interdisant l’accès aux transports publics[4], et ainsi de suite. La presse occidentale présente régulièrement la Chine comme l’une des grandes figures de la dystopie contemporaine, une société sans liberté d’expression, où chacun de nos gestes est surveillé en permanence.
La Chine serait ainsi le pays où 1984 et Black Mirror seraient passés de la fiction à la réalité. Cette projection dystopique possède manifestement une double fonction : si elle vise à décrire la situation chinoise, elle sert aussi d’avertissement. La Chine représente l’exemple à ne pas suivre. Le modèle Chinois y apparaît comme un danger qui pourrait tout aussi bien finir par advenir en Occident. Après tout, Londres détient encore le record du nombre de caméras de vidéosurveillance par habitant, devant Pékin[5].
Mais que savons-nous exactement des systèmes de surveillance mis en place en Chine ? Quelles différences la situation chinoise présente-t-elle par rapport aux systèmes de surveillance déployés dans les pays occidentaux ?
Les trois piliers de la surveillance
De fait, la censure est très présente en Chine, sur tous les média (télévision, internet, jeux vidéo). Elle est présentée par le gouvernement comme indispensable pour assurer la stabilité globale du pays et son bon développement. Ce système de surveillance et de censure est fondé sur trois grands piliers technologiques.
La première de ces technologies est la reconnaissance faciale, qui sert déjà dans de nombreuses utilisations du quotidien, comme pour acheter un ticket de métro ou un téléphone. La Chine est aujourd’hui l’un des deux principaux fournisseurs de cette technologie, au niveau mondial avec les USA[6].
Dans l’espace public, ce système repose sur un grand nombre de caméras, interconnectées notamment à travers le système “Skynet”, qui est un réseau de caméras au niveau national.
Le but de la Chine est de déployer sur le réseau Skynet une technologie de reconnaissance faciale.
Le déploiement de ces technologies se heurte cependant aux mêmes obstacles de fiabilité qu’en Occident. On peut néanmoins se demander si la seule possibilité d’être sous surveillance n’est pas en soi un facteur de discipline… quand bien même les technologies ne seraient pas, par elles-mêmes, efficaces. La présence de policiers chinois, portant des lunettes de réalité augmentée, censées leur fournir les informations sur toutes les personnes alentour, mais totalement incapables de fonctionner en situation normale, va dans ce sens[7].
Les arguments qui soutiennent cette surveillance de masse sont les mêmes qu’en Occident : retrouver les coupables de délits, ou mieux encore intervenir de manière préventive afin d’éviter que des crimes se produisent en détectant des comportements suspects. Mais la technologie est aussi utilisée contre des populations spécifiques, notamment les musulmans Ouïghours, placés dans des camps de rééducation duquel ils ne pourront sortir que lorsqu’ils seront considérés comme de parfaits citoyens chinois. Cette mesure fait suite aux attaques terroristes de juillet 2009 au Xinjiang.
Le second système, qui a attiré l’attention médiatique, est le score de crédit social. Ce score est une note attribuée à chaque citoyen chinois, consultable via une application. Cette application est commune à différents acteurs privés. La note se base sur le respect des règles établies par les entreprises concernées. Avoir une bonne note permet d’avoir certains avantages comme des réductions. En revanche avoir une mauvaise note peut bloquer l’accès à certains services des entreprises reliées à l’application. Le système de crédit social n’est pour le moment pas relié au système Skynet. Ainsi votre score ne peut pas baisser automatiquement, si une mauvaise action était détectée dans l’espace public, par le biais de la reconnaissance faciale par exemple.
Le dernier pilier de la surveillance chinoise est le “grand firewall”, qui filtre toutes les connexions internet de la Chine, en entrée comme en sortie. La permissivité du filtrage varie selon les sujets et les situations géopolitiques. L’objectif est ici le contrôle de l’information, en se préservant des acteurs d’influence extérieurs, comme les youtubeurs qui sont censurés. La doctrine chinoise vise ainsi à maintenir une forme de “souveraineté numérique”, à l’opposé de l’idéal d’Internet comme espace de liberté supranational[8]. Le blocage des GAFA permet, de surcroît, de garder un « contrôle » sur les données des utilisateurs chinois. En revanche, le gouvernement peut choisir d’abaisser à tel ou tel moment la censure pour que se déroulent des campagnes contre des opposants ou des cadres locaux. La modulation du filtrage est donc utilisée comme outil politique. Concrètement, aujourd’hui, les citoyens de Chine continentale ne sont pas tenus ignorants de la situation à Hong Kong, mais celle-ci est présentée massivement de manière favorable aux visées du gouvernement central.
Le grand firewall se double d’un ”grand cannon”, dispositif offensif, reposant sur un principe d’attaque ciblées par déni de service, qui permet de mettre hors de fonctionnement des sites qui diffuseraient des informations hostiles au gouvernement chinois. Contrairement au grand firewall, la plupart des chinois ne sont pas au courant de son existence.
Comment les citoyens chinois perçoivent-ils ces technologies ?
Si la presse s’est récemment fait l’écho de l’émergence de sentiments hostiles à la reconnaissance faciale[9], les citoyens chinois se répartissent en trois catégories par rapport à leur avis sur la censure et la surveillance du pays.
La grande majorité des Chinois ne s’intéresse pas au déploiement de ces technologies. Cette surveillance est mise en place et justifiée par le parti communiste chinois. Les Chinois ont une éducation les poussant à avoir une confiance aveugle en leurs dirigeants. Les médias relaient sans fausse note la propagande gouvernementale et ne diffuseront jamais d’idées contraires à celles du parti.
Cependant, certains choisissent de passer outre la censure, en utilisant notamment des VPN pour accéder à un internet non censuré. Ces gens sont traqués par le gouvernement. En effet, utiliser un VPN est totalement illégal en Chine. Le paradoxe est que l’usage des VPN est toléré dans des cas spécifique, comme l’administration, ou encore inévitable pour les salariés de certaines entreprises technologiques qui n’ont pas d’autre choix que d’accéder à l’internet mondial pour travailler.
Les chercheurs et experts en sécurité informatique constituent une dernière catégorie de personnes, peu nombreuses, qui connaissent le système de censure pour l’avoir mis en place ou travailler à sa maintenance. Le système est activement utilisé comme outil politique. En effet, les critiques envers le PCC sont fortement réprimées alors qu’une certaine liberté est laissée aux critiques destinées aux opposants au parti. En laissant les gens s’exprimer sur des sujets choisis, le parti peut ainsi utiliser la liberté d’expression comme une arme.
Que reste-t-il de ces promesses ?
A l’heure actuelle, bon nombre des promesses faites par ces pionniers se sont réalisées. Le couplage avec la machine via des interfaces symboliques, l’accès à l’information en réseau font partie intégrante de nos sociétés. Au point, que nous en sommes même dépendants : l’économie du monde entier est basée sur ces techniques d’accès à l’information. Tout ce qui nous entoure est relié de près ou de loin à une informatique, qui doit beaucoup aux programmes pionniers des années 1960.
Mais ces technologies ont-elles vraiment produit les effets révolutionnaires et utopiques qui motivaient ces chercheurs ? Utilise-t-on cette technologie comme les scientifiques des années 1960 l’avaient imaginé ou conçu ? Force est de constater que loin de libérer l’intelligence, ces technologies sont aussi sources de dérives et d’abrutissement aussi bien au niveau individuel que collectif. Même si la technologie a permis de réaliser des choses incroyables, elle est loin de nous avoir ouvert “les portes de la perception”, comme en rêvait l’informatique contre-culturelle.
Comparaison
Les technologies de surveillance déployées en Chine ne diffèrent pas en nature de celles qui peuvent exister en Occident. La différence principale réside cependant dans le niveau d’acceptabilité sociale de ces technologies. Celle-ci facilite l’extension de la surveillance et l’interconnexion des systèmes. Cependant, fantasmer la situation chinoise sous la forme d’une dystopie où se réaliserait les pires cauchemars de 1984 ou de Black Mirror, ne doit pas nous dispenser de voir que l’intégration des systèmes est loin d’être achevée et que la promesse d’automatisation se heurte comme partout à des contraintes technologiques bien réelles. La figure critique de “la dystopie chinoise” apparaît ainsi à double tranchant, en projetant sur la situation chinoise, souvent mythifiée, le développement des technologies de surveillance tel qu’il se produit “à la maison”, à plus ou moins bas bruit.
De fait, le déploiement de la reconnaissance est aujourd’hui au coeur d’une controverse considérable aux Etats-Unis[10]. Le gouvernement pousse à son adoption en France[11]. Le système de crédit social se rapproche du score de crédit, que l’on peut trouver en France ou Etats-Unis, auprès des banques ou des assurances afin de vérifier si vous êtes un bon payeur. Un mauvais score conduit les banques à prendre des dispositions pour empêcher l’accès à certains services. Une grosse différence tient cependant ici au fait que la note, non publiquement accessible reste utilisée, en France, pour une fonction particulière, ce qui n’est plus forcément le cas aux Etats-Unis, où le score de crédit devrait être utilisé comme indicateur pour trier les migrants[12]. Pour ce qui est de la censure, les différences sont majeures. L’Etat n’intervient pas dans la suppression ou la dissimulation de contenus, qui sont laissés à la discrétion des diffuseurs privés, dès lors que le contenu respecte les lois en vigueur. Ce qui ne signifie pas que le contrôle de l’information ne soit pas un enjeu politique et économique considérable.
La Chine est donc un pays qui prône un Etat fort, qui garde un contrôle étroit sur ses citoyens et l’économie, au nom des impératifs de stabilité sociale et de développement économique. Si la situation chinoise diffère manifestement de celle que nous connaissons en Occident, on voit néanmoins que l’idéal d’une société de surveillance et de contrôle trouve aussi à s’y exprimer. Or, l’étendue du système de surveillance en Chine nous montre combien il peut être dangereux de concentrer autant de pouvoir dans les mains d’une poignée de personnes. Juridiquement et technologiquement, une question clé tient à l’interconnexion des systèmes et des bases de données. En France, la CNIL a été créée précisément à fin de limiter ces recoupements.
Le modèle chinois représente-t-il un destin inexorable ? Dès lors que les technologies sont présentes, qu’est-ce qui pourrait empêcher de les déployer ? Quand les bases de données sont constituées ne finissent-elles pas toujours pas être combinées, dès lors que leur valeur prédictive comme leur efficacité augmente par l’interconnexion ? Ainsi, de plus en plus de pays adoptent aujourd’hui ces technologies de surveillance. Les révélations d’Edward Snowden ont montré l’étendue du système d’espionnage déployé par les Etats-Unis. Où que ce soit dans le monde, l’information constitue un immense enjeu de pouvoir. Si une partie de la solution réside dans la technologie, dans la création d’instrument de contournement de la surveillance comme les VPN ou TOR, dans un jeu infini du chat et de la souris, l’autre part est politique et exige de nous interroger sur le type de société dans lequel nous souhaitons vivre.
[1] https://www.scmp.com/news/china/society/article/2143899/forget-facebook-leak-china-mining-data-directly-workers-brains
[2] https://www.nytimes.com/2019/12/03/business/china-dna-uighurs-xinjiang.html
[3] https://www.nytimes.com/2018/07/08/business/china-surveillance-technology.html
[4] https://www.monde-diplomatique.fr/2019/01/RAPHAEL/59403
[5] https://www.nytimes.com/2019/09/15/technology/britain-surveillance-privacy.html
[6] https://carnegieendowment.org/2019/09/17/global-expansion-of-ai-surveillance-pub-79847
[7] https://www.ft.com/content/c4288d72-a7d0-11e9-984c-fac8325aaa04
[8] https://fr.wikipedia.org/wiki/D%C3%A9claration_d%27ind%C3%A9pendance_du_cyberespace
https://www.youtube.com/watch?v=5t05I2DupoM
[9] https://www.cnbc.com/2019/09/06/ai-worries-about-the-dangers-of-facial-recognition-growing-in-china.html
[10] https://www.technologyreview.com/s/614477/facial-recognition-law-enforcement-surveillance-private-industry-regulation-ban-backlash/
[11] https://www.lemonde.fr/economie/article/2019/10/14/cedric-o-experimenter-la-reconnaissance-faciale-est-necessaire-pour-que-nos-industriels-progressent_6015395_3234.html
[12] https://www.marketwatch.com/story/immigrants-could-be-required-to-show-credit-scores-if-they-want-to-stay-in-the-us-2018-09-26
