Les enjeux informationnels de la reconnaissance faciale

En 2019 le New York Times a signalé que le gouvernement Trump, après avoir pris des mesures contre la société Huawei, envisageait de mettre sur la liste noire une entreprise chinoise de fabrication d'équipements de vidéosurveillance. L'entreprise en question était Hikvision, accusée par l'Amérique de la violation des droits de l'Homme.

Les dessous d'une guerre commerciale

Le 1er mai 2021, en Italie sur la Rai (radio, télévision italienne) Report (transmission télévisée d'enquête journalistique), diffusait un épisode titré « l'œil du dragon ». L'enquête concernait Hikvision et d’autres entreprises chinoises opérantes sur le marché de la surveillance. Depuis 2013, musées, ministères, tribunaux, hôpitaux, parcs municipaux et aéroports italiens ont installé des caméras Hikvision et Dahua tech dans le but de garantir une plus grande sécurité. En avril 2015, un responsable d'une entreprise du groupe Rome Airport remarque quelque chose d'anormal dans le réseau informatique. Des centaines de caméras qui surveillent une zone de transit de l'aéroport commencent à envoyer des informations à une adresse étrangère inconnue.

Hikvision, dont 42% du contrôle de l'entreprise est détenu par le gouvernement chinois, enregistrait des images sur le territoire national italien et des données étaient envoyées à des IP étrangères. Ces caméras, grâce à des techniques d'intelligence artificielle, étaient capables de lire chaque détail de notre visage et de notre caractère. 

Maintenant que ces informations ont été envoyées en Chine sur le territoire où Hikvision est basé, il n'y a aucun doute, mais quel usage est fait de ces données ? Cela reste un mystère.  Au centre de l’enquête émerge aussi une start-up chinoise Zhenhua, qui selon une société australienne de la cybersécurité, collectionnait des données sur des personnes politiquement exposées, des industriels, des patrons criminels, pour les analyser et les cataloguer dans des profils psychologiques.

Un usage de la reconnaissance faciale encore peu réglementé 

Il faut noter que la reconnaissance faciale n'est pas une pratique nouvelle dans de nombreux pays du monde si l'on en croit le rapport écrit par CANDRIAM, Asset Management entreprise basé au Luxembourg. Contrairement à la Chine, la plupart des États ne sont pas dotés de base légale afin de justifier de l'utilisation de systèmes de surveillance avec reconnaissance faciale dans le temps réel. Il faut rappeler que Walmart, dans un projet appelé « Missed Scan Detection », utilise l'intelligence artificielle pour retrouver les clients qui ont volé.

Mais le programme, Missed Scan Detection, qui utilise la technologie fournie par la société irlandaise Everseen, suit les objets plutôt que les personnes. Et c'est là, la différence entre la Chine et de nombreux pays occidentaux aujourd'hui. En fait, la reconnaissance faciale en Chine, dont l'usage est très apprécié par la population, est utilisée par les institutions publiques mais aussi par l’entreprise privée.

Selon les données de la recherche officielle publiée dans la revue scientifique Public Understanding of Science, la plupart des citoyens chinois sont favorables à la reconnaissance faciale. La reconnaissance faciale est légalisée en Chine car la sécurité publique est une priorité. En Europe et en Amérique, au contraire, les droits de l'Homme sont une pierre angulaire de notre démocratie. Toute utilisation à cet égard doit être clairement réglementée afin de protéger la dignité humaine.  Le problème doit être pris au sérieux car l’impact économique aurait pu être considérable, en particulier sur la chaîne d'approvisionnement de nombreuses entreprises dans le monde.

Le cas d'école de la surveillance des Ouighours 

Pour comprendre ce lien, il faut revenir sur le cas de l’entreprise Hikvision. Cette entreprise Hikvision a été liée à la répression des Ouïghours dans le territoire chinois du Xinjiang. En effet, le programme de répression mis en place s'articule autour d’un système avancé de reconnaissance faciale, au moyen de caméras produites par Hikvision, et de collecte de données.

Quatre-vingt-deux entreprises sont impliquées dans l'affaire car il y des contrats avec des fournisseurs qui utilisent la main-d'œuvre qui vient de ces centres. Selon le Think thank australien ASPI, parmi les grandes marques seraient présentes Nike, Fila, Candy, H&M, Adidas et Zara. Certaines de ces entreprises ont nié, d'autres ont refusé de répondre, d'autres ont déclaré ne plus utiliser la main-d'œuvre provenant de Xinjiang. À la lumière de l'affaire, les États-Unis ont bloqué les importations de coton produit en violation des droits des travailleurs.

La Chine est aujourd'hui le pays qui produit le plus de coton au monde et si l'on considère qu’il s’agit probablement le pays qui le produit au meilleur coût, imaginer les dégâts qui pourraient affecter certaines entreprises et l'économie en général s’avère aisé. Enfin, il reste à considérer l'aspect financier. Selon un article publié sur Swiss info en 2019, le site SonntagsBlick déclarait que la banque suisse UBS a été l'un des principaux actionnaires de Hikvision pendant des années.

Droits de l'homme et compétition autour de l'intelligence artificielle à usage privé et public

Le marché numérique sera en effet l'un des marchés économiques les plus dynamiques dans les années à venir. Un marché où les fonds doivent être alloués à la recherche, au développement et à l'industrie. À l'heure actuelle, le scénario européen ressemble à ceci : Les organisations gouvernementales demandent l'interdiction de l'utilisation, du développement, de la production, de la vente et de l'exportation de la technologie de reconnaissance faciale à des fins d'identification par les agences gouvernementales et les acteurs du secteur privé.

De nombreuses agences chinoises de sécurité publique utilisent des produits vendus par des entreprises européennes pour renforcer leur capacité de surveillance abusive. LKa plupart des gouvernements de l'Union Européenne, dont la France et la Suède, résistent aux appels à renforcer les règles d'exportation pour inclure de solides garanties en matière de droits de l'Homme dans la technologie de surveillance biométrique.L'Allemagne et les Pays-Bas ont tous deux exprimé la nécessité de renforcer les droits de l'homme.

Règlements et directives définiront le champ d'action. L'Europe, l'Amérique et toutes les démocraties matures ont besoin de faire la lumière sur l’utilisation de la reconnaissance faciale car il s’agit d’une question délicate qui touche les valeurs humaines, l’économie et le politique. Une question importante parce qu'on pourrait mettre en jeu l'équilibre politique. Les États-Unis et la Chine ont une stratégie claire à cet égard. Les États-Unis qui, tel qu'il apparaît dans un article publié dans le magazine Foreign Affairs en mars 2020 intitulé "Why America Must Lead again", veulent à tout prix conserver ou retrouver le leadership dans le secteur économique et technologique et la Chine qui, à travers la « Belt and Road Initiative », « le plan Made in China » et le plan « China Standards », a des ambitions claires : devenir la première puissance mondiale.

Une Europe désunie sur la question

Les pays membres de l'Union Européenne ne semblent pas évoluer de manière unifiée. La Chine reste en fait un partenaire stratégique pour l'Europe mais il est important que l'Europe indique clairement les sacrifices qu’elle pourrait faire face aux intérêts économiques. La signature du Memorandum of Understanding entre la Chine et l’Italie a placé l'Italie au centre d 'une vague de vives critiques, en particulier de la part de la Commission Européenne et des États-Unis. Les prochaines années seront déterminantes afin d’établir le rôle de l’Union Européenne.

 

Raffaele Calandrelli

 

Références :

1. The New York Times 21.05.2019 “Trump Administration Could Blacklist China’s Hikvision”

https://www.nytimes.com/2019/05/21/us/politics/hikvision-trump.html

2.Report episode of 10.05.2021 “The Eye of the Dragon”

https://www.rai.it/programmi/report/inchieste/Locchio-del-Dragone-91d2b796-2cb6-411f-a4ea-a261b6267396.html

3.Wired Magazine 28.07.2021 “One hundred cameras of the Chinese Hikvision monitor the workers of the Ministry of Culture”

https://www.wired.it/economia/business/2021/07/28/hikvision-telecamere-cina-sorveglianza-ministero-cultura-lavoratori/

4. Dossier Candriam “Riconoscimento facciale e diritti umani: linee guide per gli investitori”

https://www.candriam.com/495d20/siteassets/medias/publications/brochure/research-papers/facial-recognition/2021_03_facial_recognition_it_web.pdf

5. BBC 21.06.2019 “Walmart uses AI cameras to spot thieves”

https://www.bbc.com/news/technology-48718198

6. Public Understanding of Science:”Between security and convenience: Facial recognition technology in the eyes of citizens in China, Germany, the United Kingdom, and the United States”

https://journals.sagepub.com/doi/full/10.1177/09636625211001555

7. Think Thank ASPI Re-education’, forced labour and surveillance beyond Xinjiang

https://www.aspi.org.au/report/uyghurs-sale

8. Swissinfo.ch 15.12.2019 “UBS accused of investing in Chinese firm behind surveillance of Uighurs”

https://www.swissinfo.ch/eng/hikvision_ubs-accused-of-investing-in-chinese-firm-behind-surveillance-of-uighurs/45436856

9. Foreign Affairs: “Why America Must Lead again”

https://www.foreignaffairs.com/articles/united-states/2020-01-23/why-america-must-lead-again