Entre-temps, de grandes entreprises technologiques telles que Microsoft, Amazon ou IBM, ont récemment accepté de suspendre ou de mettre fin à la distribution de technologies de reconnaissance faciale aux forces de l’ordre jusqu’à ce qu’elles puissent mieux évaluer et résoudre certains problèmes sous-jacents.

Étant donné certains défauts inhérents aux technologies de reconnaissance faciale, ou du moins assez suffisants pour être bloqués par les gouvernements et les grandes entreprises technologiques, les problèmes liés aux préjugés et au respect de la vie privée doivent être traités avec sérieux avant d’être mis en place dans le monde réel.

La reconnaissance faciale est-elle discriminatoire ?

Les technologies de reconnaissance faciale deviennent de plus en plus accessibles et abordables, mais les préjugés au cœur de cette technologie peuvent entraîner des expériences dangereuses et discriminatoires pour les consommateurs.

Rekognition, le service de reconnaissance faciale d’Amazon, a par exemple classé par erreur 28 membres du Congrès des Etats-Unis en tant que criminels, lors d’un test de l’ACLU (Union américaine pour les libertés civiles), une grande partie de ces personnes étant de couleur. Une étude plus large menée par le National Institute of Standards and Technology a révélé que les systèmes de reconnaissance faciale identifiaient très mal les minorités dites visibles comme les asiatiques et les personnes de couleur, à un taux allant jusqu’à 100 fois plus que chez des hommes blancs.

D’autres exemples ont depuis démontré que cette technologie comporte encore trop de failles pour être pleinement opérationnelle. En effet, de tels préjugés peuvent avoir des conséquences très graves si une technologie défaillante est utilisée pour des questions de sécurité nationale, d’application de la loi ou de justice pénale.

Les préoccupations des consommateurs en matière de protection de la vie privée doivent être véritablement prises en compte
Malgré des inquiétudes fondées autour des préjugés et des risques pour la vie privée, de nombreux pays choisissent tout de même d’implémenter cette technologie. Néanmoins, à mesure que la reconnaissance faciale sera déployée, il faudra également s’attendre à des réactions vives de la part des consommateurs.

Il a récemment été révélé* que 68% des personnes se disent préoccupées par l’omniprésence croissante des technologies de reconnaissance faciale. D’ailleurs, 78% d’entre elles décrivent cette technologie comme étant un mécanisme abusif poussant vers toujours plus de surveillance.
Récemment, plusieurs associations d’activistes numériques ont alerté l’Union Européenne sur l’utilisation croissante de la reconnaissance faciale et d’autres technologies d’identification biométrique sur le vieux continent. Selon elles, cela ouvre la voie vers une surveillance des citoyens à grande échelle.
Bien évidemment, l’utilisation de ces technologies continue à se développer tant dans les sphères privées que publiques. Il est donc fort probable que nous assisterons encore à l’avenir à des manifestations légitimes sur ces questions.

Quelle est la prochaine étape ?

Aujourd’hui, l’utilisation généralisée d’une technologie de reconnaissance faciale défectueuse ne peut pas répondre à l’exigence des consommateurs, alors que les débats autour de la confidentialité des données et du respect de la vie privée atteignent un niveau sans précédent. Tant que la réglementation et que la transparence ne seront pas exemplaires, la reconnaissance faciale représente une violation des libertés individuelles et rentre en conflit avec les valeurs des sociétés démocratiques.

L’utilisation de la technologie de reconnaissance faciale en milieu scolaire (notamment à Nice et à Marseille) s’est heurtée à l’opposition des parents, des défenseurs de la vie privée ainsi que de la loi. En réponse au tollé suscité par le projet de la région PACA, le tribunal administratif a par la suite déclaré cette expérience comme illégale, mettant ainsi un terme aux projets du conseil régional visant à mettre en place des technologies de reconnaissance faciale dans les lycées.

Il est essentiel que les applications réelles de la technologie de reconnaissance faciale soient mises en pause afin de garantir que des changements nécessaires soient apportés pour permettre une utilisation sûre, sécurisée et correcte de la technologie. Pour ce faire, trois acteurs seront nécessaires : politique et réglementaire, la préparation auprès des consommateurs et des changements technologiques profonds, afin que cette technologie puisse être compatible avec les valeurs démocratiques.

Mais surtout, le consentement éclairé des consommateurs et la transparence seront nécessaires pour garantir que la technologie ne fasse pas l’objet d’abus. Néanmoins, pour réformer en ce sens, le soutien et l’activisme accrus du grand public seront nécessaires. Surtout, les consommateurs devront se montrer à la hauteur de la situation. Ils devront exiger que les responsables politiques et les grandes entreprises technologiques soient responsables pour résoudre les importantes lacunes technologiques avant de mettre en pratique toute nouvelle technologie de reconnaissance faciale.

*Etude ExpressVPN sur la sécurité des données, Avril 2020.