Rechercher
Contactez-nous Suivez-nous sur Twitter En francais English Language
 

De la Théorie à la pratique











Abonnez-vous gratuitement à notre NEWSLETTER

Newsletter FR

Newsletter EN

Vulnérabilités

Se désabonner

Gaétan Golberg, Chargé de mission Numérique, Droits et Libertés chez Le Défenseur des droits : l’IA et la biométrique sous l’angle de la discrimination

février 2022 par Marc Jacob

Lors de l’édition 2022 du congrès de l’AFCDP Gaétan Golberg, Chargé de mission Numérique, Droits et Libertés chez Le Défenseur des droits a analysé les liens tissés entre la CNIL et son institution. Il a expliqué les limites de l’emploi de l’IA face aux discriminations. En outre, il a mis en garde sur l’utilisation de la biométrie dans l’espace publique.

Gaétan Golberg, Chargé de mission Numérique, Droits et Libertés chez Le Défenseur des droits explique en préambule de son intervention que le droit de la protection des données à caractère personnel est utilisé au quotidien dans son activité, en particulier en matière de déontologie de la sécurité, de lutte contre les inégalités et pour protéger les lanceurs d’alertes…

Par exemple, il est confronté à des contentieux dus à des discriminations algorithmiques via un traitement automatisé et des décisions prises par des machines qui vont occasionner des situations discriminatoires comme on le voit dans le scoring des assurances, des banques, des services de justice, de l’enseignement supérieur… En effet, dans ces cas, on traite de données à caractère personnel. Ainsi, nous devons travailler avec les services de la CNIL sur ces dossiers. Pour traiter ces discriminations, il utilise le droit de la protection des données en s’appuyant entre autre sur l’article 22 du RGPD. Ainsi, plus les entreprises utiliseront de l’IA, plus le défenseur des droits devra s’appuyer sur le RGPD pour endiguer les discriminations.

Une autre situation que l’on va rencontrer, est le cas où la protection des données va entrer en collision avec la non-discrimination. Par exemple, il a pris le cas de la conservation des données. Que faire lorsque l’on est obligé d’apporter la preuve d’une situation de discriminations face au principe limitation de la conservation des données, c’est-à-dire face à l’obligation à faible échéance d’anonymiser voir supprimer les données à caractère personnel. Ainsi, il est en permanence en discussion avec la CNIL sur ces sujets.

L’IA face au obligation de respect de la protection de s données et à la non discrimination

"Je pense que les efforts fait par la CNIL et les instances européenne sont extrêmement important. Nous réfléchissons actuellement sur le règlement de l’IA qui est actuellement débattu au sein de la Commission Européenne. Nous nous demandons si les textes présentés suffiront pour pouvoir contester une situation discriminatoire du fait du des décisions algorithmiques. Aujourd’hui les discussions de la Commission Européenne traite plutôt des produits défectueux et mois des problèmes de discrimination. Il est important de créer de nouveaux droits notamment dans les études d’impact en particulier en s’appuyant l’article 35 du RGPD lorsque les traitements impliquent des données à caractère personnel. Le défenseur des droits souhaiterait que soit inclus une mesure contre les biais discriminatoires des algorithmes."

Biométrie et discrimination

Pour Gaétan Golberg les chantiers prioritaires en matière de défense des droits sont les technologies biométriques. Nous avons rédigé un rapport sur les usages de la biométrie. En effet des choix vont devoir être effectués en particulier en matière de sécurité. Par exemple, le défenseur des droits a lancé un message d’alerte concernant le déploiement de systèmes de reconnaissance faciale en temps réel dans l’espace publique. En effet, ces systèmes présentent un risque majeur en matière de protection des données et de discrimination. Il engendre aussi des risques sur les droits fondamentaux car lorsqu’un individu se sait surveillé il peut modifier son comportement. "On a une marge de manœuvre du fait du libre choix des Etats membres. Nous avons donc mis en garde sur ces usages..." conclut-il son intervention.


Articles connexes:


Voir les articles précédents

    

Voir les articles suivants