ethique et tac
Dans son avis sur les technologies de reconnaissance faciale, posturale et comportementale, le Comité national pilote d’éthique du numérique (CNPEN) fait preuve de pédagogie et recommande de porter une attention précise à la finalité et l’utilité des technologies envisagées.
Les technologies de reconnaissance faciale, posturale et comportementale sont de plus en plus utilisées dans des domaines aussi divers que la sécurité, la finance et les transports. On la retrouve dans le contrôle aux frontières, avec la mise en place du système PARAFE en 2017 ; parfois associées aux systèmes vidéos existants déjà dans les villes, les transports, les espaces de loisirs, voire les écoles ; ou encore en santé, quand des expérimentations montrent que la reconnaissance peut aider à diagnostiquer des maladies complexes comme le syndrome de DiGeorge…
En s’appuyant notamment sur les 239 résultats obtenus à sa consultation publique et sur les auditions d’une quinzaine de personnalités issues des mondés économiques, politiques et de la société civile, le Comité national pilote d’éthique du numérique (CNPEN) vient de publier un avis sur les enjeux éthiques posés par ces outils. Créée en 2019 et pérennisée l’an dernier, l’instance souligne la nature ambivalente des outils de reconnaissance faciale, posturale et comportementale.
« La profusion et l’accumulation de leurs applications exigent de s’interroger collectivement sur le bien-fondé, les désagréments, voir les dégager potentiels de chacune d’entre elles, dans son contexte d’usage. » Or, comme les applications sont diverses « tant par leur diversité que par la multitude de leurs conséquences potentielles », le CNPEN – et les corapporteurs de ce travail que sont l’informaticien Jean-Gabriel Ganascia et l’entrepreneuse Karine Dognin-Sauze – insistent : « on ne saurait circonscrire par avance les conséquences prévisibles et les dérives potentielles ».
Le CNPEN émet tout de même 19 recommandations, en tête desquelles la nécessité d’énoncer clairement les finalités et d’analyser et expliquer l’utilité d’une technologie (via des cartographies des risques et la construction d’outils pour les éviter). Elle promeut aussi un principe de proportionnalité dans le déploiement de ce type de technologies, et argumente en faveur de protocoles rigoureux et transparents d’expérimentation pour s’assurer que les technologies répondent bien au(x) besoin(s) identifié(s).
- Comprendre les fonctions et les utilisations de la reconnaissance faciale
- Après la vidéo-surveillance algorithmique, les députés vont vers la reconnaissance faciale