La police doit-elle utiliser la reconnaissance faciale pour identifier des manifestants ? 3 Gafam disent non

Publié le : 11-06-2020

#securitenumerique Vie perso

D'abord IBM, puis Amazon et Microsoft. Dans le sillage des manifestations Black Lives Matter, les géants américains du numérique arrêtent ou suspendent leurs projets dans la reconnaissance faciale, accusée de reproduire des biais ethniques lorsqu'elle est utilisée par la police

Actualisé le 15 juin 2020

La reconnaissance faciale, adoptée par de nombreuses polices pour identifier et trouver plus rapidement des suspects, est aujourd’hui accusée d’aggraver les discriminations et de menacer la vie privée. Dans le sillage du mouvement Black Lives Matter : IBMAmazon et Microsoft ont toutes annoncé la suspension ou l’arrêt de projets dans ce domaine et notamment leur collaboration avec les polices américaines. Des décisions symboliques mais dont on peine encore à mesurer la portée, tant ces techniques sont utilisées

 

=> La reconnaissance faciale, comment ça marche ? 

 

IBM par exemple, a annoncé mardi 9 juin, par l’intermédiaire de son PDG Arvind Krishna, qu’elle ne vendrait plus – ni ne développerait – dans le futur proche des systèmes de reconnaissance faciale. Une annonce qui intervient 15 jours après la mort de George Floyd, et sur fond de manifestations aux États-Unis contre le racisme et les violences policières. Le courrier adressé directement au Congrès américain détaille les raisons de ce changement de position :

« IBM s’oppose fermement, et elle ne fermera pas les yeux, à l’utilisation de technologies, incluant la reconnaissance faciale, pour la surveillance de masse, le contrôle au faciès, les violations des droits et des libertés humaines (…) ».

Amazon a fait savoir à son tour, mercredi 10 juin, qu’elle interdisait pendant un an l’utilisation de son logiciel de reconnaissance faciale Rekognition par la police.

« Nous prônons des régulations plus strictes des gouvernements sur le recours éthique aux technologies de reconnaissance faciale, et le Congrès semble prêt à relever le défi », a indiqué le géant du commerce en ligne dans un communiqué.

L’usage de la reconnaissance faciale pour la surveillance fait débat

Cette technologie est  sujette à débat rappelle Le Journal du Geek, aux endroits où elle est mise en pratique. Plusieurs villes des États-Unis l’ont en effet successivement adoptée, puis interdite. San Francisco est ainsi devenue la première ville à interdire l’utilisation de cette technologie par la police, estimant que la reconnaissance facile pouvait « exacerber l’injustice raciale et menacer notre capacité à vivre libre de toute surveillance permanente par le gouvernement », expliquait alors la décision du Conseil municipal en mai 2019. Une décision suivie par les villes de Oakland, Portland, et même la ville de New York, qui a limité l’usage de la reconnaissance faciale en forçant les entreprises qui l’utilisent à afficher des panneaux devant les bâtiments pour alerter les visiteurs que la technologie y est utilisée.

 

La reconnaissance faciale pas fiable à 100%

De nombreuses études ont montré que la reconnaissance faciale présentait des biais liés à l’âge, au genre et à la couleur du visage présenté. Ainsi, en 2018, l’étude « Gender Shades » avait montré que l’acuité de la reconnaissance faciale variait de presque 30% entre un homme blanc et une femme noire : dans les systèmes créés par IBM, un homme blanc était reconnu à 99,7%, une femme noire à seulement 65,3%. L’analyse des erreurs d’un autre système, celui de Microsoft, montrait que 93,6% des erreurs de reconnaissance faciale concernaient des personnes non blanches. En 2019, c’est une étude fédérale, menée par l’Institut national des standards et des technologies américain (NIST), qui aboutissait au même constat : les membres de certains groupes pouvaient donner lieu à des erreurs d’identification 100 fois plus souvent que d’autres. 

 

La reconnaissance faciale en Europe

Ce débat existe également en Europe. La Commission européenne a récemment planché sur l’utilisation de la reconnaissance faciale dans les lieux publics. Dans son Livre blanc sur l’intelligence artificielle, l’exécutif européen soumet les conditions d’utilisation des caméras à des fins d’identification automatique à un débat public.

Rappelons que l’article 4 (14) du RGPD interdit à l’heure actuelle le traitement des données biométriques à des fins d’identification d’individus à moins que la sécurité nationale ou l’intérêt public soient en jeu. De plus, selon l’article 6, les données personnelles d’un individu ne peuvent être traitées sans son consentement explicite.

Le RGPD n’empêche pas pour autant les États membres d’envisager le déploiement de systèmes de reconnaissance faciale sur leurs territoires. La France prévoit d’autoriser l’intégration de technologies de reconnaissance faciale aux systèmes de surveillance vidéo, et l’Allemagne compte déployer de tels systèmes dans 134 gares et 14 aéroports. Des mesures qui seront donc, si l’on suit les préconisations de la Commission Européenne, soumises à un grand débat public.