Link list
L’inévitable débat sur la reconnaissance faciale arrive enfin en France, et le gouvernement esquisse sa réponse. Dans un entretien paru dans Le Monde du 15 octobre, le secrétaire d’État au numérique Cédric O, ancien cadre du groupe Safran, a notamment estimé qu’« expérimenter » la reconnaissance faciale était « nécessaire pour que nos industriels progressent ».
Mais cette prise de parole au plus haut niveau politique n’est que la partie émergée de l’iceberg. Car depuis des mois, notes et rapports officiels se succèdent pour souligner le défi que constitue l’« acceptabilité sociale » de ces technologies. Pour leurs auteurs, l’objectif est clair : désarmer les résistances à ces nouvelles modalités d’authentification et d’identification biométriques dont la prolifération est jugée inéluctable, et permettre à des industriels français comme Thales ou Idemia [une entreprise de sécurité numérique] de se positionner face à la concurrence chinoise, américaine ou israélienne.
L’enjeu est d’autant plus pressant que, contrairement à ce que laisse entendre Cédric O, les dispositifs de reconnaissance faciale sont déjà en place sur le territoire français. Depuis plusieurs années, des entreprises développent et testent ces technologies grâce à l’accompagnement de L’État et l’argent du contribuable. Le tout sans réel encadrement ni transparence.
La campagne participative de recherche-action Technopolice.fr, lancée début septembre par des associations de défense des libertés, a commencé à documenter les projets lancés au niveau national et local – à Paris, Nice, Marseille, Toulouse, Valenciennes et Metz notamment. Outre la reconnaissance faciale, d’autres applications greffées aux flux de vidéosurveillance et fondées elles aussi sur des techniques d’« intelligence artificielle » font également l’objet d’expérimentations, comme l’analyse des émotions ou la détection de « comportements suspects ».
« Rassurer » l’opinion publique
Alors, face aux oppositions portées sur le terrain et jusque devant les tribunaux par les collectifs mobilisés contre ces déploiements, les représentants de l’Etat et les industriels font front commun. Leur but n’est pas tant d’expérimenter que de tenter de « rassurer » l’opinion publique, le temps d’œuvrer à la banalisation de ces technologies et de mettre la population devant le fait accompli.
Les garanties mises en avant dans la communication gouvernementale – instance de supervision sous l’égide de la Commission nationale de l’informatique et des libertés (CNIL), pseudo-consultation et adoption future de règles juridiques qui dessineraient un modèle « acceptable » de reconnaissance faciale « à la française » – sont tout bonnement illusoires. L’histoire récente l’illustre amplement. La loi « informatique et libertés », adoptée en 1978 en réaction aux premiers scandales liés au fichage d’Etat, n’a de toute évidence pas permis, comme c’était pourtant son objectif, de juguler l’avènement d’une société de surveillance.
Pire, dans ce domaine, la CNIL a vu ses pouvoirs systématiquement rognés depuis quinze ans, donnant le change à des présidents successifs ayant souvent contribué à cette impuissance. Quant à l’exemple des fichiers de police, il suffirait à démontrer que, même une fois inscrites dans la loi, les dispositions destinées à protéger les droits fondamentaux sont systématiquement contournées.
Or ces technologies biométriques augurent un changement de paradigme dans l’histoire de la surveillance. A terme, elles reviennent à instaurer un contrôle d’identité permanent et généralisé, exigeant de chaque personne qu’elle se promène en arborant une carte d’identité infalsifiable, qui pourra être lue sans qu’elle ne le sache par n’importe quel agent de police. L’histoire devrait nous servir de leçon : si nos grands-mères et nos grands-pères avaient dû vivre au début des années 1940 dans un monde saturé de tels dispositifs, ils n’auraient pas pu tisser des réseaux clandestins capables de résister au régime nazi.
Déshumaniser les rapports sociaux
En dépit de leurs effets politiques délétères, ces coûteuses machines seront incapables d’apporter la sécurité vantée par leurs promoteurs. Les milliards d’euros dépensés depuis plus de vingt ans au nom du « solutionnisme technologique » en vogue dans les milieux de la sécurité devraient là encore nous en convaincre : la technologie s’est avérée inopérante pour enrayer les formes de violence qui traversent nos sociétés. Sous couvert d’efficacité et de commodité, elle conduit à déshumaniser encore davantage les rapports sociaux, tout en éludant les questions politiques fondamentales qui sous-tendent des phénomènes tels que la criminalité.
C’est pourquoi, contre cette offensive concertée de L’État et des industriels qui, à tout prix, cherchent à imposer la reconnaissance faciale, nous devons dire notre refus. Aux États-Unis, après les mobilisations citoyennes, plusieurs municipalités, ainsi que l’Etat de Californie, ont commencé à en proscrire les usages policiers.
A notre tour, nous appelons à l’interdiction de la reconnaissance faciale.
Est-on tous surveillés ? Le gouvernement veut mettre en place deux mesures qui vont dans ce sens. Le ministre des Comptes publics, Gérald Darmanin, aimerait bien que le fisc puisse surveiller les réseaux sociaux pour scruter votre train de vie. Quant au secrétaire d’État au numérique, Cédric O, il voudrait faciliter les expérimentations de reconnaissance faciale pour la vidéo-surveillance.
L’État s’immisce un peu trop dans nos vies privées. Quand on vous dit que Google lit vos mails, pour y détecter vos envies d’achats ou de voyages, que Facebook stocke tous vos échanges à jamais, est-ce plus choquant que lorsqu’on vous dit que l’État français veut aller espionner vos activités sur les réseaux sociaux et qu’il veut surveiller vos allers et venues partout ?
Dire les choses comme ça peut apparaître comme caricatural, totalement exagéré, mais rien de ce qui vient d'être décrit n’est aujourd’hui de la science-fiction. Que veut exactement autoriser le gouvernement ?
Industrialiser des contrôles fiscaux d'un nouveau genre
Concrètement, si vous postez des selfies au bord d’une piscine dans une grande villa alors que vous gagnez 1.000 euros par mois, c’est suspect. Avec des capacités de calculs toujours plus grandes et l’intelligence artificielle, on peut industrialiser ces contrôles fiscaux d’un nouveau genre. Ce n’est plus votre voisin qui vous dénonce, c’est vous-même, avec votre propre vie numérique.
Se dirige-t-on vers une surveillance généralisée ?
Le gouvernement voudrait aussi expérimenter une autre technologie en plein boom : la reconnaissance faciale. Pour s’identifier dans des démarches administratives, il suffit d’enregistrer votre visage. Comme toutes les innovations ça doit vous simplifier la vie sauf que derrière ça ouvre des questions vertigineuses notamment la possibilité d’une surveillance généralisée, à portée de technologie.
Le gouvernement voudrait aussi ouvrir un peu plus les expérimentations de reconnaissance faciale dans la vidéo surveillance. Si on possède votre profil, on peut vous identifier dans une foule ou dans les transports. Dans une ville comme Nice, qui détient le record de caméra au mètre carré, tous vos mouvements pourront être suivis en temps réel et enregistrés. Que vous soyez d’accord ou pas, honnête ou pas.
Quelles sont les raisons du gouvernement ?
La première raison est économique et stratégique. Nous avons des champions de la reconnaissance faciale comme Idemia, leader mondial de la biométrie inconnu du grand public, ou le groupe Thales. Leurs concurrents sont des entreprises chinoises. Cet argument de la compétitivité de nos entreprises est toujours un peu bizarre. Nos derniers champions de l’espionnage de masse ont vendu à des pays comme la Libye ou l’Égypte des moyens de surveillance pour traquer leurs opposants politiques. C’est une drôle de compétitivité.
La deuxième raison qui pousse le gouvernement à vouloir autoriser la reconnaissance faciale c’est la pression de la police et de la gendarmerie, qui rêvent à voix haute "d’un contrôle d’identité permanent et général." Circulez, on vous surveille sans rien vous demander.
Est-ce un progrès pour la sécurité ?
On ne passe pas d’une société de liberté à une société totalitaire forcément du jour au lendemain. Mais dans l’époque un peu agitée dans laquelle nous sommes, il faut faire attention et toujours penser à après-demain. Si on se rapproche d’un régime illibéral, comme on dit aujourd’hui, entre les mains de qui aurons-nous mis demain tous ces outils de fichage généralisé ultra puissants ? Le gouvernement a compris qu’il fallait en débattre. Est-ce pour limiter ces technologies ou les rendre acceptables ? C’est déjà un premier débat.
1984 Derrière Winston, la voix du télécran continuait à débiter des renseignements sur la fonte et sur le dépassement des prévisions pour le neuvième plan triennal. Le télécran recevait et transmettait simultanément. Il captait tous les sons émis par Winston au-dessus d’un chuchotement très bas. De plus, tant que Winston demeurait dans le champ de vision de la plaque de métal, il pouvait être vu aussi bien qu’entendu. Naturellement, il n’y avait pas moyen de savoir si, à un moment donné, on était surveillé. Combien de fois, et suivant quel plan, la Police de la Pensée se branchait-elle sur une ligne individuelle quelconque, personne ne pouvait le savoir. On pouvait même imaginer qu’elle surveillait tout le monde, constamment. Mais de toute façon, elle pouvait mettre une prise sur votre ligne chaque fois qu’elle le désirait. On devait vivre, on vivait, car l’habitude devient instinct, en admettant que tout son émis était entendu et que, sauf dans l’obscurité, tout mouvement était perçu .
2020 - Le dernier comptage effectué en 2012 par la CNIL (Commission nationale informatique et libertés) faisait état de 935 000 caméras de surveillance installées sur notre territoire. Le nombre doit maintenant dépasser allègrement le million. Où sont-elles ? Partout ! Aux guichets de banque, dans les bureaux de tabac, les parkings, les couloirs de métro et même sur les lieux de travail. Avant un nouveau comptage, la dynamique ne n’infléchit pas sur le territoire : En 2018, 23 nouvelles caméras de vidéosurveillance ont été installées à Tours, le nombre de caméras dans cette ville ayant quadruplé en quatre ans. À Béziers, la mairie à fait savoir, dans un communiqué en janvier 2019, que la ville allait doubler le nombre de caméras de vidéosurveillance d’ici deux ans, passant de 90 début 2019, à 200 fin 2020, appuyant cette volonté d’un tweet et de mots dont je vous laisse juge.
L’efficacité réelle ? le grand mystère !
Dès 2011, la Cour des comptes s’agaçait de l’absence d’évaluation de l’efficacité de cette approche sur la voie publique : « Les différentes études conduites à l’étranger, notamment au Royaume-Uni, aux États-Unis et en Australie ne démontrent pas globalement l’efficacité de la vidéosurveillance de la voie publique », s’inquiétait-elle même dans son rapport. Le flot d’images qu’elles diffusent est humainement impossible à regarder ! Et l’analyse automatique reste expérimentale.
En 2010, Laurent Mucchielli, directeur de recherche au CNRS, répondait lors d’une audition publique à un questionnement de la mairie de Toulouse qui souhaitait savoir si la vidéosurveillance était un bon moyen pour lutter contre les problèmes de délinquance et d’incivilités. En s’appuyant sur les recherches internationales et sur des évaluations locales réalisées en France des rapports publics, six constats ont été formulés :
1 - La vidéosurveillance de voie publique est une technologie qui présente à l’heure actuelle un faible intérêt comme outil de lutte contre la délinquance, tant en termes préventifs que répressifs.
2 - Elle se heurte à des limites inhérentes à la réalité délinquante, ainsi qu’à des limites en termes de coût financier, de carence doctrinale et de déficit chronique de coordination des différentes catégories d’agents publics (voire privés) concernés.
3 - Son principal impact est sans doute symbolique : la vidéosurveillance peut rassurer certaines personnes plus sujettes que d’autres au sentiment d’insécurité (commerçants du centre-ville, personnes âgées, etc.), elle peut aussi servir à des élus à afficher une politique de sécurité.
4 - Son coût est tel qu’il oblige fatalement à abandonner d’autres dépenses et à renoncer à d’autres types d’embauche d’agents contribuant à la tranquillité publique.
5 - La pression que l’État exerce actuellement sur les collectivités territoriales par le biais de l’incitation financière ainsi que par la mobilisation des préfets et des fonctionnaires de police et de gendarmerie a nécessairement d’autres raisons que la recherche d’une meilleure efficacité de la politique de sécurité. Le contexte de désengagement de l’État et de réduction des fonctionnaires en fait partie. La volonté d’affichage d’une politique permettant de masquer la persistance du haut niveau des problèmes de délinquance me semble également une hypothèse légitime. Les liens avec le monde de la sécurité privée seraient à explorer.
6 - Le pays européen le plus vidéosurveillé – le Royaume-Uni – est en train de faire machine arrière en parvenant à peu près aux mêmes constats. C’est ce qu’ont déclaré à plusieurs reprises ces dernières années les policiers londoniens et c’est ce qu’a entériné récemment le nouveau premier ministre Boris Johnson. En conclusion, un chercheur indépendant ne peut que mettre en garde les élus contre ce « mirage technologique » et rappeler qu’il existe bien d’autres façons d’essayer de réduire le niveau de délinquance dont souffrent l’ensemble de nos concitoyens.
Et Laurent Mucchielli de conclure :
« Un chercheur indépendant ne peut que mettre en garde les élus contre ce « mirage technologique » et rappeler qu’il existe bien d’autres façons d’essayer de réduire le niveau de délinquance dont souffrent l’ensemble de nos concitoyens. »
En 2018, le sociologue évoquait à nouveau dans son ouvrage, Vous êtes filmés ! Enquête sur le bluff de… la vidéosurveillance un gaspillage de l’argent public déniant toutes les recherches et études sérieuses. « Depuis plus de vingt ans, le monde scientifique, par la voix de chercheurs français et étrangers, ne cesse de juger, chiffres à l’appui, l’impact très limité de la vidéosurveillance sur l’insécurité ! »
À l’approche de 2020 la poursuite de la fuite en avant de certaines municipalités, démontre que la science à peu d’effet, sur des postures éléctoralistes.
Pour contre-argumenter, les fervents adeptes de l’utilisation de caméras évoquent le fait que le manque d’efficience régulièrement pointée – hier comme aujourd’hui – est, entre autres, lié au fait que cette dernière gagnerait en efficacité si elle était couplée à de la reconnaissance faciale. C’est désormais chose faite en France, mais pour l’instant de façon parcimonieuse. Pour rappel, la Commission nationale de l’informatique et des libertés (CNIL) a autorisé la reconnaissance faciale avant d’embarquer dans l’Eurostar à la gare du Nord. Dans la même dynamique « pour fluidifier (Ndla : argument mis en avant) les contrôles aux frontières », des sas à reconnaissance faciale sont opérationnels depuis juillet 2018 dans les aéroports parisiens.
Pour autant, la CNIL n’est pas favorable à la généralisation de la reconnaissance faciale dans tous les lieux publics :
« Si cette technologie n’en est qu’à ses balbutiements, il importe de comprendre que son caractère intrusif est croissant puisque la liberté d’aller et venir anonymement pourrait être remise en cause. »
Les similitudes et analogies entre l’ouvrage « 1984 » et notre société contemporaine pourraient se multiplier. Mais je doute que le lecteur lise une chronique de 300 pages.
La vidéosurveillance ne connaît pas la crise
L’entretien de la peur fait recette pour la surveillance dans une époque où, tant pour le politique que pour certains secteurs d’activités liés à la protection des personnes : ici pour légitimer des lois controversées, là pour multiplier les offres de produits sécurisants le citoyen chez lui. Si nous pouvons pointer des arguments fallacieux niant les conclusions d’experts sur des dérives d’usages à fin électoraliste, nous ne pouvons pourtant pas nier la recrudescence des cambriolages. Depuis le 1er janvier dernier (Ndla 2019), les cambriolages en France ont augmenté de 1,15 %, passant ainsi de 114 917 à 116 237 faits qui ont été dénoncés auprès des autorités.
Dans ce contexte, le marché de la vidéosurveillance (partie intégrante du domaine de la sécurité) se porte bien. Comme le souligne une étude de MSI publiée en mai 2019, cette croissance – même si elle se ralentie du fait du non renouvellement d’usagers déjà équipés – est « favorisée par le maintien d’un sentiment d’insécurité important, mais également par la diminution de la réticence à l’installation de caméras tant dans l’espace public que privé ».
En 2020, « 1984 » n’a pas perdu son statut de chef d’œuvre. Celui de dystopie est devenu plus discutable. La dystopie est presque devenue réalité, mais une dystopie… dysfonctionnelle : problématique de tri des données récoltées, de l’efficacité des outils de surveillance… avec la complicité des citoyens (par exemple, le développement de la possibilité de vendre ses données personnelles). Pour combien de temps le sera-t-elle encore (dysfonctionnelle) ? Je l’ignore. De là ou George Orwell observe Londres, la ville où il est décédé le 21 janvier 1950 et qui compte aujourd’hui plusieurs centaines de milliers de caméras, ce dernier doit songer aux vers d’Alfred de Musset (La Coupe et les lèvres, 1831) :
Je hais comme la mort l’état de plagiaire ;
Mon verre n’est pas grand, mais je bois dans mon verre
C’est bien peu, je le sais, que d’être homme de bien,
Mais toujours est-il vrai que je n’exhume rien. »
SECURITE La Quadrature du Net, la Ligue des droits de l’Homme, CGT Educ’Action des Alpes-Maritimes et la Fédération des conseils de parents d’élèves s’associent. Le mouvement entend « résister à la surveillance totale de nos villes et de nos vies ».
Dans une petite salle sans fenêtre du centre-ville de Nice, ça cause « big data », « smart-city » et « intelligence artificielle ». Des mots qui, accolés aux questions de sécurité, inquiètent les responsables de la Quadrature du Net, de la Ligue des droits de l'Homme, de la FCPE 06 et de la CGT 06. Ces quatre organisations lancent « Technopolice », une campagne « contre la surveillance technologique de l’espace urbain à des fins policières ». Le mouvement entend « résister à la surveillance totale de nos villes et de nos vies ».
Si le collectif Technopolice a choisi Nice pour lancer sa campagne, ce n’est pas vraiment un hasard. C’est ici que la reconnaissance faciale a été expérimentée lors du carnaval et qu’un lycée va tester les portiques intelligents. C’est aussi dans la capitale azuréenne que la détection des émotions dans le tram est en projet et que le programme Safe-city met en relation toutes ces données.
« On a constaté un développement de ces dispositifs de surveillance sans vraiment de contrôle, sans aucun débat public, sans réflexion sur les droits fondamentaux, explique Martin Drago de la Quadrature du Net. Les questions de libertés ne sont pas assez abordées. Or, on ne va pas sortir manifester dans la rue de la même façon si on sait qu’on va être identifié. La notion de consentement, la finalité du traitement de nos données, l’anonymisation des données personnelles sont des questions importantes. »
Contactée, la ville de Nice n’a pas souhaité réagir.
« Il y a toujours ce flou »
Ces quatre associations s’étaient déjà réunies. C’était en février pour une procédure commune. Ensemble, ils ont saisi le tribunal administratif pour s'opposer à l’expérimentation de la reconnaissance faciale dans les lycées de la région Sud.
Désormais rassemblées en collectif, elles ont créé un site web avec un forum, une base de données documentaires et une plateforme afin de coordonner les recherches et les actions autour de la « surveillance technologique ». « On dénonce l’opacité de ces projets. Qu’est-ce que ça va donner ? Quand ça va commencer ? On ne comprend pas, affirme Martin Drago. Il y a toujours ce flou où c’est à nous d’aller creuser pour savoir ce qui va se passer. » Technopolice a déjà tracté devant le lycée Ampère de Marseille, toujours au sujet des portiques de sécurité.
Le collectif s’inquiète de la confidentialité et de la marchandisation des données. « On est convaincus que les enfants sont de futurs citoyens, pointe Laetitia Siccardi de la FCPE 06. La question des libertés fondamentales n’est pas à mettre de côté. Il faut que nos enfants soient conscients qu’ils ont des libertés et que c’est précieux. »
Microsoft clarifie l'écoute humaine d'enregistrements audio de Cortana et pour Skype avec son service de traduction. Une clarification mais pas d'interruption.
Comme Amazon, Apple, Google et plus récemment Facebook, Microsoft a aussi été épinglé pour des écoutes par des sous-traitants humains d'enregistrements audio de Cortana ou encore avec le service de traduction de Skype.
Il est surtout reproché à toutes ces entreprises technologiques le fait qu'elles n'ont pas spécifié de manière claire que des humains pouvaient ainsi être à l'écoute.
Afin de contribuer à l'amélioration de systèmes d'intelligence artificielle, une collecte et l'utilisation de certaines données vocales n'étaient pas cachées, et avec une possibilité de contrôle de l'utilisateur. Sauf qu'il n'était pas fait mention de manière explicite du recours à des sous-traitants à oreille humaine.
Chacun à leur manière, Amazon, Apple, Google et Facebook ont déjà réagi à la suite des révélations. Des justifications, mais aussi une mise en pause de ce " système d'écoute " pour Apple, Google et Facebook, tandis qu'Amazon propose de nouvelles options et améliore son information sur le sujet.
Microsoft ne fait pas de pause, mais a mis à jour sa politique en matière de confidentialité afin de la clarifier. Que ce soit pour Cortana ou pour le service de traduction sur Skype, on peut désormais lire une même tournure de phrase. C'est le deuxième paragraphe ci-dessous qui est nouveau :
" Lorsque vous parlez à Cortana ou à d'autres applications utilisant des services vocaux Microsoft, Microsoft enregistre une copie de vos enregistrements vocaux (à savoir, vos données vocales) pour aider nos moteurs de reconnaissance à mieux vous comprendre et optimiser votre expérience avec d"autres services de reconnaissance vocale personnalisés qui vous aideront à trouver ce que vous recherchez.
Cela peut inclure la transcription des enregistrements audio par des employés et fournisseurs Microsoft, sous réserve des procédures conçues pour hiérarchiser la confidentialité des utilisateurs, y compris les étapes de désidentification des données, nécessitant des contrats de non-divulgation avec les fournisseurs et leurs employés, et demandant aux fournisseurs de respecter les strictes normes de confidentialité définies dans la législation européenne et ailleurs. "
Microsoft propose un outil pour le contrôle de la confidentialité. À Motherboard, un porte-parole du groupe de Redmond a indiqué : " Nous avons mis à jour notre déclaration de confidentialité et nos foires aux questions (FAQ) sur nos produits afin de les rendre plus claires. Nous continuerons d'examiner d'autres mesures que nous pourrions prendre. "