Algocratia

Depuis le 1^er août 2024, un Règlement fixe les règles d’utilisation de l’Intelligence artificielle au sein de l’Union européenne. 

La France est le premier pays européen à expérimenter l’usage de la vidéosurveillance algorithmique à des fins sécuritaires depuis 2023. La technologie qui se fonde sur l’IA cible huit types de situation inhabituelle scrutée par les autorités : le non-respect du sens de circulation ; le franchissement ou présence dans une zone sensible ou interdite ; les mouvements de foule ; la densité trop importante de personnes ; les colis abandonnés ; la présence ou utilisation d’armes ; la personne au sol ; les départs de feux. L’expérience pilote menée dans le cadre de la loi relative aux Jeux Olympiques et Paralympiques précise qu’aucun système d’identification biométrique ou de reconnaissance faciale n’est utilisé. En ce début d’année 2025, la France est en passe de généraliser la vidéosurveillance utilisant l’IA¹.

La capitale britannique enregistre la concentration de caméras de surveillance la plus élevée au monde en dehors de la Chine². Certains commerces du Royaume-Uni n’hésitent pas à implémenter la reconnaissance faciale pour lutter contre la recrudescence des vols. S’ils sont censés mettre en exergue l’information à l’entrée du magasin, tous ne le font pas, impliquant de facto l’impossibilité pour le client de donner son consentement³.  

En Suisse, plusieurs polices cantonales utilisent la comparaison d’images faciales à des fins d’enquête. Or, cette pratique ne repose sur aucune base légale actuellement. Fedpol prévoit l’emploi de technologies basée sur l’IA dès 2026 excluant toutefois le live scan⁴. Dans le domaine du commerce de détail, un article de ce début février révèle que des « caméras intelligentes » sont installées dans certains magasins Coop, notamment près des caisses automatiques, pour s’assurer que les clients scannent bien tous leurs articles. Même si un pictogramme à l’entrée des magasins informe de la présence de caméras, peu de consommateurs sont au courant du potentiel supplémentaire qu’apporte l’analyse en temps réel d’images par un logiciel IA. La nature des données collectées reste inconnue à ce stade⁵. 

A Moscou, la surveillance algorithmique s’active depuis plusieurs années. Suivi en temps réel des téléphones portables et reconnaissance faciale dans l’espace public rythme la vie des habitants. La surveillance massive dans les écoles ou la traque permanente des déplacements des personnes endettées font partie d’une architecture systémique en voie de privatisation⁶.

L’exemple le plus abouti nous vient de Chine où la surveillance numérique permanente vise à ordonnancer les comportements sociaux des citoyens. Un crime grave ou le simple fait de traverser au feu rouge aboutit, outre la stigmatisation publique, à une panoplie variée de restrictions. Obtenir une mauvaise note personnelle peut notamment limiter l’accès aux crédits bancaires, aux aides sociales ou au droit de voyager. Le pays vise à devenir le leader mondial de l’intelligence artificielle d’ici 2030⁷.

Les migrants qui entrent en territoire européen ont été la cible d’expérimentations technologiques pour développer ou améliorer les systèmes de contrôle utilisant l’IA. Filmés par une webcam lors d’interrogatoires préliminaires à l’établissement de leur identité, un programme abandonné aujourd’hui, prétendait détecter d’éventuels mensonges en se basant sur les microgestes des personnes ou au travers de l’analyse de réactions émotionnelles⁸.

Face aux menaces sécuritaires, les instances dirigeantes sauront-elles conserver les libertés individuelles et l’éthique au cœur de leurs préoccupations ? L’accélération fulgurante du développement des usages de l’IA, qui bouscule les délais habituels nécessaires à l’élaboration des règles de droit, représente également un défi majeur pour nos démocraties. 

La BCUL vous propose une sélection de documents en lien avec la thématique.

1. https://www.publicsenat.fr/actualites/societe/videosurveillance-algorithmique-lexperimentation-pendant-les-jo-une-simple-etape-vers-la-generalisation ↩︎
2. https://www.lemonde.fr/economie/article/2025/01/12/londres-sous-le-diktat-de-la-reconnaissance-faciale_6493772_3234.html ↩︎
3. https://www.rfi.fr/fr/podcasts/reportage-international/20250216-au-royaume-uni-de-plus-en-plus-de-commerces-utilisent-la-reconnaissance-faciale-sans-encadrement ↩︎
4. https://www.fedpol.admin.ch/fedpol/fr/home/sicherheit/personenidentifikation-neu/gesichtsbildabgleich.html-afis2026-f.pdf ↩︎
5. https://www.letemps.ch/cyber/intelligence-artificielle/exclusif-en-toute-discretion-coop-a-deploye-des-cameras-intelligentes-dans-certains-magasins?srsltid=AfmBOoq9JuQ6INHV5ulj6tQT8uqsmwBD19ILDUr6fYy–kl-g6QllfXm ↩︎
6. https://www.letemps.ch/monde/europe/moscou-opte-surveillance-totale-chinoise?srsltid=AfmBOoo6bWHIvUEVToILEm9DiVlctJqLbqemkdNKEgH_Ud5UAyb24wtA ↩︎
7. https://www.rts.ch/info/monde/11137943-la-chine-veut-noter-tous-ses-habitants-et-installe-600-millions-de-cameras.html ↩︎
8. https://www.infomigrants.net/fr/post/62762/en-europe-les-migrants-premieres-victimes-de-lintelligence-artificielle ↩︎